WebCrawler API
API для парсинга веб-сторінок та конвертації їх у чистий markdown формат, оптимізований для AI агентів. Сервіс автоматично завантажує сторінки, витягує корисний контент та очищує його від реклами, меню, футерів та іншого сміття. Результат повертається у форматованому markdown, готовому для використання в промптах або індексації. Інтегрується за 60 секунд через REST API з підтримкою всіх популярних мов програмування. Включає розумне кешування, яке прискорює повторні запити до 10 разів — з 4.7 до 0.9 секунд. Функція детекції змін дозволяє отримувати лише оновлений контент з сайтів без дублікатів та непотрібних API викликів. Підтримує налаштування лімітів сторінок та обхід кешу через параметр max_age.