Cloudflare представила новые инструменты для развертывания и запуска сервисов с ИИ
Компания Cloudflare, которая предоставляет услуги CDN, защиты от атак DDoS, серверы DNS, а также безопасный доступ к ресурсам, презентовала свою платформу Cloudflare AI, к которой прилагается целая коллекция различных продуктов и приложений для создания, развертывания и запуска моделей ИИ. Ее основное предназначение – дать пользователям возможность разрабатывать полноценные и готовые к масштабированию приложения на базе искусственного интеллекта в сети Cloudflare. Ключевые преимущества: отсутствие потребности в собственных серверах и прямом управлении инфраструктурой, высокая скорость и доступность развертывания моделей ИИ.
Среди новых инструментов выделяют:
- Workers AI – позволяет определять, какие графические процессоры из принадлежащих партнерам Cloudflare физически находятся ближе всего к пользователю, дает к ним доступ для запуска моделей ИИ и предполагает оплату только по факту их эксплуатации.
- Vectorize – база данных, где можно хранить векторные вложения — математические представления данных, которые были созданы моделями Workers AI.
- AI Gateway – приложение дает аналитику, которая помогает пользователю лучше понимать финансовые затраты на запуск ИИ-сервисов и управлять ими.
Кроме создания и запуска новых моделей искусственного интеллекта, на платформе Cloudflare AI можно разрабатывать плагины для общеизвестного ChatGPT. Генеральный директор Cloudflare Мэтью Принс подчеркнул, что она позволяет не только обучать настраиваемые модели ИИ и создавать новые расширения для них, но также успешно решает финансовые сложности, касающиеся развертывания рабочих нагрузок ИИ, а еще обеспечивает надежную защиту данных клиентов. По его словам, к выпуску нового пакета ИИ-продуктов компанию подтолкнули пользователи, которые хотели получить простое, интуитивно понятное и экономное решение для управления ИИ.