Cloudflare представила нові інструменти для розгортання та запуску сервісів з ШІ
Компанія Cloudflare, яка надає послуги CDN, захисту від атак DDoS, сервери DNS, а також безпечний доступ до ресурсів, презентувала свою платформу Cloudflare AI, до якої додається ціла колекція різних продуктів та програм для створення, розгортання й запуску моделей ШІ. Її основне призначення – дати користувачам можливість розробляти повноцінні та готові до масштабування програми на базі штучного інтелекту в мережі Cloudflare. Ключові переваги: відсутність потреби у власних серверах та прямому управлінні інфраструктурою, висока швидкість та доступність розгортання моделей ШІ.
Серед нових інструментів виділяють:
- Workers AI – дозволяє визначати, які графічні процесори з тих, що належать партнерам Cloudflare, фізично знаходяться найближче до користувача, дає до них доступ для запуску моделей ШІ й стягує оплату тільки за фактом їх експлуатації.
- Vectorize – база даних, де можна зберігати векторні вкладення – математичні представлення даних, створених моделями Workers AI.
- AI Gateway – додаток дає аналітику, яка допомагає користувачу краще розуміти фінансові витрати на запуск ШІ-сервісів та керувати ними.
Окрім створення та запуску нових моделей штучного інтелекту, на платформі Cloudflare AI можна розробляти плагіни для загальновідомого ChatGPT. Генеральний директор Cloudflare Метью Прінс підкреслив, що вона не тільки дозволяє навчати моделі ШІ й створювати нові розширення для них, але також успішно вирішує фінансові складнощі, що стосуються розгортання робочих навантажень ШІ, і забезпечує надійний захист даних клієнтів. За його словами, до випуску нового пакету продуктів компанію підштовхнули користувачі, які хотіли отримати просте, інтуїтивно зрозуміле та економне рішення для управління ШІ.