OpenAI добавляет в свой API o1, свою «рассуждающую» модель искусственного интеллекта, но только для некоторых разработчиков.
По словам компании, начиная со вторника o1 начнет распространяться среди разработчиков в категории использования OpenAI «уровня 5». Чтобы претендовать на уровень 5, разработчики должны потратить не менее 1000 долларов США на OpenAI и иметь учетную запись старше 30 дней с момента их первого успешного платежа.
O1 заменяет модель o1-preview, которая уже была доступна в API.
В отличие от большинства ИИ, так называемые модели рассуждения, такие как o1, эффективно проверяют факты, что помогает им избежать некоторых ошибок, которые обычно сбивают с толку модели. Недостатком является то, что им часто требуется больше времени для принятия решений.
Они также довольно дороги — отчасти потому, что для их работы требуется много вычислительных ресурсов. OpenAI взимает 15 долларов США за каждые ~750 000 слов при анализе и 60 долларов США за каждые ~750 000 слов, генерируемых моделью. Это в 6 раз дороже последней «неразумной» модели OpenAI — GPT-4o.
O1 в OpenAI API гораздо более настраиваемый, чем o1-preview, благодаря новым функциям, таким как вызов функций (который позволяет подключать модель к внешним данным), сообщениям разработчика (которые позволяют разработчикам инструктировать модель по тону и стилю) и анализ изображений. Помимо структурированных выходных данных, o1 также имеет параметр API «reasoning_effort», который позволяет контролировать, как долго модель «думает», прежде чем ответить на запрос.
OpenAI заявила, что версия o1 в API — а вскоре и платформа чат-ботов с искусственным интеллектом ChatGPT — представляет собой «новую постобученную» версию o1. По сравнению с моделью o1, выпущенной в ChatGPT две недели назад, эта, «o1-2024-12-17», улучшает «области поведения модели, основанные на обратной связи», туманно сообщил OpenAI.
«Мы развертываем доступ постепенно, одновременно работая над расширением доступа к дополнительным уровням использования и увеличением ограничений скорости», — написала компания в своем блоге.
В заметке на своем веб-сайте OpenAI заявила, что новейшая версия o1 должна предоставлять «более полные и точные ответы», особенно на вопросы, касающиеся программирования и бизнеса, и с меньшей вероятностью будет ошибочно отклонять запросы.
Что касается других новостей, связанных с разработкой, во вторник OpenAI анонсировала новые версии своих мини-моделей GPT-4o и GPT-4o как часть Realtime API, API OpenAI для создания приложений с голосовыми ответами, генерируемыми искусственным интеллектом, с малой задержкой. Новые модели («gpt-4o-realtime-preview-2024-12-17» и «gpt-4o-mini-realtime-preview-2024-12-17»), которые отличаются повышенной эффективностью и надежностью передачи данных, также дешевле. использовать, сказал OpenAI.
Говоря об API Realtime (без каламбура), он остается в стадии бета-тестирования, но получил несколько новых возможностей, таких как параллельные внеполосные ответы, которые позволяют запускать фоновые задачи, такие как модерация контента, не прерывая взаимодействия. API теперь также поддерживает WebRTC, открытый стандарт для создания голосовых приложений в реальном времени для браузерных клиентов, смартфонов и устройств Интернета вещей.
И это не случайно: в начале декабря OpenAI наняла создателя WebRTC Джастина Уберти.
«Наша интеграция WebRTC предназначена для обеспечения плавного и оперативного взаимодействия в реальных условиях, даже при переменном качестве сети», — написал OpenAI в блоге. «Он обеспечивает кодирование звука, потоковую передачу, подавление шума и контроль перегрузок».
В последнем из своих обновлений во вторник OpenAI внесла тонкую настройку предпочтений в свой API тонкой настройки; точная настройка предпочтений сравнивает пары ответов модели, чтобы «научить» модель различать предпочтительные и «непредпочтительные» ответы на вопросы. И компания запустила бета-версию «раннего доступа» для официальных наборов разработчиков программного обеспечения на Go и Java.
