OpenAI выпустила голосовую GPT-Live-1.1 в API

Разработчики получили голосовую модель для разговоров в реальном времени. Новый режим ожидания сохраняет соединение в паузах по сниженной цене.
OpenAI выпустила голосовую GPT-Live-1.1 в API

OpenAI 20 ноября открыла GPT-Live-1.1 в API. Разработчики могут подключить модель к голосовым помощникам и другим приложениям с диалогом в реальном времени. Релиз также добавляет режим ожидания, в котором вызов по WebRTC остаётся открытым, когда собеседники молчат.

Как тарифицируются паузы

Разработчик выбирает тайм-аут от 5 до 60 секунд. После этого времени без речи модель приостанавливается, а вызов остаётся на линии. Когда человек снова заговорит, разговор продолжится в том же соединении. Это пригодится, например, если клиенту нужно найти номер заказа или сверить данные по документу.

По данным OpenAI, активный режим стоит $0,05 за минуту, а ожидание после срабатывания тайм-аута стоит $0,02 за минуту. Вызовы инструментов и работа серверной модели оплачиваются отдельно. Предыдущая GPT-Live-1 тоже поддерживает ожидание, поэтому его можно добавить в существующее приложение без перехода на GPT-Live-1.1.

Что меняется в диалоге

OpenAI заявляет, что GPT-Live-1.1 точнее воспринимает буквы и цифры, естественнее говорит с разными акцентами и лучше следует инструкциям. Первая особенность особенно важна для разговоров, в которых точность одного символа влияет на результат, например при уточнении номера бронирования.

Голосовая модель способна слушать пользователя, пока сама говорит, и передавать сложные запросы выбранной серверной модели. В документации OpenAI описан вариант, при котором сервис сам передаёт контекст и возвращает результат в голосовой диалог. Так помощник может поддерживать разговор, пока отдельная модель обращается к подключённым инструментам.

В ChatGPT Plus и Pro эта модель уже использовалась в голосовом режиме. Новшество 20 ноября касается сторонних приложений, для которых доступен идентификатор gpt-live-1.1. При расчёте расходов разработчикам стоит учитывать отдельно минуты разговора, паузы после тайм-аута и запросы к инструментам.

Источник:
10:41
61
Нет комментариев. Ваш будет первым!