GPT-3
Дата релиза:
Компания-разработчик:
OpenAI
GPT-3 (Generative Pre-trained Transformer 3) — третья версия языковой модели от OpenAI, представленная 28 мая 2020 года. Она значительно превосходит своих предшественников по количеству параметров и возможностям. Модель содержит 175 миллиардов параметров и была обучена на огромном корпусе текстовых данных, включая Common Crawl, WebText2, Books1, Books2 и Википедию. GPT-3 способна выполнять широкий спектр задач, включая перевод, суммаризацию, генерацию кода и даже простые рассуждения, демонстрируя способности к обучению без учителя и с минимальным количеством примеров. Однако из-за своего размера и сложности модель требует значительных вычислительных ресурсов для развертывания и использования.
Таблица характеристик GPT-3:
| Параметр | Значение |
|---|---|
| Название модели | GPT-3 (Generative Pre-trained Transformer 3) |
| Дата релиза | 28.05.2020 |
| Компания-разработчик | OpenAI |
| Архитектура | Трансформер (96-слойный декодер) |
| Количество параметров | 175 миллиардов |
| Контекстное окно | 2048 токенов |
| Обучающие данные | Common Crawl, WebText2, Books1, Books2, Википедия |
| Формат ввода | Текст |
| Возможности мультимодальности | Отсутствуют |
| Метод обучения | Предварительное обучение без учителя на неразмеченных данных |
| Способы доступа | Доступ через API OpenAI; эксклюзивная лицензия у Microsoft |
| Специализированные версии | Отсутствуют |
| Эффективность в задачах | Способна выполнять широкий спектр задач, включая перевод, суммаризацию, генерацию кода и простые рассуждения |
| Скорость отклика | Зависит от аппаратного обеспечения и реализации |
| Энергопотребление | Высокое из-за большого количества параметров |
| Безопасность и ограничения | Возможность генерации недостоверной или вредоносной информации; необходимость в механизмах фильтрации контента |
| Популярность и применение | Широко используется в различных приложениях, включая чат-боты, системы поддержки клиентов и генерацию контента |
| Лицензия и доступ | Проприетарная; доступ через API OpenAI и партнеров |
ChatGPT - ассистент OpenAI, который пишет и редактирует тексты, рисует и правит изображения, ищет в интернете, разбирает файлы и выполняет многошаговые задачи в агентном режиме ChatGPT Работа.