Сейчас одним из наиболее существенных трендов в машинном обучении является генерация текста. Системы искусственного интеллекта обучаются, поглощая миллиарды слов из интернета, и генерируют текст в ответ на различные запросы. В конечном итоге эти машины можно использовать для решения широкого круга задач – от создания художественной литературы до написания кода и предоставления возможности пообщаться с историческими личностями.
Самый известный текстовый генератор на базе ИИ – OpenAI GPT-3. Как заявляет компания, он используется «десятками тысяч» разработчиков в более чем 300 различных приложениях и создаёт 4,5 миллиарда слов в день. Эту информацию можно рассматривать как полезный индикатор растущего масштаба, влияния и коммерческого потенциала создания текстов посредством ИИ.
OpenAI начинала свой путь как некоммерческая организация, но последние несколько лет она пыталась заработать на GPT-3 в качестве своего первого продаваемого продукта. Компания имеет эксклюзивное соглашение с Microsoft, которое даёт технологическому гиганту уникальный доступ к базовому коду программы. Вместе с тем, любая другая компания также может подать заявку на доступ к общему API GPT-3 и создавать собственные сервисы на его основе.
И по данным OpenAI, сотни компаний пользуются такими возможностями. Например, стартап Viable использует GPT-3 для анализа отзывов потребителей; Fable Studio использует программу для создания диалогов в виртуальной реальности; Algolia применяет её для улучшения своих продуктов для поиска в интернете.
Однако такой подход не устраивает стартапы. Многие аналитики отмечают, что нерационально строить компанию на технологиях, которыми стартапы на самом деле не владеют. Использовать GPT-3 для создания стартапа очень просто, но и для конкурентов это будет тоже просто. При этом ни одна компания не выиграет от использования этой технологии так, как сама OpenAI.
Ещё одним поводом для беспокойства является тот факт, что на текущий момент у таких систем генерации текста на базе ИИ всё ещё наблюдаются проблемы с качеством. Как и многие алгоритмы, текстовые генераторы способны поглощать и усиливать пагубные тенденции. К тому же они часто бывают поразительно глупыми. В тестах медицинского чат-бота, созданного с использованием GPT-3, модель реагировала на «суицидальных» пациентов, побуждая их покончить с собой. Эти проблемы не являются непреодолимыми, но о них определённо нужно знать в мире, где плата за ошибку алгоритма может быть слишком высокой.
Источник: The Verge
