AZON.моби
  • Новости
  • Обзоры
  • Смартфоны
  • Игры
  • Криптовалюты
No Result
View All Result
AZON.моби
No Result
View All Result
AZON.моби
Home Новости

К 2026 году могут закончиться данные для обучения больших языковых моделей ИИ

25.11.2022
Share on FacebookShare on Twitter

Большие языковые ИИ-модели на данный момент используют многие компании. Ведь с их помощью нейросети учатся генерировать связный текст или даже программный код. Эти модели обучаются на данных из «Виипедии», научных работах, книгах и так далее. Тенденция последних лет состоит в том, чтобы обучать модели на всё большем объёме данных в надежде, что это сделает их более точными. Однако возникла проблема.

Этоинтересно

Bitget запускает токенизированные акции в партнерстве с xStocks

10.07.2025
Представлен совершенно новый Mazda CX-5: полностью переработанный кроссовер с огромным экраном и гибридной силовой установкой

Представлен совершенно новый Mazda CX-5: полностью переработанный кроссовер с огромным экраном и гибридной силовой установкой

10.07.2025
К 2026 году могут закончиться данные для обучения больших языковых моделей ИИ

Как сообщается, типы данных, обычно используемые для обучения языковых моделей, могут закончиться примерно в 2026 году. Ведь исследователи создают более мощные модели со всё большими возможностями, и им нужно всё больше текстов.

Отчасти проблема проистекает из того факта, что исследователи готовят данные для обучения языковых моделей и предварительно фильтруют их по качеству. Текстами высокого качества могут быть хорошие статьи, а низкого — сообщения в социальных сетях или комментарии на сайтах. Хотя граница между этими понятиями довольно сильно размыта.

К 2026 году могут закончиться данные для обучения больших языковых моделей ИИ

Исследователи обычно обучают модели на текстах высокого качества, что дало свои результаты в системе GPT-3 и подобных ей. Однако если проблема нехватки материала возникнет в ближайшие годы, то нейросетям можно будет «скармливать» и менее качественные тексты.

Однако не все эксперты согласны с этим. Перси Лян, профессор компьютерных наук в Стэнфордском университете, заявил, что есть доказательства того, что небольшие модели, обученные на качественных текстах, оказывались лучше, чем крупные, которые обучали на некачественных.

Также можно обучать модели на одних и тех же текстах по несколько раз. Сейчас крупные языковые модели обучаются на одних и тех же данных только один раз. При этом в обучении нейросетей нередко принимают участие и сами пользователи. Примером может быть недавняя Galactica.

Другие новости

Bitget запускает токенизированные акции в партнерстве с xStocks

10.07.2025
Представлен совершенно новый Mazda CX-5: полностью переработанный кроссовер с огромным экраном и гибридной силовой установкой

Представлен совершенно новый Mazda CX-5: полностью переработанный кроссовер с огромным экраном и гибридной силовой установкой

10.07.2025
Главная премьера 2026 года: трейлер Sci-Fi фильма «Проект Аве Мария» собрал рекордные 400 млн просмотров за 7 дней

Главная премьера 2026 года: трейлер Sci-Fi фильма «Проект Аве Мария» собрал рекордные 400 млн просмотров за 7 дней

10.07.2025
«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

10.07.2025
Обзор монитора MSI MAG 271QP QD-OLED X24: когда цена не портит качество

Обзор монитора MSI MAG 271QP QD-OLED X24: когда цена не портит качество

10.07.2025
RTX 5090 по цене автомобиля? Asus дразнит изображением какой-то новой «БОЛЬШОЙ» видеокартой

RTX 5090 по цене автомобиля? Asus дразнит изображением какой-то новой «БОЛЬШОЙ» видеокартой

10.07.2025
Next Post
Обзор Realme GT Neo 3T: здравый выбор на несколько лет вперёд

Обзор Realme GT Neo 3T: здравый выбор на несколько лет вперёд

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
guest
0 комментариев
Старые
Новые Популярные
Межтекстовые Отзывы
Посмотреть все комментарии

Популярные новости

  • Тест-драйв Land Rover Defender: легенда нашего времени

    14 shares
    Share 6 Tweet 4
  • Посольство РФ требует от США информацию о главе WEX

    1 shares
    Share 0 Tweet 0
  • Выживание в S.T.A.L.K.E.R. 2? В GSC намекают на более хардкорный режим

    1 shares
    Share 0 Tweet 0
  • OPPO A5 и A5i Pro поступили на прилавки России: цены

    0 shares
    Share 0 Tweet 0
  • Основатель Twitter представил мессенджер, способный работать без интернета

    0 shares
    Share 0 Tweet 0

Подписка на новости


Информация

Использование любых материалов сайта разрешается при условии ссылки на AZON.mobi
Интернет-СМИ должны использовать прямую открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала.
Редакция сайта может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

Мы в соцсетях

ТОП новости

Bitget запускает токенизированные акции в партнерстве с xStocks

10.07.2025
Представлен совершенно новый Mazda CX-5: полностью переработанный кроссовер с огромным экраном и гибридной силовой установкой

Представлен совершенно новый Mazda CX-5: полностью переработанный кроссовер с огромным экраном и гибридной силовой установкой

10.07.2025
  • Разместить новости

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

No Result
View All Result
  • Новости
  • Игры
  • Криптовалюты
  • Обзоры
  • Смартфоны

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

wpDiscuz
0
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x
()
x
| Ответить