AZON.моби
  • Новости
  • Обзоры
  • Смартфоны
  • Игры
  • Криптовалюты
No Result
View All Result
AZON.моби
No Result
View All Result
AZON.моби
Home Новости

К 2026 году могут закончиться данные для обучения больших языковых моделей ИИ

25.11.2022
Share on FacebookShare on Twitter

Большие языковые ИИ-модели на данный момент используют многие компании. Ведь с их помощью нейросети учатся генерировать связный текст или даже программный код. Эти модели обучаются на данных из «Виипедии», научных работах, книгах и так далее. Тенденция последних лет состоит в том, чтобы обучать модели на всё большем объёме данных в надежде, что это сделает их более точными. Однако возникла проблема.

Этоинтересно

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

10.07.2025
Обзор монитора MSI MAG 271QP QD-OLED X24: когда цена не портит качество

Обзор монитора MSI MAG 271QP QD-OLED X24: когда цена не портит качество

10.07.2025
К 2026 году могут закончиться данные для обучения больших языковых моделей ИИ

Как сообщается, типы данных, обычно используемые для обучения языковых моделей, могут закончиться примерно в 2026 году. Ведь исследователи создают более мощные модели со всё большими возможностями, и им нужно всё больше текстов.

Отчасти проблема проистекает из того факта, что исследователи готовят данные для обучения языковых моделей и предварительно фильтруют их по качеству. Текстами высокого качества могут быть хорошие статьи, а низкого — сообщения в социальных сетях или комментарии на сайтах. Хотя граница между этими понятиями довольно сильно размыта.

К 2026 году могут закончиться данные для обучения больших языковых моделей ИИ

Исследователи обычно обучают модели на текстах высокого качества, что дало свои результаты в системе GPT-3 и подобных ей. Однако если проблема нехватки материала возникнет в ближайшие годы, то нейросетям можно будет «скармливать» и менее качественные тексты.

Однако не все эксперты согласны с этим. Перси Лян, профессор компьютерных наук в Стэнфордском университете, заявил, что есть доказательства того, что небольшие модели, обученные на качественных текстах, оказывались лучше, чем крупные, которые обучали на некачественных.

Также можно обучать модели на одних и тех же текстах по несколько раз. Сейчас крупные языковые модели обучаются на одних и тех же данных только один раз. При этом в обучении нейросетей нередко принимают участие и сами пользователи. Примером может быть недавняя Galactica.

Другие новости

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

10.07.2025
Обзор монитора MSI MAG 271QP QD-OLED X24: когда цена не портит качество

Обзор монитора MSI MAG 271QP QD-OLED X24: когда цена не портит качество

10.07.2025
RTX 5090 по цене автомобиля? Asus дразнит изображением какой-то новой «БОЛЬШОЙ» видеокартой

RTX 5090 по цене автомобиля? Asus дразнит изображением какой-то новой «БОЛЬШОЙ» видеокартой

10.07.2025
Samsung представила Galaxy Flip7 — большие экраны и батарея в тонком корпусе по цене от 50 тыс. грн

Samsung представила Galaxy Flip7 — большие экраны и батарея в тонком корпусе по цене от 50 тыс. грн

10.07.2025
Китай вывел на орбиту новый экспериментальный спутник

Китай вывел на орбиту новый экспериментальный спутник

10.07.2025
Крипта криптой, но Tether держит 80 тонн золота на $8 млрд в тайном хранилище

Крипта криптой, но Tether держит 80 тонн золота на $8 млрд в тайном хранилище

10.07.2025
Next Post
Обзор Realme GT Neo 3T: здравый выбор на несколько лет вперёд

Обзор Realme GT Neo 3T: здравый выбор на несколько лет вперёд

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
guest
0 комментариев
Старые
Новые Популярные
Межтекстовые Отзывы
Посмотреть все комментарии

Популярные новости

  • Тест-драйв Land Rover Defender: легенда нашего времени

    14 shares
    Share 6 Tweet 4
  • Младший в созвездии. Тест-драйв нового Subaru XV

    14 shares
    Share 6 Tweet 4
  • Прогноз цены Cardano: Хоскинсон подтвердил переговоры с Circle и Tether

    0 shares
    Share 0 Tweet 0
  • CME обогнал Binance по фьючерсам на BTC

    0 shares
    Share 0 Tweet 0
  • Выживание в S.T.A.L.K.E.R. 2? В GSC намекают на более хардкорный режим

    0 shares
    Share 0 Tweet 0

Подписка на новости


Информация

Использование любых материалов сайта разрешается при условии ссылки на AZON.mobi
Интернет-СМИ должны использовать прямую открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала.
Редакция сайта может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

Мы в соцсетях

ТОП новости

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

10.07.2025
Прогноз цены XRP: аналитик обнаружил паттерн 2017 года

Прогноз цены XRP: аналитик обнаружил паттерн 2017 года

10.07.2025
  • Разместить новости

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

No Result
View All Result
  • Новости
  • Игры
  • Криптовалюты
  • Обзоры
  • Смартфоны

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

wpDiscuz
0
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x
()
x
| Ответить