AZON.моби
  • Новости
  • Обзоры
  • Смартфоны
  • Игры
  • Криптовалюты
No Result
View All Result
AZON.моби
No Result
View All Result
AZON.моби
Home Новости

ChatGPT на стероидах. Исследователь Google нашел способ «заставить» ИИ анализировать до миллионов слов за раз

17.10.2023
Share on FacebookShare on Twitter

Сейчас самые мощные чат-боты могут воспринимать до 75 000 слов в запросах, однако увеличение входных данных ограничивается памятью графических процессоров, обучающих и запускающих модели ИИ.

Этоинтересно

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

10.07.2025
Обзор монитора MSI MAG 271QP QD-OLED X24: когда цена не портит качество

Обзор монитора MSI MAG 271QP QD-OLED X24: когда цена не портит качество

10.07.2025

Помогаем

Обновлено: Сбор на пикапы прекращен, но Mavik аэроразведчикам еще очень нужен

Обновлено: Сбор на пикапы прекращен, но Mavik аэроразведчикам еще очень нужен

В области ИИ эти входные данные измеряются как «токены» и «контекстные окна»: токен — это единица, которая может представлять слово, его часть, число или нечто подобное; а контекстное окно — это пространство, где вы вводите вопросы, текст или другие данные для чат-бота.

Чат-бот Anthropic Claude предлагает контекстное окно до 100 000 токенов, или около 75 000 слов. По сути это книга, которую системы может сразу проанализировать и дать определенный ответ. Модель OpenAI GPT-3.5 поддерживает контекстное окно с ограничением до 16 000 слов, а ее преемница GPT-4 — до 32 000. Согласно последнему исследованию, модель, созданная компанией MosiacML, принадлежащей Databricks, может обрабатывать 65 000 токенов.

В своей статье, аспирант Калифорнийского университета в Беркли и внештатный исследователь Google DeepMind Хао Лю предлагает способ увеличить это количество до миллионов.

Современные модели искусственного интеллекта обрабатывают данные таким образом, что требуют, чтобы графические процессоры хранили разные внутренние выходные данные, а затем повторно вычисляли их перед передачей на следующий графический процессор. Для этого нужно много памяти, которой не хватает — что в конечном счете ограничивает количество входных данных, которые может обработать модель. Независимо от того, насколько быстрым является графический процессор, есть так называемое «узкое место» памяти.

Новый подход формирует своеобразное кольцо графических процессоров, передающих части информации следующему графическому процессору, одновременно получая подобные блоки от другого соседнего графического процессора. И так далее.

«‎Это фактически устраняет ограничения памяти, наложенные отдельными устройствами», — пишут исследователи.

Лю говорит, что в теории много книг и даже фильмов в будущем можно добавить в контекстные окна за раз, а модели искусственного интеллекта будут анализировать их и создавать согласованные ответы:

«Чем больше у вас графических процессоров, тем длиннее может быть контекстное окно. Интересно, что смогут построить из этого крупные технологические компании».

Лю рассчитал для примера, что модель с 13 миллиардами параметров и контекстным окном в 16 000 токенов, использующая 256 графических процессоров Nvidia A100, сможет при новом «кольцевом подходе» обрабатывать контекстное окно с 4 миллионами токенов.

ПостыIELTS: міжнародна сертифікація з англійської мови для глобального успіху author avatarhttps://itc.ua/wp-content/uploads/2023/09/Logo_white_green-bg-1-1-150×150.png *** https://itc.ua/wp-content/uploads/2023/09/Logo_white_green-bg-1-1-150×150.png *** https://itc.ua/wp-content/uploads/2023/09/Logo_white_green-bg-1-1-150×150.png

Englishdom

Englishdom – свобода говорити. Будь-де, будь-коли, з будь-ким.

Эти выводы провоцируют важный вопрос: если вы сможете сделать больше с меньшим количеством графических процессоров, говорит ли это о снижении спроса на микросхемы AI от Nvidia? Лю говорит, что нет. Вместо этого разработчики и технологические компании будут пробовать большие и более смелые вещи с новой техникой.

В то же время, использование меньшего количества GPU может несколько смягчить влияние на окружающую среду и уменьшить использование электроэнергии в области ИИ, которая, по недавним подсчетам, до 2027 года будет потреблять столько же энергии, как Швеция или Нидерланды.

Источник: Insider

Другие новости

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

10.07.2025
Обзор монитора MSI MAG 271QP QD-OLED X24: когда цена не портит качество

Обзор монитора MSI MAG 271QP QD-OLED X24: когда цена не портит качество

10.07.2025
RTX 5090 по цене автомобиля? Asus дразнит изображением какой-то новой «БОЛЬШОЙ» видеокартой

RTX 5090 по цене автомобиля? Asus дразнит изображением какой-то новой «БОЛЬШОЙ» видеокартой

10.07.2025
Samsung представила Galaxy Flip7 — большие экраны и батарея в тонком корпусе по цене от 50 тыс. грн

Samsung представила Galaxy Flip7 — большие экраны и батарея в тонком корпусе по цене от 50 тыс. грн

10.07.2025
Китай вывел на орбиту новый экспериментальный спутник

Китай вывел на орбиту новый экспериментальный спутник

10.07.2025
Крипта криптой, но Tether держит 80 тонн золота на $8 млрд в тайном хранилище

Крипта криптой, но Tether держит 80 тонн золота на $8 млрд в тайном хранилище

10.07.2025
Next Post
Учёный из Samsung Display задержан за продажу Китаю коммерческой тайны

Учёный из Samsung Display задержан за продажу Китаю коммерческой тайны

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
guest
0 комментариев
Старые
Новые Популярные
Межтекстовые Отзывы
Посмотреть все комментарии

Популярные новости

  • Тест-драйв Land Rover Defender: легенда нашего времени

    14 shares
    Share 6 Tweet 4
  • Младший в созвездии. Тест-драйв нового Subaru XV

    14 shares
    Share 6 Tweet 4
  • Прогноз цены Cardano: Хоскинсон подтвердил переговоры с Circle и Tether

    0 shares
    Share 0 Tweet 0
  • CME обогнал Binance по фьючерсам на BTC

    0 shares
    Share 0 Tweet 0
  • Выживание в S.T.A.L.K.E.R. 2? В GSC намекают на более хардкорный режим

    0 shares
    Share 0 Tweet 0

Подписка на новости


Информация

Использование любых материалов сайта разрешается при условии ссылки на AZON.mobi
Интернет-СМИ должны использовать прямую открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала.
Редакция сайта может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

Мы в соцсетях

ТОП новости

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

«Гоняют с участка на участок, устраняют дефекты и недоработки». К началу продаж Lada Iskra будет выпущено 500 машин, но не факт, что все они доберутся до дилеров

10.07.2025
Прогноз цены XRP: аналитик обнаружил паттерн 2017 года

Прогноз цены XRP: аналитик обнаружил паттерн 2017 года

10.07.2025
  • Разместить новости

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

No Result
View All Result
  • Новости
  • Игры
  • Криптовалюты
  • Обзоры
  • Смартфоны

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

wpDiscuz
0
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x
()
x
| Ответить