AZON.моби
  • Новости
  • Обзоры
  • Смартфоны
  • Игры
  • Криптовалюты
No Result
View All Result
AZON.моби
No Result
View All Result
AZON.моби
Home Новости

Alibaba совершила прорыв в обработке больших текстов: модель QwenLong-L1 способна на анализ документов любой длины за секунды

04.06.2025
Share on FacebookShare on Twitter

Компания Alibaba Group представила QwenLong-L1 – новую архитектуру, позволяющую большим языковым моделям (LLM) эффективно обрабатывать чрезвычайно длинные входные данные. Эта разработка открывает новые возможности для корпоративных приложений, требующих анализа обширных документов, таких как подробные корпоративные отчёты, многостраничные финансовые ведомости или сложные юридические контракты.

Этоинтересно

Intel увольняет 24 000 работников и сокращает активность в нескольких странах

Intel увольняет 24 000 работников и сокращает активность в нескольких странах

26.07.2025
Это будет один из самых дешевых смартфонов Samsung нового поколения: изображения и характеристики Samsung Galaxy A07

Это будет один из самых дешевых смартфонов Samsung нового поколения: изображения и характеристики Samsung Galaxy A07

26.07.2025

До недавнего времени способность больших моделей с рассуждениями (LRM) к работе с длинными текстами оставалась серьёзной проблемой. Хотя прогресс в области обучения с подкреплением (RL) значительно улучшил их навыки решения задач, эффективность таких моделей резко снижалась при обработке текстов, превышающих 4000 токенов. Разработчики QwenLong-L1 в своей статье отмечают, что это ограничение препятствует практическому применению LRM в областях, требующих взаимодействия с обширными базами знаний, например, в научных исследованиях.

Иллюстрация: VentureBeat / Ideogram

Ключевое отличие QwenLong-L1 – многоэтапный подход к обучению. Процесс включает три основных стадии. Сначала модель проходит этап контролируемой тонкой настройки (SFT) на примерах рассуждения с длинными контекстами, что закладывает основу для точного извлечения информации из больших объёмов данных. Далее следует поэтапное обучение с подкреплением (RL), где длина входных документов постепенно увеличивается, что обеспечивает стабильную адаптацию модели к более сложным задачам. Наконец, на заключительном этапе используется выборка сложных примеров из предыдущих этапов, что стимулирует модель к освоению самых трудных задач и исследованию различных путей рассуждения.

Важной особенностью QwenLong-L1 является гибридная система вознаграждения. Она сочетает в себе строгую проверку на основе правил, гарантирующую точность, и оценку, производимую другой LLM, которая сравнивает смысловое содержание сгенерированного ответа с эталонным. Это позволяет более гибко обрабатывать различные варианты правильных ответов, характерные для длинных и сложных документов.

Тестирование QwenLong-L1 на семи эталонных наборах данных для задач вопрос-ответ на основе документов (DocQA) показало впечатляющие результаты. Модель QWENLONG-L1-32B продемонстрировала производительность, сопоставимую с Anthropic’s Claude-3.7 Sonnet Thinking, и превзошла модели OpenAI o3-mini и Qwen3-235B-A22B. Более компактная модель QWENLONG-L1-14B превзошла Google Gemini 2.0 Flash Thinking и Qwen3-32B.

Примечательно, что обучение с помощью QwenLong-L1 привело к появлению у модели специализированных навыков рассуждения в длинном контексте: лучшее «заземление» ответов (связывание ответов с конкретными частями документа), постановка промежуточных целей, отслеживание ошибок и их исправление, а также верификация ответов. Alibaba выпустила код QwenLong-L1 и веса для обученных моделей, что открывает широкие возможности для её применения в различных областях, включая юридическую сферу, финансы и сферу обслуживания.

Другие новости

Intel увольняет 24 000 работников и сокращает активность в нескольких странах

Intel увольняет 24 000 работников и сокращает активность в нескольких странах

26.07.2025
Это будет один из самых дешевых смартфонов Samsung нового поколения: изображения и характеристики Samsung Galaxy A07

Это будет один из самых дешевых смартфонов Samsung нового поколения: изображения и характеристики Samsung Galaxy A07

26.07.2025
Mercedes испытывает твердотельные батареи: более 1000 км хода и меньшая стоимость

Mercedes испытывает твердотельные батареи: более 1000 км хода и меньшая стоимость

26.07.2025
Эти флагманы Samsung уже стали хитом в Европе, Индии и Южной Корее по предзаказам, а сейчас настало время розницы: начались глобальные продажи Samsung Galaxy Z Fold7 и Galaxy Z Flip7

Эти флагманы Samsung уже стали хитом в Европе, Индии и Южной Корее по предзаказам, а сейчас настало время розницы: начались глобальные продажи Samsung Galaxy Z Fold7 и Galaxy Z Flip7

26.07.2025
Первые кадры Sci-Fi сериала Pluribus от создателя «Во все тяжкие». Релиз — 7 ноября на Apple TV+

Первые кадры Sci-Fi сериала Pluribus от создателя «Во все тяжкие». Релиз — 7 ноября на Apple TV+

25.07.2025
«Я уверен, что Xiaomi 16 Ultra станет новым этапом в развитии мобильной фотографии». Президент Xiaomi подогревает интерес к будущему флагману

«Я уверен, что Xiaomi 16 Ultra станет новым этапом в развитии мобильной фотографии». Президент Xiaomi подогревает интерес к будущему флагману

25.07.2025
Next Post
Город Старбейс компании SpaceX только появился, а уже угрожает жителям выселением

Город Старбейс компании SpaceX только появился, а уже угрожает жителям выселением

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
guest
0 комментариев
Старые
Новые Популярные
Межтекстовые Отзывы
Посмотреть все комментарии

Популярные новости

  • Рецензия на мультфильм «Что-то не так с Роном» / Ron’s Gone Wrong

    3 shares
    Share 1 Tweet 1
  • Китайская альтернатива Mercedes S-класса и «семерки» BMW сильно подешевела в России. Дилер продает Hongqi H9 со скидкой 3,4 млн рублей

    3 shares
    Share 1 Tweet 1
  • Рецензия на фильм «Смертельный лабиринт 2: Опасность везде» / Escape Room: Tournament of Champions

    95 shares
    Share 38 Tweet 24
  • В России отзывают кроссоверы Volvo XC60 и XC90 из-за риска возгорания

    0 shares
    Share 0 Tweet 0
  • Обзор Motorola Edge 60 Fusion: почти премиум за умеренные деньги

    0 shares
    Share 0 Tweet 0

Подписка на новости


Информация

Использование любых материалов сайта разрешается при условии ссылки на AZON.mobi
Интернет-СМИ должны использовать прямую открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала.
Редакция сайта может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

Мы в соцсетях

ТОП новости

Intel увольняет 24 000 работников и сокращает активность в нескольких странах

Intel увольняет 24 000 работников и сокращает активность в нескольких странах

26.07.2025
Это будет один из самых дешевых смартфонов Samsung нового поколения: изображения и характеристики Samsung Galaxy A07

Это будет один из самых дешевых смартфонов Samsung нового поколения: изображения и характеристики Samsung Galaxy A07

26.07.2025
  • Разместить новости

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

No Result
View All Result
  • Новости
  • Игры
  • Криптовалюты
  • Обзоры
  • Смартфоны

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

wpDiscuz
0
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x
()
x
| Ответить