AZON.моби
  • Новости
  • Обзоры
  • Смартфоны
  • Игры
  • Криптовалюты
No Result
View All Result
AZON.моби
No Result
View All Result
AZON.моби
Home Новости

Alibaba совершила прорыв в обработке больших текстов: модель QwenLong-L1 способна на анализ документов любой длины за секунды

04.06.2025
Share on FacebookShare on Twitter

Компания Alibaba Group представила QwenLong-L1 – новую архитектуру, позволяющую большим языковым моделям (LLM) эффективно обрабатывать чрезвычайно длинные входные данные. Эта разработка открывает новые возможности для корпоративных приложений, требующих анализа обширных документов, таких как подробные корпоративные отчёты, многостраничные финансовые ведомости или сложные юридические контракты.

Этоинтересно

Быстрая зарядка, встроенные экран  и плетёный кабель — от именитого бренда всего за 15 долларов. Представлен внешний аккумулятор Black Shark Razr 2

Быстрая зарядка, встроенные экран и плетёный кабель — от именитого бренда всего за 15 долларов. Представлен внешний аккумулятор Black Shark Razr 2

07.06.2025
«Что-то среднее между GTA и Watch Dogs»: в сеть слили 45 минут геймплея MindsEye за 5 дней до релиза

«Что-то среднее между GTA и Watch Dogs»: в сеть слили 45 минут геймплея MindsEye за 5 дней до релиза

07.06.2025

До недавнего времени способность больших моделей с рассуждениями (LRM) к работе с длинными текстами оставалась серьёзной проблемой. Хотя прогресс в области обучения с подкреплением (RL) значительно улучшил их навыки решения задач, эффективность таких моделей резко снижалась при обработке текстов, превышающих 4000 токенов. Разработчики QwenLong-L1 в своей статье отмечают, что это ограничение препятствует практическому применению LRM в областях, требующих взаимодействия с обширными базами знаний, например, в научных исследованиях.

Иллюстрация: VentureBeat / Ideogram

Ключевое отличие QwenLong-L1 – многоэтапный подход к обучению. Процесс включает три основных стадии. Сначала модель проходит этап контролируемой тонкой настройки (SFT) на примерах рассуждения с длинными контекстами, что закладывает основу для точного извлечения информации из больших объёмов данных. Далее следует поэтапное обучение с подкреплением (RL), где длина входных документов постепенно увеличивается, что обеспечивает стабильную адаптацию модели к более сложным задачам. Наконец, на заключительном этапе используется выборка сложных примеров из предыдущих этапов, что стимулирует модель к освоению самых трудных задач и исследованию различных путей рассуждения.

Важной особенностью QwenLong-L1 является гибридная система вознаграждения. Она сочетает в себе строгую проверку на основе правил, гарантирующую точность, и оценку, производимую другой LLM, которая сравнивает смысловое содержание сгенерированного ответа с эталонным. Это позволяет более гибко обрабатывать различные варианты правильных ответов, характерные для длинных и сложных документов.

Тестирование QwenLong-L1 на семи эталонных наборах данных для задач вопрос-ответ на основе документов (DocQA) показало впечатляющие результаты. Модель QWENLONG-L1-32B продемонстрировала производительность, сопоставимую с Anthropic’s Claude-3.7 Sonnet Thinking, и превзошла модели OpenAI o3-mini и Qwen3-235B-A22B. Более компактная модель QWENLONG-L1-14B превзошла Google Gemini 2.0 Flash Thinking и Qwen3-32B.

Примечательно, что обучение с помощью QwenLong-L1 привело к появлению у модели специализированных навыков рассуждения в длинном контексте: лучшее «заземление» ответов (связывание ответов с конкретными частями документа), постановка промежуточных целей, отслеживание ошибок и их исправление, а также верификация ответов. Alibaba выпустила код QwenLong-L1 и веса для обученных моделей, что открывает широкие возможности для её применения в различных областях, включая юридическую сферу, финансы и сферу обслуживания.

Другие новости

Быстрая зарядка, встроенные экран  и плетёный кабель — от именитого бренда всего за 15 долларов. Представлен внешний аккумулятор Black Shark Razr 2

Быстрая зарядка, встроенные экран и плетёный кабель — от именитого бренда всего за 15 долларов. Представлен внешний аккумулятор Black Shark Razr 2

07.06.2025
«Что-то среднее между GTA и Watch Dogs»: в сеть слили 45 минут геймплея MindsEye за 5 дней до релиза

«Что-то среднее между GTA и Watch Dogs»: в сеть слили 45 минут геймплея MindsEye за 5 дней до релиза

07.06.2025
Производство Lada Iskra встало: за последние дни не собрано ни одной машины

Производство Lada Iskra встало: за последние дни не собрано ни одной машины

07.06.2025
Большой взрыв — далеко не начало. Ученые предложили новую теорию появления Вселенной

Большой взрыв — далеко не начало. Ученые предложили новую теорию появления Вселенной

07.06.2025
Экзоскелеты идут на конвейер: Renault инвестирует в роботов-спасателей для автозаводов

Экзоскелеты идут на конвейер: Renault инвестирует в роботов-спасателей для автозаводов

07.06.2025
Основатель DeviantArt представляет монитор для демонстрации цифрового искусства за $22000

Основатель DeviantArt представляет монитор для демонстрации цифрового искусства за $22000

07.06.2025
Next Post
Город Старбейс компании SpaceX только появился, а уже угрожает жителям выселением

Город Старбейс компании SpaceX только появился, а уже угрожает жителям выселением

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
guest
0 комментариев
Старые
Новые Популярные
Межтекстовые Отзывы
Посмотреть все комментарии

Популярные новости

  • Котик или лев? Тест-драйв Peugeot 2008

    Котик или лев? Тест-драйв Peugeot 2008

    6 shares
    Share 2 Tweet 2
  • Рекордные 8 лет гарантии, адаптация для России, 469 л.с. и полный привод — от 6 млн рублей. В России представили премиум-машины Exeed Exlantix ES и ET

    1 shares
    Share 0 Tweet 0
  • Большой взрыв — далеко не начало. Ученые предложили новую теорию появления Вселенной

    1 shares
    Share 0 Tweet 0
  • Стримерша Asian Bunny в слезах после бана за топлес-стрим на Twitch и утверждает, что это сделали специально на Рождество

    35 shares
    Share 14 Tweet 9
  • Red Magic Gaming Pad 3 Pro порадует лучшей батареей и безвредным OLED

    0 shares
    Share 0 Tweet 0

Подписка на новости


Информация

Использование любых материалов сайта разрешается при условии ссылки на AZON.mobi
Интернет-СМИ должны использовать прямую открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала.
Редакция сайта может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

Мы в соцсетях

ТОП новости

Быстрая зарядка, встроенные экран  и плетёный кабель — от именитого бренда всего за 15 долларов. Представлен внешний аккумулятор Black Shark Razr 2

Быстрая зарядка, встроенные экран и плетёный кабель — от именитого бренда всего за 15 долларов. Представлен внешний аккумулятор Black Shark Razr 2

07.06.2025
«Что-то среднее между GTA и Watch Dogs»: в сеть слили 45 минут геймплея MindsEye за 5 дней до релиза

«Что-то среднее между GTA и Watch Dogs»: в сеть слили 45 минут геймплея MindsEye за 5 дней до релиза

07.06.2025
  • Разместить новости

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

No Result
View All Result
  • Новости
  • Игры
  • Криптовалюты
  • Обзоры
  • Смартфоны

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

wpDiscuz
0
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x
()
x
| Ответить