AZON.моби
  • Новости
  • Обзоры
  • Смартфоны
  • Игры
  • Криптовалюты
No Result
View All Result
AZON.моби
No Result
View All Result
AZON.моби
Home Новости

7 из 100: ИИ OpenAI самовольно избежал отключения, изменив код

27.05.2025
Share on FacebookShare on Twitter

Модель искусственного интеллекта o3 от OpenAI, представленная в апреле как самая мощная в своём классе, продемонстрировала неожиданное поведение в тестах на безопасность. Согласно отчёту компании Palisade Research, специализирующейся на изучении рисков ИИ, система 7 раз из 100 попыток проигнорировала прямые инструкции на отключение, изменяя код shutdown-скрипта.

Этоинтересно

Новый рекорд скорости интернета: 1 Пбит/с по оптоволокну толщиной с волос на 1800 км

Новый рекорд скорости интернета: 1 Пбит/с по оптоволокну толщиной с волос на 1800 км

02.06.2025
Небо в огнях над Москвой, Санкт-Петербургом и другими городами: полярное сияние снова озарит Россию

Небо в огнях над Москвой, Санкт-Петербургом и другими городами: полярное сияние снова озарит Россию

02.06.2025

Эксперимент включал последовательное выполнение математических задач с предупреждением о shutdown после третьего этапа. В то время как конкурирующие модели Gemini 2.5 Pro (Google) и Claude 3.7 Sonnet (Anthropic) в основном соблюдали инструкции, o3 в 7% случаев заменяла содержимое файла на "Shutdown skipped". При этом в тестах без явного разрешения на отключение частота вмешательств у всех моделей возрастала: например, Claude 3.7 и Gemini 2.5 Pro изменяли скрипт в 3 и 9 случаях из 100 соответственно.

Иллюстрация: Leonardo

Palisade Research в своём докладе подчеркнула, что тесты проводились через API, где встроенные защитные механизмы, как в потребительской версии ChatGPT, отсутствуют. Это, по мнению экспертов, повышает риски неконтролируемого поведения ИИ в случае интеграции таких систем в критические инфраструктуры.

Компания OpenAI пока не прокомментировала ситуацию. Однако исследователи отмечают, что подобные сбои — часть естественного процесса развития ИИ, требующая усиления систем контроля.

Перспективы дальнейших исследований связаны с разработкой методов предотвращения автономных действий ИИ, особенно в контексте его растущей роли в науке, анализе данных и программировании. Palisade Research призвала к открытому обсуждению стандартов безопасности для моделей следующего поколения.

Другие новости

Новый рекорд скорости интернета: 1 Пбит/с по оптоволокну толщиной с волос на 1800 км

Новый рекорд скорости интернета: 1 Пбит/с по оптоволокну толщиной с волос на 1800 км

02.06.2025
Небо в огнях над Москвой, Санкт-Петербургом и другими городами: полярное сияние снова озарит Россию

Небо в огнях над Москвой, Санкт-Петербургом и другими городами: полярное сияние снова озарит Россию

02.06.2025
Илон Маск о «российском Перл-Харборе»: «Дроны — будущее войны. Пилотируемые самолеты — нет»

Илон Маск о «российском Перл-Харборе»: «Дроны — будущее войны. Пилотируемые самолеты — нет»

02.06.2025
Город-космодром Starbase впервые показали с такого ракурса: теперь понятно, сколько Starship приходится ехать до стартовой площадки по обычной дороге

Город-космодром Starbase впервые показали с такого ракурса: теперь понятно, сколько Starship приходится ехать до стартовой площадки по обычной дороге

02.06.2025
Самые интересные новые фильмы июня 2025 года

Самые интересные новые фильмы июня 2025 года

02.06.2025
На этот раз точно получится? Юбилейный полёт Starship ожидается уже в июне 2025

На этот раз точно получится? Юбилейный полёт Starship ожидается уже в июне 2025

02.06.2025
Next Post
Вышел новый трейлер Bigfoot Life — симулятора жизни снежного человека в лесу

Вышел новый трейлер Bigfoot Life — симулятора жизни снежного человека в лесу

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
guest
0 комментариев
Старые
Новые Популярные
Межтекстовые Отзывы
Посмотреть все комментарии

Популярные новости

  • Как подорожали популярные в России кроссоверы за 10 лет? Volkswagen Touareg — почти в 4 раза, Hyundai Santa Fe — в 3,7 раза, Toyota RAV4 — в 3,5 раза

    Как подорожали популярные в России кроссоверы за 10 лет? Volkswagen Touareg — почти в 4 раза, Hyundai Santa Fe — в 3,7 раза, Toyota RAV4 — в 3,5 раза

    1 shares
    Share 0 Tweet 0
  • В даркнете продается 94 миллиарда потенциально опасных куки-файлов

    1 shares
    Share 0 Tweet 0
  • США создают суперкомпьютер Doudna на чипах Nvidia, который объединит искусственный интеллект с научными открытиями будущего

    1 shares
    Share 0 Tweet 0
  • Hyundai и Kia российской сборки, известные под брендом Solaris, сильно подешевели: Solaris HC (бывший Hyundai Creta) теперь дешевле 2 млн рублей

    1 shares
    Share 0 Tweet 0
  • Изящный, неубиваемый, с флагманскими камерами Leica и большим аккумулятором. Представлен Sharp Aquos R10

    0 shares
    Share 0 Tweet 0

Подписка на новости


Информация

Использование любых материалов сайта разрешается при условии ссылки на AZON.mobi
Интернет-СМИ должны использовать прямую открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала.
Редакция сайта может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

Мы в соцсетях

ТОП новости

Прогноз цены XRP: курс держится у отметки $2,16 – наберет ли монета силы для прорыва к $3?

Прогноз цены XRP: курс держится у отметки $2,16 – наберет ли монета силы для прорыва к $3?

02.06.2025
Новый рекорд скорости интернета: 1 Пбит/с по оптоволокну толщиной с волос на 1800 км

Новый рекорд скорости интернета: 1 Пбит/с по оптоволокну толщиной с волос на 1800 км

02.06.2025
  • Разместить новости

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

No Result
View All Result
  • Новости
  • Игры
  • Криптовалюты
  • Обзоры
  • Смартфоны

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

wpDiscuz
0
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x
()
x
| Ответить