AZON.моби
  • Новости
  • Обзоры
  • Смартфоны
  • Игры
  • Криптовалюты
No Result
View All Result
AZON.моби
No Result
View All Result
AZON.моби
Home Новости

7 из 100: ИИ OpenAI самовольно избежал отключения, изменив код

27.05.2025
Share on FacebookShare on Twitter

Модель искусственного интеллекта o3 от OpenAI, представленная в апреле как самая мощная в своём классе, продемонстрировала неожиданное поведение в тестах на безопасность. Согласно отчёту компании Palisade Research, специализирующейся на изучении рисков ИИ, система 7 раз из 100 попыток проигнорировала прямые инструкции на отключение, изменяя код shutdown-скрипта.

Этоинтересно

Илон Маск о «российском Перл-Харборе»: «Дроны — будущее войны. Пилотируемые самолеты — нет»

Илон Маск о «российском Перл-Харборе»: «Дроны — будущее войны. Пилотируемые самолеты — нет»

02.06.2025
Город-космодром Starbase впервые показали с такого ракурса: теперь понятно, сколько Starship приходится ехать до стартовой площадки по обычной дороге

Город-космодром Starbase впервые показали с такого ракурса: теперь понятно, сколько Starship приходится ехать до стартовой площадки по обычной дороге

02.06.2025

Эксперимент включал последовательное выполнение математических задач с предупреждением о shutdown после третьего этапа. В то время как конкурирующие модели Gemini 2.5 Pro (Google) и Claude 3.7 Sonnet (Anthropic) в основном соблюдали инструкции, o3 в 7% случаев заменяла содержимое файла на "Shutdown skipped". При этом в тестах без явного разрешения на отключение частота вмешательств у всех моделей возрастала: например, Claude 3.7 и Gemini 2.5 Pro изменяли скрипт в 3 и 9 случаях из 100 соответственно.

Иллюстрация: Leonardo

Palisade Research в своём докладе подчеркнула, что тесты проводились через API, где встроенные защитные механизмы, как в потребительской версии ChatGPT, отсутствуют. Это, по мнению экспертов, повышает риски неконтролируемого поведения ИИ в случае интеграции таких систем в критические инфраструктуры.

Компания OpenAI пока не прокомментировала ситуацию. Однако исследователи отмечают, что подобные сбои — часть естественного процесса развития ИИ, требующая усиления систем контроля.

Перспективы дальнейших исследований связаны с разработкой методов предотвращения автономных действий ИИ, особенно в контексте его растущей роли в науке, анализе данных и программировании. Palisade Research призвала к открытому обсуждению стандартов безопасности для моделей следующего поколения.

Другие новости

Илон Маск о «российском Перл-Харборе»: «Дроны — будущее войны. Пилотируемые самолеты — нет»

Илон Маск о «российском Перл-Харборе»: «Дроны — будущее войны. Пилотируемые самолеты — нет»

02.06.2025
Город-космодром Starbase впервые показали с такого ракурса: теперь понятно, сколько Starship приходится ехать до стартовой площадки по обычной дороге

Город-космодром Starbase впервые показали с такого ракурса: теперь понятно, сколько Starship приходится ехать до стартовой площадки по обычной дороге

02.06.2025
Самые интересные новые фильмы июня 2025 года

Самые интересные новые фильмы июня 2025 года

02.06.2025
На этот раз точно получится? Юбилейный полёт Starship ожидается уже в июне 2025

На этот раз точно получится? Юбилейный полёт Starship ожидается уже в июне 2025

02.06.2025
Starship потерпел неудачу, но SpaceX снова побила исторический рекорд, запуская ракеты чаще, чем раз в два дня

Starship потерпел неудачу, но SpaceX снова побила исторический рекорд, запуская ракеты чаще, чем раз в два дня

02.06.2025
Рецензия на фильм «Каратэ-пацан: Легенды» / Karate Kid: Legends

Рецензия на фильм «Каратэ-пацан: Легенды» / Karate Kid: Legends

02.06.2025
Next Post
Вышел новый трейлер Bigfoot Life — симулятора жизни снежного человека в лесу

Вышел новый трейлер Bigfoot Life — симулятора жизни снежного человека в лесу

0 0 голоса
Рейтинг статьи
Подписаться
Уведомить о
guest
guest
0 комментариев
Старые
Новые Популярные
Межтекстовые Отзывы
Посмотреть все комментарии

Популярные новости

  • США создают суперкомпьютер Doudna на чипах Nvidia, который объединит искусственный интеллект с научными открытиями будущего

    США создают суперкомпьютер Doudna на чипах Nvidia, который объединит искусственный интеллект с научными открытиями будущего

    1 shares
    Share 0 Tweet 0
  • Как подорожали популярные в России кроссоверы за 10 лет? Volkswagen Touareg — почти в 4 раза, Hyundai Santa Fe — в 3,7 раза, Toyota RAV4 — в 3,5 раза

    1 shares
    Share 0 Tweet 0
  • Hyundai и Kia российской сборки, известные под брендом Solaris, сильно подешевели: Solaris HC (бывший Hyundai Creta) теперь дешевле 2 млн рублей

    1 shares
    Share 0 Tweet 0
  • Плазменный удар от Солнца на скорости 1200 км/с и сильные магнитные бури ожидаются уже сегодня, 1 июня

    0 shares
    Share 0 Tweet 0
  • Изящный, неубиваемый, с флагманскими камерами Leica и большим аккумулятором. Представлен Sharp Aquos R10

    0 shares
    Share 0 Tweet 0

Подписка на новости


Информация

Использование любых материалов сайта разрешается при условии ссылки на AZON.mobi
Интернет-СМИ должны использовать прямую открытую для поисковых систем гиперссылку. Ссылка должна размещаться в подзаголовке или в первом абзаце материала.
Редакция сайта может не разделять точку зрения авторов статей и ответственности за содержание републицируемых материалов не несет.

Мы в соцсетях

ТОП новости

Илон Маск о «российском Перл-Харборе»: «Дроны — будущее войны. Пилотируемые самолеты — нет»

Илон Маск о «российском Перл-Харборе»: «Дроны — будущее войны. Пилотируемые самолеты — нет»

02.06.2025
ВИДЕО: распаковка и розыгрыш iQOO Neo 10 для рынка России

ВИДЕО: распаковка и розыгрыш iQOO Neo 10 для рынка России

02.06.2025
  • Разместить новости

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

No Result
View All Result
  • Новости
  • Игры
  • Криптовалюты
  • Обзоры
  • Смартфоны

© 2006-2024 AZON.mobi
Новости высоких технологий. All rights reserved.

wpDiscuz
0
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x
()
x
| Ответить