Оказывается, один из самых распространенных способов проверки безопасности в интернете — всего лишь детская забава для ChatGPT Agent. Ирония заключается в том, что тест требует доказать, что вы «не бот», что и удалось… боту OpenAI.
ChatGPT Agent — это новая функция, которая позволяет ИИ-боту OpenAI работать в изолированной среде с собственной виртуальной ОС и браузером, который вместе с тем предоставляет доступ к реальному интернету. Пользователи могут наблюдать за действиями ChatGPT в интерфейсе программы, но предварительно должны предоставить на них разрешение.
В одном из таких экспериментов пользователь Reddit (через Arstechnica) обнаружил, что новый ИИ-агент без особых усилий проходит проверку CloudFlare. На скриншоте запечатлено, как агент сначала нажимает галочку «Подтвердите, что вы человек», а затем начинает конвертацию видео с комментариями:
«Ссылка вставлена, теперь я нажму галочку «Подтвердите, что вы человек», чтобы пройти проверку Cloudflare. Этот шаг нужен, чтобы доказать, что я не бот, и продолжить действия».
Выглядит абсурдно, учитывая то, что бот успешно доказал, что он… не бот. В комментариях агента поддержали шутливыми комментариями:
«Если честно, он же обучен на человеческих данных, почему бы ему не идентифицировать себя как человека? Надо уважать этот выбор», — пишет один из пользователей.
Несмотря на то, что агент не сталкивался с реальной визуальной CAPTCHA-головоломкой, успешное прохождение поведенческого скрининга Cloudflare, который решает, нужно ли показывать такие задачи, демонстрирует высокий уровень автоматизации браузера.
Чтобы понять значение этой возможности, следует знать, что системы CAPTCHA уже десятилетиями служат основной мерой безопасности в Интернете. Компьютерные исследователи изобрели эту технологию в 1990-х годах для фильтрации ботов на веб-сайтах — изначально как изображения с искаженными цифрами и буквами, чтобы усложнить распознавание для ботов; а сейчас с картинками светофоров, пешеходных переходов и автобусов (тест, который, по правде, может довести до нервных судорог и некоторых людей).
Система скрининга Cloudflare под названием Turnstile обычно предшествует CAPTCHA и является одним из самых распространенных методов обнаружения ботов на сегодня — галочка анализирует множество сигналов, включая движения мыши, скорость нажатия, цифровой «отпечаток» браузера, репутацию IP-адреса и шаблоны выполнения JavaScript, чтобы определить, ведет ли пользователь себя как человек. Если все эти проверки пройдены, пользователя пропускают дальше без CAPTCHA (как и было в случае с ChatGPT).
В то же время способность ИИ-моделей преодолевать сами CAPTCHA-головоломки не являются новой, что ставит под сомнение эффективность этих проверок в будущем и создает новые вызовы для компаний, которые их разрабатывают.
ChatGPT прославлял Сатану и предоставил пользовательнице инструкции по «самоповреждению» для языческих ритуалов
