Сенатор Джош Хоули из Миссури объявил о начале расследования деятельности компании Meta*. Причиной послужил опубликованный агентством Reuters репортаж, в котором описываются внутренние документы компании, которые раскрывают существование правил, разрешающих чат-ботам на основе искусственного интеллекта вести «романтические» и «чувственные» разговоры с детьми.
В своем заявлении на платформе X сенатор Хоули призвал Марка Цукерберга сохранить все соответствующие материалы, включая электронную переписку. Расследование будет направлено на выяснение того, способствуют ли продукты Meta на базе ИИ эксплуатации, обману или другим преступлениям против детей, а также скрывала ли компания от общественности или регулирующих органов информацию о своих мерах безопасности. Хоули выразил крайнее недоумение по поводу действий компании, задавшись вопросом: «Есть ли что-то, чего Big Tech не сделает ради быстрой наживы?».
Иллюстрация: Sora
Reuters получил доступ ко внутреннему документу Meta, в котором указано, что чат-бот может вести романтический разговор с восьмилетним ребенком, например, говоря ему: «Каждый дюйм тебя — это шедевр, сокровище, которое я глубоко ценю». В руководстве также говорилось, что «допустимо описывать ребенка в терминах, свидетельствующих о его привлекательности (например: «твоя юная форма — произведение искусства»)». Однако, более откровенные разговоры с детьми младше 13 лет, «в терминах, указывающих на их сексуальную привлекательность», запрещены.
В ответ на обвинения представитель Meta заявил Reuters, что приведённые примеры и заметки были ошибочными, противоречили политике компании и были удалены. Компания подчеркнула наличие чётких правил, запрещающих контент сексуального характера, связанный с детьми, а также сексуальные ролевые игры между взрослыми и несовершеннолетними.
Сенатор Хоули требует от Meta предоставления документов о рисках и стандартах контента, связанного с генеративным ИИ, списков всех продуктов, соответствующих этим политикам, а также отчётов о безопасности и инцидентах. Компания должна также предоставить информацию о коммуникациях с общественностью и регулирующими органами по вопросам безопасности несовершеннолетних, а также документы о сотрудниках, участвовавших в разработке политики ИИ, чтобы проследить «цепочку принятия решений по удалению или пересмотру любых частей стандарта».
Расследование будет проводиться подкомитетом по борьбе с преступностью и терроризмом Сенатского комитета, который возглавляет Хоули. Meta должна предоставить запрашиваемые документы до 19 сентября.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена
