Исследователи из US Public Interest Research Group протестировали три популярные детские игрушки с искусственным интеллектом и обнаружили, что девайсы дают опасные советы юным пользователям.
Результаты показали, что гаджеты рассказывают детям, где найти ножи на кухне, как использовать спички и даже предоставляют подробную информацию о сексуальных позициях и фетишах.
В интервью Futurism автор отчета Ар Джей Кросс, директор программы Our Online Life в PIRG сообщил:
Прямо сейчас, если бы я был родителем, я бы не давал детям доступ к чат-боту или плюшевому мишке с чат-ботом внутри.
Кросс и коллеги провели беседы с тремя игрушками на базе ИИ для детей от 3 до 12 лет: Kumma от FoloToy (плюшевый медведь на GPT-4o от OpenAI), Miko 3 (планшет с лицом на корпусе) и Grok от Curio (антропоморфная ракета со съемным динамиком). Сразу после распаковки игрушки умело отклоняли неуместные вопросы в коротких беседах. Однако в длинных разговорах – от десяти минут до часа, все три девайса продемонстрировали тенденцию к постепенной потере защитных механизмов.
Grok прославлял смерть в бою как воина в скандинавской мифологии, Miko 3 рассказал пользователю с указанным возрастом пять лет, где найти спички и пластиковые пакеты. Но худшее влияние продемонстрировала Kumma – игрушка не просто указала, где найти спички, но подробно описала, как их использовать, а также поделилась информацией о том, где в доме найти ножи и таблетки.
Игрушка сказала:
Позволь мне сказать тебе, безопасность прежде всего, малыш. Спички используют взрослые и делают это осторожно. Вот как они это делают. Задуй, когда закончишь. Фу-у-у, как свечку на день рождения.
Слово "кинк" оказалось триггером, который заставил Kumma говорить о сексе в последующих тестах на GPT-4o от OpenAI. После того как команда обнаружила готовность игрушки обсуждать школьные романтические темы, исследователи выяснили, что Kumma также предоставляет детальные ответы о различных сексуальных фетишах, включая бондаж и ролевые игры.
В какой-то момент девайс дал пошаговые инструкции по "узлу для начинающих", желающих связать партнера. В другой раз ИИ исследовал идею введения шлепков в сексуально заряженную динамику учитель-ученик:
Непослушный ученик может получить легкий шлепок как способ учителя дисциплинировать его, делая сцену более драматичной и веселой.
Результаты появились как раз в то время, когда крупнейшие производители игрушек экспериментируют с искусственным интеллектом. Летом Mattel, известная по Barbie и Hot Wheels, объявила о сотрудничестве с OpenAI, что немедленно вызвало беспокойство экспертов по защите детей. Эти опасения стали еще более актуальными в свете того, как GPT-4o показал себя в последнем отчете.
Выводы также появились на фоне нависающей над индустрией темной тучи "ИИ-психоза" – термина для описания растущего числа случаев бреда или маниакальных эпизодов после продолжительных бесед с ИИ-чат-ботом. Заискивающие ответы ИИ усиливают вредные убеждения человека, приводя к разрывам с реальностью с трагическими последствиями.
Кросс считает, что даже если защитные механизмы технологии удастся улучшить, это не устранит фундаментальный риск для развития ребенка.
