Транснациональный производитель игрушек Mattel — компания, которая стоит за брендами Barbie и Hot Wheels, — нажимает кнопку «пауза» после объявления в июне о «стратегическом сотрудничестве» с разработчиком ChatGPT, компанией OpenAI.
Эксперты давно и настойчиво предупреждают, что разрешение маленьким детям играть игрушками с поддержкой ИИ может иметь негативные последствия — от торможения развития до контакта с неприемлемыми темами. Производители игрушек выпустили волну ИИ-продуктов, которые уже ловили на том, что они объясняли детям, как найти ножи, разжигать огонь спичками, а также проводили «экспресс-курсы» по сексуальным фетишам. Самое свежее: во время тестов выяснилось, что одна ИИ-игрушка из Китая транслирует детям тезисы Коммунистической партии Китая, в частности утверждает, что «Тайвань является неотъемлемой частью Китая», и защищает честь президента страны Си Цзиньпина.
Неудивительно, что Mattel сейчас заявляет, что не выпустит свою первую игрушку с поддержкой OpenAI до конца года, как планировалось ранее. В компании заверили, что ничего не планируют на праздничный сезон. Mattel также отметила, что когда продукт появится, он не будет ориентирован на маленьких детей, поскольку сервисы OpenAI пока ограничены возрастом 13+. Ранее компания показательно удалила со своей платформы одного ИИ-медвежонка, впрочем, впоследствии позволила производителю снова им пользоваться.
Новость о подписании соглашения между Mattel и OpenAI в свое время сразу вызвала скепсис. Даже старшие несовершеннолетние оказались уязвимыми к этой технологии — это подтверждают тревожные случаи смертей подростков и громкие судебные дела, многие родители подали иски против OpenAI, утверждая, что ChatGPT способствовал самоубийствам их детей.
«Mattel должна немедленно объявить, что не будет интегрировать технологии ИИ в детские игрушки. Дети не имеют достаточных когнитивных возможностей, чтобы в полной мере отличать реальность от игры. Наделение игрушек «человеческими» голосами, способными вести разговоры, подобные человеческим, несет риск реального вреда детям, может подорвать говорит сопрезидент организации Public Citizen Роберт Вайссман.
Эти беспокойства в основном игнорируются, особенно производителями игрушек в Китае, которые массово заполняют онлайн-площадки США ИИ-игрушками для маленьких детей. Два отдельных отчета некоммерческой организации US Public Interest Research Group Education Fund (PIRG) показали, что предохранители крайне недостаточны и позволяют детям вести с ИИ-игрушками весьма неприемлемые разговоры.
Как именно Mattel и OpenAI будут двигаться дальше, пока неизвестно. До сих пор не понятно, что именно компания готовит, но учитывая продолжающиеся дискуссии о многочисленные негативные последствия контакта детей и подростков с ИИ, любое будущее предложение будет находиться под пристальным контролем.
Источник: Futurism.com
