Компания Meta объявила о запуске новых инструментов родительского надзора, которые позволят опекунам видеть темы, которые их дети обсуждают с чат-ботом Meta AI. Новая функция «Обзор тем» (Topic Insights) становится доступной для подростковых аккаунтов в Facebook, Instagram и Messenger и охватывает историю взаимодействия за последние семь дней.
Информация будет отображаться в Центре семьи Meta (Family Center) в виде общих категорий: школа, развлечения, письмо, здоровье и благополучие. Родители могут нажать на тему, чтобы увидеть подкатегории (например, «ментальное здоровье» или «фитнес»), а также общее количество сообщений, но фактическое содержание переписки останется приватным.
«Мы вводим новые инструменты для родителей, осуществляющих надзор за подростковыми аккаунтами, чтобы помочь им понять, как их подростки используют ИИ», — говорится в официальном блоге Meta от 23 апреля.
Одновременно с этим Meta усиливает внутренний контроль за собственным ИИ-обучением: стало известно, что компания внедряет ПО для отслеживания движений мыши и нажатий клавиш своих сотрудников в США, чтобы научить ИИ-агентов лучше копировать человеческую работу и использовать горячие клавиши.
«Видение, к которому мы стремимся, — это такое, где наши агенты выполняют основную работу, а наша роль заключается в том, чтобы направлять, пересматривать и помогать им совершенствоваться», — написал технический директор Meta Эндрю Босворт во внутренней записке для сотрудников.
Запуск инструментов надзора происходит на фоне юридических проблем: Meta недавно проиграла два судебных процесса по безопасности детей и аддиктивному дизайну своих платформ, хотя компания уже заявила о намерении обжаловать эти вердикты. В судебных материалах Нью-Мексико также содержались доказательства, что руководство знало о рисках сексуализации ИИ-персонажей еще до их релиза.
«Информация о темах разговоров поможет родителям лучше понимать интересы своих детей, сохраняя при этом определенный уровень приватности подростков», — отмечает Engadget.
Для поддержания безопасной среды Meta привлекла Экспертный совет по благополучию в сфере ИИ, куда вошли представители Национального совета по вопросам предотвращения самоубийств и Университета Мичигана. Кроме технических ограничений, родителям предлагают воспользоваться «подсказками для разговора» (Conversation Starters), разработанными совместно с Центром исследований кибербуллинга, чтобы обсудить с детьми этику и риски генеративного ИИ.
«Мы разработали эту функцию, чтобы сбалансировать надзор родителей и приватность подростков», — говорится в сообщении компании, опубликованном в рамках обновления политики безопасности.
Сейчас Meta приостановила работу ИИ-персонажей (AI characters) для подростков во всем мире, пока продолжает совершенствовать средства контроля. Кроме инструментов надзора, компания запустила инициативу «Подсказки для разговора» (Conversation Starters) совместно с Центром исследований кибербуллинга и сформировала Экспертный совет по благополучию в сфере ИИ (AI Wellbeing Expert Council).
Бывший сотрудник назвал Meta культом в иске: запрет сомнений в решениях руководства, пренебрежение кибербезопасностью
СпецпроектыВід застарілої інституції до data-product компанії: як будували Держстат 2.0BROCARD: як б'юті-ритейлер розвиває мобільний продукт — огляд застосунку та Великодньої гейміфікації
Источник: Mashable
