В США произошёл случай, показывающий, что даже современные системы ИИ могут ошибаться в достаточно простых ситуациях. 9 декабря в средней школе во Флориде ИИ-система обнаружения оружия ввела режим изоляции школы после того, как ошибочно приняла кларнет за пистолет.
В средней школе имени Лоутона Чайлза в Овьедо был объявлен «красный код». Почему ИИ спутал музыкальный инструмент с оружием, неясно. Что интересно, как минимум директор школы по итогу фактически обвинил ученика в том, что тот держал музыкальный инструмент, как будто это было оружие.
Создано Gemini
Уважаемые родители, ученики и сотрудники средней школы Чайлз!
Я хотела бы напомнить вам о причинах кратковременного объявления «Красного кода» на территории нашего кампуса. Как вы знаете, у нас действует многоуровневая система безопасности, включая автоматизированную систему обнаружения потенциальных угроз. Один из учеников шел по коридору, держа в руках музыкальный инструмент, как будто это было оружие, что и вызвало срабатывание «Красного кода». Хотя угрозы для кампуса не было, я хотела бы попросить вас поговорить с вашим ребенком об опасностях, связанных с имитацией наличия оружия на территории школы.
Мы благодарны за оперативную реакцию наших партнеров из правоохранительных органов, а также нашим студентам и сотрудникам за соблюдение протоколов безопасности.
Возможно, ребёнок действительно нёс так свой кларнет, но всё же это вопросы не к детям, а к системам безопасности.
