Канадский Университет Ватерлоо демонтирует умные торговые автоматы M&M’s из своего кампуса. Студенты обнаружили, что машины тайно выполняли распознавание лиц студентов без их согласия.
Скандал начался, когда студент под псевдонимом SquidKid47 опубликовал в Reddit фото сообщения об ошибке торгового автомата университетского городка: «Invenda.Vending.FacialRecognitionApp.exe». Вероятно, оно появилось после того, как машина не смогла запустить программу распознавания лица, наличия которой в автомате никто не ожидал.
«Эй, а почему в тупых машинах M&M’s есть распознавание лиц?», — спросил SquidKid47.
Студент четвертого курса Ривер Стэнли взялся расследовать публикацию в Reddit, о чем писал для университетского издания MathNEWS. Стэнли забил тревогу после ознакомления с рекламными брошюрами производителя, компании Invenda, которые обещали, что «машины способны отправлять приблизительный возраст и пол» каждого человека, использовавшего машинами, без запроса согласия.
Это разочаровало Стэнли, который обнаружил, что уполномоченный по вопросам конфиденциальности Канады много лет назад расследовал деятельность оператора торгового центра под названием Cadillac Fairview после того, как обнаружил, что некоторые из информационных киосков торговых центров тайно «использовали программное обеспечение для распознавания лиц к посетителям».
Курс QA. Найпростіший шлях розпочати кар'єру в ІТ та ще й з гарантованим працевлаштуванням. Дізнатись про курс
Только благодаря этому официальному расследованию канадцы узнали, что «более 5 миллионов канадцев, которые не дали согласия», были отсканированы в базу данных Cadillac Fairview, сообщил Стэнли. Cadillac Fairview в конце концов был вынужден удалить всю базу данных, но последствия сбора подобных конфиденциальных данных распознавания лица без согласия других клиентов Invenda, таких, как Mars, остаются неясными. Стэнли призвал студентов требовать от университета запрета торговых автоматов с распознаванием лиц в кампусе.
Представитель Университета Ватерлоо Ребекка Элминг подтвердила CTV News, что учреждение попросило выключить программное обеспечение торговых автоматов, пока сами автоматы не будут удалены. Элминг говорит, что машины будут удалены как можно быстрее. Она не знает об использовании ни одной подобной технологии в кампусе.
Причастная к установке автоматов компания Adaria Vending Services рассказала MathNEWS, как они работают:
*Важнее всего понимать, что машины не делают и не хранят никаких фотографий или изображений, и отдельное лицо невозможно идентифицировать с помощью технологии в машинах. Технология действует только как датчик движения, который распознает лицо, чтобы машина знала, когда активировать интерфейс покупок».
Согласно пресс-релизу Invenda, производитель конфет M&M’s, Mars, был ключевой частью экспансии Invenda в Северной Америке. Только после завершения раунда финансирования в размере 7 миллионов долларов, включая сделки с Mars и другими крупными клиентами, такими как Coca-Cola, Invenda смогла подтолкнуть к экспансивному глобальному росту, который значительно расширяет возможности сбора данных и наблюдения за ее умными торговыми автоматами.
Но студенты Университета Ватерлоо, такие, как Стэнли, теперь ставят под сомнение «обязательства Invenda по прозрачности» на рынках Северной Америки, особенно потому, что компания, кажется, открыто нарушает канадский закон о конфиденциальности, сказал Стэнли CTV News.
В ЕС приняли законопроект о регулировании ИИ и запрете систем распознавания лиц
Источник: Ars Technica
Продолжается конкурс авторов ИТС. Напиши статью о развитии игр, гейминг и игровые девайсы и выигрывай профессиональный игровой руль Logitech G923 Racing Wheel, или одну из низкопрофильных игровых клавиатур Logitech G815 LIGHTSYNC RGB Mechanical Gaming Keyboard!
