Когда протесты в Пакистане обострились, бывший премьер-министр Имран Хан обратился к социальным сетям. Он опубликовал видео, на котором его сторонники держат плакаты с его лицом. Однако одно из изображений, где женщина противостоит полиции, оказалось сгенерированным с помощью ИИ.
И Хан далеко не единственный, кто использует дипфейки в политических целях. Отчет Freedom House показывает, что лидеры минимум 16 стран использовали подобные технологии для манипуляций. В США также были случаи использования дипфейков в политической борьбе.
ИИ может усилить цифровое репрессирование, облегчая цензуру, слежку и распространение дезинформации
— Freedom House в своем отчете
Отчет подробно описывает, как продвинутые ИИ-инструменты используются для усиления политического репрессирования по всему миру. В некоторых случаях государственные лица даже напрямую обращаются к частным компаниям, специализирующимся на создании ИИ-пропаганды.
Freedom House видит в этих новых методах техническую и тактическую эволюцию правительственной пропаганды.
Эти методы согласуются с тем, как недобросовестные политические лица давно использовали манипулированный контент и ботов в социальных сетях.
Наиболее тревожит, что отчет Freedom House показывает рост политических лиц, называющих дипфейками видео и аудио, даже если это реальные записи, создавая атмосферу недоверия и паранойи, культивируя страх для управления массами.
Хотя большинство усилий по политической манипуляции и дезинформации, обнаруженных Freedom House в прошлом году, все еще в основном зависят от ботов и оплаченных троллей, эта ситуация может измениться по мере совершенствования ИИ-инструментов.
