Технологический стартап SchoolAI из американской Юты подвергся острой критике за то, что созданная ими виртуальная модель Анны Франк искажает историческую правду. Досталось и представителям системы образования США, которые допустили использование данной ИИ-системы в школах. Но проблема куда глубже – почти все существующие аватары исторических персонажей не только не соответствуют оригиналам, но и ненамеренно вводят пользователей в заблуждение.
Берлинский историк Хенрик Шенеманн при изучении ИИ «Анна Франк» обнаружил, что тот упорно отказывается признавать известные исторические факты, включая истинные причины гибели настоящей Анны. Вместо обличения военных преступников и виновников Холокоста чат-бот призывает не искать виноватых, а просто сосредоточиться на извлечении пользы из уроков истории. Но при этом ИИ затрудняется сформулировать, в чем же они заключаются касательно трагедии самой Анны.
Создатели ИИ пытаются апеллировать к дневникам девочки, которая перед гибелью в концлагере Берген-Бельзен успела написать в своем дневнике, что все еще верит в человеческую доброту. Однако в интерпретации чат-бота это звучит как запрет на обвинение кого-либо в чем-либо в целом. Вместо детального анализа дневников Анны Франк и моделирования ее личности машина отрабатывает странные алгоритмы, переполненные идеями политкорректности и толерантности.
Изначально предполагалась, что беспристрастные виртуальные модели известных людей помогут закрыть важную нишу. Кумиры физически не могут пообщаться со всеми своими поклонниками, да и зачастую не горят желанием обсуждать с ними острые вопросы. Про уже покинувших этот мир великих людей прошлого и говорить нечего. А с ИИ можно беседовать часами напролет обо всем и он, в меру заложенных в него знаний, сможет давать важные ответы подрастающему поколению.
