Демис Хассабис предложил учредить надзорный орган, который сможет принудительно замедлять распространение передовых ИИ-систем
Демис Хассабис, глава Google DeepMind, считает, что миру нужен независимый орган, который сможет оценивать самые мощные модели искусственного интеллекта до их выпуска и при необходимости координировать временное ограничение их распространения.
Хассабис заявил, что разработкой глобальных правил для передовых систем ИИ нельзя больше пренебрегать. В опубликованном блоге он предложил создать «международную организацию по контролю за передовыми моделями искусственного интеллекта, которая могла бы выполнять роль независимого надзорного органа».
По мнению Хассабиса, инициатором создания такой структуры должны выступить США — благодаря их ведущей роли в разработке ИИ и влиянию на технологический рынок. Предлагаемый орган, по его задумке, должен объединить специалистов по безопасности ИИ, представителей научного сообщества и разработчиков открытого программного обеспечения. Среди его полномочий могли бы быть независимая оценка наиболее мощных моделей перед запуском и рекомендации по замедлению их распространения, если они будут признаны потенциально опасными.
Идею Хассабис описал в статье "A Framework for Frontier AI and the Dawning of a New Age". Он отметил, что развитие ИИ приближается к этапу появления систем, близких к искусственному общему уровня AGI, способному выполнять широкий спектр интеллектуальных задач на уровне человека или выше. По его словам, нынешний период может оказаться началом фундаментальных изменений в экономике и обществе, поэтому механизмы контроля необходимо создавать заранее.
По данным Axios, Хассабис уже несколько месяцев обсуждает инициативу с представителями американской администрации, другими лабораториями ИИ и европейскими чиновниками. Он рассчитывает, что новая организация сможет начать работу до конца года, однако пока не существует ни согласованного международного формата такого регулятора, ни единой системы правил для ИИ в США.
Предложение Google DeepMind стало частью более широкой дискуссии о регулировании самых мощных моделей ИИ. Ранее Хассабис вместе с другими руководителями технологических компаний выступал за усиление защиты от потенциального использования искусственного интеллекта для создания биологического оружия. Параллельно представители индустрии и экономики предупреждают о необходимости заранее подготовиться к возможным изменениям на рынке труда и в мировой экономике из-за быстрого развития ИИ.
При этом создание глобального надзорного органа остаётся сложной задачей: страны по-разному оценивают риски ИИ, а ведущие технологические компании одновременно выступают за регулирование и продолжают активно развивать собственные модели. Предложение Хассабиса фактически ставит вопрос о том, кто и каким образом будет определять допустимые границы развития наиболее мощных систем искусственного интеллекта.
