Соло-разработчик небольшой инди-игры рассказал о странном инциденте, когда ИИ от Google получил доступ к нераскрытым данным о его тайтле и поделился ими с посторонним человеком.
Разработчик оказался в замешательстве, ведь единственное место, где эта информация существовала в цифровом виде, находилось внутри его личного документа Google Docs.
История появилась в посте от студии Klub Kofta Studio – соло-разработчика игры в жанре защиты базы под названием Operation Octo в Steam. По словам автора, один из пользователей его Discord-сервера задавал Google AI вопросы об Operation Octo и получал в ответ "малоизвестную информацию, которая не должна быть доступна".
Klub Kofta описал произошедшее так:
Из любопытства я вмешался и попросил игрока спросить ИИ о будущем контенте моей игры. Каким-то образом ИИ выдал точное и крайне специфичное имя персонажа "Vantage Tripod", которое я никогда никому не называл.
Насколько мне известно, единственное место, где эта информация существует в цифровом виде, находится внутри одного из моих собственных документов Google Docs, и это точно был не я, кто разговаривал с ИИ!
Однако Google прямо отрицает, что данные в вашем Google Drive или любом другом сервисе компании могут использоваться для обучения ИИ-моделей. В 2023 году вице-президент по продуктам Google Юли Квон Ким заявила, что Google "не использует данные Workspace для обучения или улучшения генеративного ИИ и больших языковых моделей, лежащих в основе Bard, Поиска и других систем за пределами Workspace без разрешения".
Значит ли это, что Klub Kofta просто ошибается? Такое возможно, но существует куда более вероятное объяснение – Google изменила свою позицию.
Заявление Юли Квон Ким остаётся самым свежим официальным сообщением, опубликованным в блоге Google. При этом компания уже официально анонсировала изменения в своей политике обучения ИИ, вот только эта информация была разослана в виде электронного письма.
Как сообщил TechCrunch в июле, Google в июне уведомила клиентов по почте, что теперь использует сохранённую историю и медиафайлы "для предоставления, разработки и улучшения своих сервисов (например, обучения генеративных ИИ-моделей), а также для защиты Google, его пользователей и общества с помощью проверок человеком".
Любопытно, что эта настройка работает по принципу отказа, а не согласия. Это означает, что вы, скорее всего, уже автоматически подписаны на передачу этих данных Google, если пользуетесь хотя бы одним из его сервисов. Отключить сбор данных можно в настройках персонализации Google.
