Раздел Технологии выходит при поддержке
Алексиос Манцарлис пять лет посвятил Google, где он работал над генеративным искусственным интеллектом и точностью фактов в поиске. Он ушел, потому что точность и полезность больше не важны.
В Google Манцарлис создал «red team» — экстренную команду, сосредоточенную на рисках из-за контента, созданного искусственным интеллектом, и руководил командой, ответственной за контентную политику поиска Google в отношении точности и полезности результатов. Он ушел из-за разногласий с политикой компании и рассказал о причинах в интервью Cybernews.
«Мне очень нравился Google, а потом я его очень возненавидел. Столько всего изменилось с точки зрения философии, теперь стало только хуже. Когда произошел большой поворот к искусственному интеллекту, я потерял всякую уверенность в том, что качество информации является настоящим приоритетом», — говорит Манцарлис.
Сейчас специалист работает в Корнелльском технологическом институте, где руководит Инициативой безопасности, доверия и защиты, которая стремится предотвратить цифровой вред с помощью аспирантуры, активных сообществ практиков и исследований. Однако и там сейчас трудно: из-за действий администрации президента США Дональда Трампа, а также царит «общая катастрофическая атмосфера».
Манцарлис считает внедрение Google технологий искусственного интеллекта «несколько бессистемным». Причиной, конечно, стал внезапный взлет популярности OpenAI и ChatGPT. Он считает, что влияние ChatGPT на поиск Google может быть действительно экзистенциальным.
«Развертывание этого инструмента было мотивировано главным образом намерением показать рынкам и акционерам, что Google может это сделать, а не идеей действительно выделить Google как место, куда можно обратиться и найти высококачественную, полезную информацию. … ChatGPT определенно влияет на поисковое поведение, так что да, это экзистенциально важно для поиска. Но я думаю, что Google «решил» эту экзистенциальную проблему таким образом, что на самом деле увеличил риски, а не уменьшил».
Как технический писатель и эксперт, Манцарлис заметил, что так называемые отходы искусственного интеллекта (термин, описывающий низкокачественные медиа, созданные с помощью генеративного ИИ) «делают нас все менее способными добраться до важных доказательств, правды и фактов».
И Google стал частью проблемы — просто из-за его гигантского масштаба. Даже если уровень ошибок составляет 0,1%, среди 15 млрд результатов поиска будут десятки или сотни тысяч ошибок — это очень много.
«Также огорчает, что приоритет был отдан универсальному использованию ИИ, а не специализированным инструментам, которые можно научить быть чрезвычайно точным в определенных вопросах. Вместо этого мы создали этого самоуверенного лжеца», — считает Манцарлис.
Он надеется, что люди увидят, как на самом деле работает поиск на базе искусственного интеллекта, и разочаруются. Уже сейчас люди во всем мире подают в суд на OpenAI, потому что ChatGPT говорит им, что они убили собственных детей и другие ложные и возмутительные вещи.
«Но я также немного фаталист, потому что это крупнейшие, лучше обеспеченные и самые развитые компании в мире — и это путь, который они выбрали. Генеративный ИИ нам коллективно навязывают, хотим мы этого или нет. И, конечно, нынешняя атмосфера еще больше усложняет защиту безопасности и качества информации».
Как бывший основатель и директор Международной сети по проверке фактов, глобальной коалиции проектов по фактчекингу, Манцарлис провел многочисленные часы в переговорах с Google, Meta и другими представителями индустрии. Он не слишком оптимистичен относительно будущего.
Раздел Технологии выходит при поддержке
Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков.
