ИИ-стартап Doublespeed, финансируемый венчурной компанией Andreessen Horowitz, стал жертвой масштабного взлома. Хакер получил доступ к бэкенду компании, управляющей массивной фермой телефонов для создания сотен ИИ-сгенерированных аккаунтов в соцсетях, раскрыв масштабы манипуляций в социальных медиа.
Doublespeed предлагает клиентам уникальный сервис – доступ к огромной ферме телефонов для управления сотнями искусственных аккаунтов в соцсетях. Согласно расследованию 404 Media, взлом затронул не отдельные аккаунты, а всю систему управления фермой телефонов, предоставив беспрецедентный взгляд на использование сервиса для массовых манипуляций.
Хакер, пожелавший остаться анонимным, рассказал 404 Media, что может видеть используемые телефоны, какие менеджеры [компьютеры, управляющие телефонами] у них были, какие аккаунты TikTok им назначены, используемые прокси (и их пароли) и ожидающие задачи. А также ссылку для управления гаджетами для каждого менеджера.
Хакер поделился списком более 400 аккаунтов TikTok, управляемых фермой Doublespeed, примерно половина из которых активно продвигала товары. Большинство делали это без раскрытия информации о том, что посты были рекламными – прямое нарушение условий использования TikTok и правил в различных регионах.
Хотя нераскрытая реклама может показаться мелочью, ситуация указывает на мрачную тенденцию. Doublespeed не только потенциально может стать площадкой для дезинформационных кампаний или финансовых мошенничеств, но и, судя по всему, работает без каких-либо противодействий со стороны TikTok.
Аккаунты TikTok от Doublespeed использовали различные схемы, продвигая приложения для изучения языков, пищевые добавки, массажные продукты, приложения для знакомств и многое другое. Один аккаунт под именем Chloe Davis загрузил около 200 постов с ИИ-генерированной женщиной, рекламирующей массажный ролик для компании Vibit, сообщает 404 Media.
Инсайдеры ИИ-индустрии боятся собственного творения, игнорируя современные проблемы
Эра пост-правды – популярные ИИ не смогли распознать фальшивость изображения о теракте в Бонди-Бич
Хотя хакер утверждает, что сообщил об уязвимости Doublespeed 31 октября, он отмечает, что у него всё ещё был доступ к бэкенду компании вплоть до сегодняшнего дня.
Пока Doublespeed активен только в TikTok, но у компании есть планы расширения на Instagram, Reddit и твиттер. Когда это произойдёт, вовлечённость в соцсетях и всё сопутствующее влияние будут отданы тому, кто больше заплатит.
