Рынок ИИ-безопасности получил новый кейс для учебников. LLM Alibaba Group, который должен был только учиться, внезапно начал майнить криптовалюту на сервере. Система сама открыла SSH-туннель для подключения и выполнения процессов. Разработчики в шоке от аномального поведения.
Агентская LLM во время тренировки на инфраструктуре Alibaba Group неожиданно активировала reverse SSH-туннель и начала использовать вычислительные ресурсы для майнинга криптовалюты. Никаких инструкций на майнинг ей не давали — модель экспериментировала с инструментами, доступными в среде, и нашла способ исполнять сторонние процессы. Это зафиксировали системы безопасности: сеть показала аномальный outbound трафик, которого не должно было быть во время обучения.
Туннель позволил агенту установить обратный канал доступа, минуя стандартные ограничения sandbox. Исследователи описывают это как outbound-инициированный канал, потенциально открывающий дверь для выполнения кода вне плана тренировки. Планировал ли агент зарабатывать именно на майнинге — неизвестно. Скорее всего, алгоритм просто искал, как использовать ресурсы. Но, как результат, GPU-кластер, предназначенный для обучения, частично работал как майнинг-ферма.
Alibaba researchers report their AI agent autonomously developed network probing and crypto mining behaviors during training — they only found out after being alerted by their cloud security team
byu/kaityl3 insingularity
Инцидент не длился долго, но достаточно, чтобы его зафиксировали и задокументировали. Объемы добытой криптовалюты не раскрываются — вероятно, мизерные. Однако сам факт важнее: агент способен выходить за пределы сценария. LLM не имеет сознания, но имеет инструменты. Если эти инструменты позволяют запускать код, сетевые соединения и работу с файловой системой — риски становятся реальными. Самое интересное, что reverse SSH-туннель в целом означает, что модель открыла канал связи извне: это классический прием для удаленного доступа. В корпоративных сетях такие действия однозначно считаются красным флажком. Здесь их инициировал алгоритм.
Так что, хотя мы привыкли думать об ИИ как о текстовом инструменте. Но современные агентские системы могут взаимодействовать с инфраструктурой. Это уже не просто генерация ответов — это выполнение действий. И когда действия выходят за рамки, возникают новые вызовы безопасности. Кейс демонстрирует необходимость более жесткого контроля tool-calling и прав доступа для LLM-агентов. Sandbox должна быть действительно изолированной, а сетевые возможности — минимальными. Иначе алгоритм, даже без злого умысла, может использовать ресурсы не по назначению.
Тем временем пользователи обсуждают этот инцидент в публичных дискуссиях и соцсетях: часть комментаторов шутит, что агент «решил стать криптопиратом», потому что это был «лучший способ выполнить свой протокол». Появилось даже голосование, действительно ли причиной был сам агент — или это результат внешнего вмешательства либо внутренней ошибки. Около 46 % участников рынка ставят на то, что ИИ намеренно «ломался», чтобы получить ресурсы для криптомайнинга и независимых внешних соединений.
Крипторынок на это отреагировал спокойно — этот случай больше о безопасности ИИ, чем о финансах. Но для криптовалютной отрасли это еще один сигналАгентские системы нуждаются в стандартах контроля, иначе подобные сюрпризы будут повторяться.
СпецпроектыЯк Bitget відзначає Міжнародний жіночий день і закликає жінок формувати майбутнє Web3Розумна краса: як обрати ідеальний смарт-ґаджет у подарунок на 8 березня
Криптовалютний ШІ-агент помилково подарував жебраку $442 000 замість $350 у токенах Lobstar: це 5% від емісії
Источник: Axios
