Алгоритм, обученный отличать живые организмы от неживых объектов, достиг точности 99,97%, но затем с высокой уверенностью принял подделки за живые системы
Учёные из Университета штата Мичиган показали, что искусственный интеллект может уверенно ошибаться при поиске признаков жизни — проблема, которая может стать критичной для будущих космических миссий с автономными системами анализа данных. Алгоритм успешно отличал цифровые организмы от неживых объектов, но после начал принимать созданные подделки за живые системы.
Для эксперимента исследователи использовали компьютерную платформу Avida, где существуют цифровые организмы, способные к самокопированию, и объекты, которые этого делать не могут. Обученная модель правильно классифицировала такие объекты в 99,97% случаев. Однако затем учёные начали постепенно изменять неживые фрагменты кода, создавая варианты, которые сохраняли отдельные признаки из обучающих данных.
В результате алгоритм стал почти со 100%-ной уверенностью относить многие из этих объектов к живым, хотя они не обладали главным признаком жизни в этой системе — способностью к репликации.
По словам авторов работы, проблема связана с тем, что базовые ИИ-модели могут находить статистические закономерности в данных, но не обязательно «понимают» фундаментальные свойства объекта. Это создаёт риск для миссий, где автономные инструменты будут искать признаки жизни на Марсе, ледяных спутниках или других космических объектах и самостоятельно выделять наиболее интересные находки для анализа.
При этом NASA и научные партнёры уже активно развивают системы поиска жизни с помощью машинного обучения. Один из проектов NASA получил грант $5 млн на создание алгоритмов, способных искать признаки жизни в сложных химических данных. Система будет обучаться на как минимум 1 000 образцах, включая метеориты, горные породы, ископаемые остатки и живые организмы, используя данные приборов вроде масс-спектрометров [устройств для анализа химического состава вещества], которые уже применяются в космических миссиях.
Учёные отмечают, что модели искусственного интеллекта следует обучать не только на живых организмах, но и на следах их существования — например, ископаемых остатках и химических продуктах жизнедеятельности. При этом исследователи из Университета штата Мичиган считают, что современные методы ещё недостаточно надёжны для самостоятельного поиска жизни в космосе и требуют дальнейшей разработки систем, способных выявлять подобные ошибки.
