Исследователи призывают общественность задуматься о том, что системы искусственного интеллекта можно использовать в злонамеренных целях.
Нейросети проникают во все сферы повседневной жизни, привлекая всеобщее внимание. И если об изменениях в области экономики и образования мы уже кое-что знаем, то что на счет биологии и медицины? В марте этого года, например, ученые сообщили о разработке искусственным интеллектом 40 000 потенциально смертоносных молекул. При этом десятки тысяч новых веществ, напоминающих мощнейшие нервно-паралитические яды, удалось получить всего за шесть часов. Авторы работы, опубликованной в журнале Nature Machine Intelligence, использовали новые генеративные модели и не были уверены в исходе эксперимента, из-за чего некоторые детали исследования засекречены, а академическое сообщество обсуждает, стоит ли обнародовать эти данные. Беспокойство также вызывают новые алгоритмы конструирования белков, с помощью которых можно создавать как новые лекарства, так и биологическое оружие. В этой статье разбираемся какую роль играют системы искусственного интеллекта в области биологии и медицины.
Над чем бы ученые ни работали, у них все равно получается оружие, – Курт Воннегут, «Колыбель для кошки».
Биологическое и химическое оружие
С того самого момента, как на Земле появилась жизнь, все существующие организмы ведут борьбу за выживание. Помимо хищников, чей рацион составляют преимущественно другие животные, на нашей планете существует бесчисленное множество болезнетворных организмов или токсинов, контакт с которыми смертельно опасен: заражение некоторыми патогенами животных и растений может обернуться экологической катастрофой и пандемией.
И все же, естественная эволюция вирусов и бактерий разительно отличается от нашей способности использовать их в качестве оружия. Увы, но на протяжении всей истории люди постоянно искали новые способы убивать друг друга, особенно в ходе войн. Так, первым зарегистрированным применением биологических агентов считается использование римлянами мертвых животных для загрязнения водоснабжения врагов. Эта тактика не только уменьшала численность войск противника, но и снижала моральный дух бойцов.
Люди воевали друг с другом с помощью биологического оружия испокон веков
Это интересно: Что такое термобарическое оружие и почему его так боятся
Еще одним актом биотерроризма является переброс зараженных чумой трупов через стены в Каффу (в Крыму) в 1346-1347 годах – так монголы вынуждали осажденных противников бежать. Некоторые историки считают, что это событие стало причиной эпидемии чумы, охватившей средневековую Европу и унесшей жизни 25 миллионов человек.
Следующим биологическим оружием стали одеяла, которыми укутывали погибших от оспы британцев в 1767 году. Во время французской и индейской войн эти одеяла раздавали враждебным индейским племенам. Затем, в 1916-1918 годах, оружием стала сибирская язва, которой заражали лошадей и домашний скот для экспорта союзникам. Инциденты включают заражение румынских овец, аргентинских мулов и корма для животных.
Бактериологическая война – это использование биологических токсинов или инфекционных агентов с намерением убить и нанести вред противнику
В период с 1874–1907 года большинством западных стран подписали ряд международных договоров, запрещающих применение яда и ядовитого оружия на войне. Биологической войной считается преднамеренное распространение болезней среди людей, животных и растений.
Первая мировая война
Похоже дела обстоят и с химическим оружием, первые свидетельства применения которого историки относят к 600 году до нашей эры, когда афинские военные загрязняли водоснабжение осажденного города Кирра ядовитыми растениями морозника. Наибольшую известность, однако, химическое оружие получило после событий Первой мировой войны, став причиной большинства травм и смертей.
Самыми смертоносными оказались три вещества: хлор, фосген и иприт. Газообразный хлор, использованный в печально известный день 22 апреля 1915 года, образует зеленовато-желтое облако, раздражающее глаза, нос, легкие и горло. В достаточно высоких дозах убивает путем удушья. Фосген, который пахнет заплесневелым сеном, и вовсе является скрытным оружием: этот бесцветный газ более смертоносен, чем газообразный хлор. Отравление ипритом – бесцветным, как и фосген, газом, проявлялось через несколько часов после воздействия и нередко приводило к слепоте. Иприт также загрязнял землю, на которой был применен.
За время Первой мировой войны было использовано около 50 наименований отравляющих веществ
Читайте также: «Теорема конца света»: как и когда человечество исчезнет с лица Земли?
Эпоха новых вооружений
И хотя в 1925 году Лига Наций приняла Женевский протокол, запрещающий применение химических и биологических агентов на войне (но не запрещающих разработку, производство или накопление запасов такого оружия) в 1937 году Япония, занялась разработкой программы для наступательного биологического оружия. Тогда, по оценкам специалистов в ходе экспериментов погибло по меньшей мере 10 000 заключенных.
Затем, в 1939 году, Япония отравила советское водоснабжение бактериями брюшного тифа, а в 1940 сбросила рис и пшеницу вперемешку с блохами-переносчиками чумы над Китаем и Маньчжурией. Можно сказать, что начиная с 1940-х годов ХХ века человечество вступило в новую эпоху, разработав ядерное оружие и модернизировав химические и биологические вооружения (производство последних, кстати, обходилось чрезвычайно дешево).
Подробнее о том, какое химическое оружие использовалось в прошлом читайте в материале моего коллеги Рамиса Ганиева.
Искусственный интеллект – оружие XXI века?
«Новая эра биологии», наступившая за последние пару десятилетий, характеризуется значительным ускорением научно-технического прогресса и сближением биологии с математикой, инженерией, химией, квантовой механикой и искусственным интеллектом. И хотя эти разработки в целом улучшают условия жизни людей, они также могут быть использованы не по назначению.
Например, с помощью технологии усиления функциональности можно создать потенциально опасные патогены в лаборатории, а технологии редактирования генома позволяют проводить разнообразные манипуляция с ДНК. Что уж говорить про системы искусственного интеллекта, которые уже можно использовать для разработки нового биологического оружия или токсинов, (которые, к слову, невозможно обнаружить). Поскольку эти системы развиваются наряду с новыми более простыми, дешевыми и быстрыми производственными возможностями, ученые обращают все больше внимания на биозащиту и глобальные риски.
Современные технологии можно использовать как во благо человечества, так и наоборот
Современные системы искусственного интеллекта выявляют болезни на ранней стадии и создают химические и лекарственные соединения. Эта же технология, однако, может быть использована для создания потенциально опасных и смертоносных веществ, – отмечают эксперты.
Так, авторы нашумевшего исследования, результатом которого стала разработка искусственным интеллектом более 40 000 ядов, указывают, что «потратили десятилетия на использование компьютеров и искусственного интеллекта для улучшения здоровья человека, а не для его ухудшения». В ходе международной конференции по безопасности, ученые запустили систему искусственного интеллекта под названием MegaSyn в необычном для нее режиме работы, который заключается в намеренном поиске токсичных молекул.
Представленная версия MegaSyn также была обучена соединять обнаруженные молекулы в комбинации, благодаря чему смогла за рекордные шесть часов создать более 40 000 потенциально опасных молекулярных соединений. Впоследствии оказалось, что многие из них были даже более токсичными, чем VX – фосфорорганическое боевое отравляющее вещество нервно-паралитического действия.
Изменив использование моделей машинного обучения, мы превратили нашу безобидную генеративную модель из полезного медицинского инструмента в генератор потенциально смертельных боевых ядов, – объясняют авторы научной работы.
Искусственный интеллект создал 40 000 ядовитых для человека соединений.
И хотя ни одно из указанных в статье соединений в реальности не существует, проведенный эксперимент предупреждает исследователей всего мира об опасности искусственного интеллекта, к чему человечеству, учитывая его историю, не помешает прислушаться. К тому же большая часть процесса относительно проста в использовании с помощью общедоступных инструментов.
Хотите всегда быть в курсе последних новостей из мира науки и высоких технологий? Подписывайтесь на наш канал в Telegram – так вы точно не пропустите ничего интересного!
Новое биологическое оружие
Выходит, автономный создатель смертоносного химического оружия вполне реален. Убедиться в этом можно, обратив внимание на внедрение новой ИИ-системы по конструированию белков – алгоритма, который способен создавать множество разнообразных соединений и призван оказать помощь в поиске новых лекарственных препаратов. Такие модели искусственного интеллекта как ProtGPT2 и ProGen, например, позволяют ученым представить гораздо больший спектр молекул и белков, чем когда-либо.
Природе, к слову, потребовались миллионы лет, чтобы создать белки. Теперь же мощные системы искусственного интеллекта генерируют значимые последовательности белков за считанные секунды. Так в чем же проблема? Как объясняют авторы статьи, опубликованной в журнале Чикагского университета Bulletin of the Atomics, вместо того чтобы извлекать токсины из их непосредственных источников, новые технологии позволяют производить смертоносные яды в бактериях или других клетках.
В природе существует немало смертельно опасных токсинов.
В природе существуют яды, вырабатываемые такими организмами как растения или грибы. Например, рицин – токсин, полученный из касторовых бобов, вероятно, использовался болгарскими агентами в Лондоне в 1978 году для убийства болгарского диссидента Георгия Маркова, – говорится в статье.
Еще одним примером является ботулинический нейротоксин, который в 100 000 раз токсичнее нервно-паралитического вещества зарин и является основным компонентом государственных арсеналов биологического оружия. «Если технология разработки и производства белковых токсинов улучшится, скажем, за счет упрощения разработки новых токсинов или улучшения существующих, это не может не вызывать беспокойства», – отмечают эксперты.
Больше по теме: Биологическое оружие — история возникновения и применения
Современные ИИ-системы генерируют множество новых белковых соединений за считанные минуты
На самом деле разработка белков с помощью искусственного интеллекта – потенциально революционное достижение. Все потому, что белки буквально являются молекулярными машинами жизни, которые выполняют широкий спектр важнейших функций. Учитывая исключительную роль этих «кирпичиков жизни», наличие новых белковых соединений может привести к созданию лекарств от генетических и нейродегенеративных заболеваний. Но это – лишь с одной стороны.
«Лед-9»
Важно понимать, что биологи не наивны в отношении аспектов безопасности собственной профессии и мало кто из них хотел бы, чтобы науку использовали для преднамеренного причинения вреда. Однако риски, похоже, осознают не все и не в полной мере. Так, в ранее опубликованных статьях о способностях ProtGPT2 и ProGen, вопросы о потенциальной опасности технологических новинок не рассматриваются. Более того, новые модели являются общедоступными.
И хотя разработка молекулы или белка, выполняющего определенную задачу, может показаться безобидной, объединение этой способности с технологией для реального производства продукта, переносит нас в иную реальность. И если учесть описанное выше исследование по разработке 40 000 аналогов нервно-паралитического вещества VX, создание новых, неизвестных науке белковых соединений, может привести к катастрофе, а не созданию лекарств против болезни Альцгеймера или Паркинсона.
Читайте также: Каким будет конец света по мнению ИИ?
Иллюстрация к роману «Колыбель для кошки» в исполнении нейросети
Несмотря на веские причины для разработки ИИ-технологий в области медицины, ученые, судя по всему, не взвесили все возможные риски. Так что же делать? Некоторые представители академического сообщества рекомендуют коллегам обдумать собственные изобретения и не торопиться с их реализацией.
Мне же в связи с последними событиями вновь вспоминается «Колыбель для кошки» – знаменитый роман Курта Воннегута, главной темой которого является ответственность ученых за свои изобретения. Ключевая роль в нем принадлежит создателю атомной бомбы доктору Феликсу Хонникеру, который, полушутя и без колебаний изобретает оружие «Судного дня» под названием «Лед-9». Рекомендую к прочтению.
