Философ Ник Бостром, более двух десятилетий назад потрясший умы технологических энтузиастов своей теорией о том, что мы живём в компьютерной симуляции, наблюдает воплощение своих прогнозов об ИИ в реальном времени. Футуролог, чьи идеи поддерживают Илон Маск, Билл Гейтс и Сэм Альтман, поделился новыми размышлениями о будущем искусственного интеллекта.
В 2003 году Бостром опубликовал в Philosophical Quarterly статью, предложившую концепцию симуляции реальности. За прошедшие годы он выпустил ещё два влиятельных труда – "Сверхразум: пути, опасности, стратегии" (2014), описывающий способы превосходства ИИ над человеческим интеллектом, и "Глубокая утопия: жизнь и смысл в решённом мире" (2024), размышляющий о последствиях универсального решения проблем с помощью ИИ.
Говоря о развитии искусственного интеллекта философ заявил изданию The London Standard:
Всё происходит прямо сейчас. Скорость прогресса за последние несколько лет впечатляет.
Бостром добавил, что мир движется к созданию искусственного общего интеллекта – точке, когда ИИ-системы достигнут уровня человеческого разума.
Когда в начале 2010-х годов учёный писал "Сверхразум", многие его идеи носили теоретический характер. Теперь, приближаясь к реализации AGI, некоторые из его концепций эволюционировали. В 2019 году Бостром утверждал, что ИИ представляет большую угрозу человечеству, чем изменение климата. Сегодня философ более осторожен в формулировках, отмечая:
Всегда остаётся возможность того, что человеческая цивилизация может уничтожить себя каким-то другим способом, так что мы даже не получим шанса испытать удачу со сверхразумом.
Бывший профессор Оксфорда изменил свою позицию относительно продвинутого ИИ, заявляя, что AGI неизбежен и он не обязательно против этого.
Полная реорганизация общества может оказаться позитивной.
Футуролог выделяет четыре ключевые проблемы:
-
Согласование ИИ с человеческими ценностями и безопасностью
-
Управление AGI для предотвращения злонамеренного использования
-
Уважение морального статуса цифровых разумов
-
Предотвращение конфликтов между сверхразумами
Первые две задачи (согласование и управление) – присутствуют в миссии любой ИИ-лаборатории. Однако последние две концепции выглядят неожиданно даже для автора теории симуляции.
Может звучать странно, но по мере создания всё более сложных ИИ возможно, что некоторые из них будут обладать различными степенями и формами морального статуса.
Его описание битвы сверхразумов звучит ещё более необычно. Если инопланетные расы прибудут на Землю со своими мега-продвинутыми ИИ, люди теоретически могут стать миротворцами между ними.
Если такие существа существуют, важным требованием при создании собственного сверхразума станет обеспечение его совместимости с другими сверхсуществами.
Несмотря на фантастичность теоретических сценариев, размышления Бострома о современном ИИ более приземлённы, хотя все еще довольно утопичны.
Цель – полная безработица. Нам потребуется найти другие основы для самооценки и достоинства, другие способы заполнения жизни и дней, помимо необходимости работать ради выживания.
Сколь бы трудным ни казалось представить мир, где "полная безработица" позитивна, Бостром, называющий себя "тревожным оптимистом", считает пост-трудовой мир великолепным. По его словам, если всё пойдёт хорошо, люди будут оглядываться на 2025 год и содрогаться от ужаса при воспоминании о том, как мы жили.
