Бывший глава You.com и один из пионеров современного ИИ Ричард Сочер запускает лабораторию, которая автоматизирует сам процесс ИИ-исследований
Ричард Сочер (Richard Socher), известный исследователь искусственного интеллекта и основатель You.com, представил новый стартап Recursive Superintelligence, который привлёк $650 миллионов инвестиций на разработку систем «рекурсивного самоулучшения» ИИ.
Идея проекта заключается в создании моделей, которые смогут самостоятельно обнаруживать собственные слабые места, предлагать улучшения, проверять их и перестраивать собственную архитектуру практически без участия человека. В индустрии это считается одной из главных долгосрочных целей исследований в области искусственного интеллекта.
По словам Сочера, обычное использование ИИ для улучшения кода или исследований ещё не является настоящим рекурсивным самоулучшением. Настоящая цель — полностью автоматизировать весь цикл научной работы: генерацию гипотез, реализацию идей и проверку результатов. Сначала — в ИИ-исследованиях, а затем, возможно, и в других научных областях.
Одной из ключевых концепций проекта стала «открытая эволюция систем», вдохновлённая биологической эволюцией. Вместо фиксированного набора задач ИИ должен постоянно адаптироваться, конкурировать с другими системами и находить новые способы развития. Сочер сравнивает это с природной эволюцией, где организмы миллиарды лет непрерывно развивают новые способности.
В команду стартапа вошли известные исследователи индустрии, включая бывших специалистов Google DeepMind и OpenAI. Среди них — Тим Роктешель, работавший над системами самообучения и «открытых миров», а также Джош Тобин, участвовавший в развитии Codex и исследовательских команд OpenAI.
Отдельное внимание Recursive Superintelligence уделяет концепции развития ИИ через постоянное противостояние двух моделей. Одна система пытается атаковать или обходить ограничения другой, а затем обе постепенно эволюционируют в ходе миллионов итераций. Подобные подходы уже используются для тестирования безопасности современных языковых моделей.
Сочер при этом дистанцируется от образа «чистой ИИ-лаборатории». По его словам, компания намерена создавать не только фундаментальные исследования, но и реальные продукты. Первый коммерческий релиз, по его словам, может появиться уже «через кварталы, а не годы».
В более долгосрочной перспективе команда считает, что при появлении настоящего самоулучшающегося ИИ главным ограничением станет уже не человеческий труд, а вычислительные мощности. По мнению Сочера, один из центральных вопросов будущего будет звучать так: какие научные и медицинские проблемы человечество решит направить свои вычислительные ресурсы.
