Джимми Уэйлс, основатель Википедии, оказался перед сложным выбором. Он хочет использовать ИИ для работы со статьями энциклопедии, так как это значительно экономит средства и очень много времени. Но он не может просчитать последствия накопления ошибок, которые массово допускают доступные системы, вроде GPT.
Изначально планировалось применять ИИ для выявления ошибок в статьях путем сравнения их содержимого. Например, в поисках противоречий или неполной информации. Исправление сведений все равно остается прерогативой человека, и при таком подходе ИИ не добавляет ничего от себя, а потому и новых ошибок не вносит.
Однако у Википедии есть насущная проблема – ограниченный набор контента. Так как перед участниками проекта не стоит задачи описать все на свете, то волонтеры создают статьи, исходя из собственных интересов. Как следствие, многие темы не освещаются вовсе, либо по ним крайне мало информации. Вот тут бы и пригодился беспристрастный и трудолюбивый GPT — однако кто-то должен ставить ему задачи, что опять же приводит к ограничению выборки.
Главная опасность использования ИИ в наполнении Википедии в том, что она используется как источник знаний — в том числе, для обучения других ИИ. Любая ошибка в статье будет многократно повторена и де-факто станет «правдой» — фактом, в который все будут верить. С учетом масштабов распространения ИИ это приведет к образованию огромной массы ложных сведений, проверять которые будет титанической задачей. Поэтому Уэйлс пока и не торопится с окончательным решением.
