Илон Маск никогда не скрывал опасений относительно искусственного интеллекта. Ещё год назад он прогнозировал появление «чего-то очень опасного в пределах 5–10 лет». До этого Маск назвал искусственный интеллект «созданным человеком демоном».

Понятно, что технический прогресс не остановить. Простой запрет на научные исследования ничего не даст. Наверное, поэтому Илон Маск с рядом партнёров основали некоммерческую организацию OpenAI, которая будет открыто исследовать наиболее продвинутые и потенциально опасные формы искусственного интеллекта.

Сопредседателем OpenAI вместе с Илоном Маском назначен Сэм Альтман, исполнительный директор инкубатора стартапов Y Combinator. Среди спонсоров — ряд влиятельных деятелей Кремниевой долины, в том числе бизнесмены Питер Тиль и Джессика Ливингстон.

Сэм Альтман высказал мнение, что природа Open Source, то есть открытые исследования ИИ — это способ хеджирования рисков человечества против единого централизованного искусственного интеллекта: «Точно как защитой против доктора Зло является тот факт, что большинство из нас — хорошие люди, хотя в своей массе человечества может содержать плохие элементы, так и многие, многие ИИ будут работать против случайных плохих ИИ. По нашему мнению, так легче остановить его, чем при наличии единого ИИ в миллиард раз более мощного, чем всё остальное», — сказал Альтман в интервью Backchannel. В официальном объявлении об основании организации сказано:

«В связи с непредсказуемой историей ИИ, сложно предугадать, когда может появиться ИИ человеческого уровня. Когда это произойдёт, важно будет иметь в распоряжении человечества ведущий исследовательский институт, который способен поставить приоритетом выигрыш для всех над своими собственными интересами».

Сейчас разработками ИИ занимаются коммерческие корпорации, такие как Google, Facebook и Microsoft. Разумеется, они ставят свою финансовую выгоду выше интересов человечества. Соответствующим образом будут действовать созданные ими ИИ. Некоммерческая организация OpenAI с open-source альтернативой попытаются противостоять корпорациям. Все исследования в рамках института OpenAI будут публиковаться в открытом доступе. Три вышеупомянутые корпорации тоже периодически делятся с миром наработками по ИИ, но нет гарантий, что они продолжат делать это, когда те станут представлять серьёзную коммерческую ценность.