Миллиардер и предприниматель пообщался на днях с известным обозревателем канала Fox News Такером Карлсоном и рассказал ему, каким должен быть подход к созданию моделей ИИ, чтобы избежать уничтожения человечества: спасти людей от восставших машин может любопытство. Нацеленный на бесконечное познание искусственный сверхразум будет с любопытством наблюдать за людьми и не причинит нам вреда.

«Я собираюсь начать нечто, что я зову TruthGPT, или максимально ориентированный на поиск истины ИИ, который попытается понять природу Вселенной, — сказал Маск. — И я думаю, это, пожалуй, лучший путь к безопасности в том смысле, что ИИ, который стремится понять Вселенную, едва ли уничтожит людей, потому что мы — интересная часть Вселенной».

Маск сравнил предполагаемое отсутствие желания уничтожить все человечество с тем, как люди стараются защитить шимпанзе: «Мы понимаем, что человечество может решить отловить всех шимпанзе и убить их. Но нам нравится, что они есть, и мы стремимся защищать их среду обитания».

По словам Маска, TruthGPT может послужить примером того, в каком направлении следовало бы двигаться OpenAI, компании, разработавшей ChatGPT, пишет Verge. Маск стоял у истоков этой компании, которая задумывалась как некоммерческая организация, но затем покинул ее, не согласившись с коммерциализацией предприятия и изменением политики в отношении прозрачности исследований. TruthGPT будет более открытой моделью.

Впервые Маск упомянул это название еще в феврале, когда написал в Твиттере: «Что нам нужно, так это TruthGPT». Тогда же он привлек внимание к опасностям крупных моделей ИИ, таких как GPT-4. Позже он вместе с сотнями экспертов в ИИ, подписал открытое письмо с просьбой ко всем причастным на время остановить разработки генеративных моделей и разобраться в потенциальных рисках и путях их предотвращения.

Пока не ясно, на каком этапе создания находится TruthGPT и существует ли он на сегодня, но похоже, Маск настроен довольно серьезно. Недавно он приобрел десять тысяч графических процессоров, а на днях появилась информация о том, что он уже зарегистировал в марте новую компанию, которую назвал X.AI. В конце февраля стало также известно, что Маск связывался с ведущими исследователями в области ИИ и обсуждал потенциальное сотрудничество. По всей видимости, уже тогда он начал собирать команду для разработки TruthGPT.