Илья Суцкевер, главный научный сотрудник OpenAI, о своих надеждах и опасениях относительно будущего ИИ

Друзья, с момента основания проекта прошло уже 20 лет и мы рады сообщать вам, что сайт, наконец, переехали на новую платформу.

Какое-то время продолжим трудится на общее благо по адресу https://n-n-n.ru.
На новой платформе мы уделили особое внимание удобству поиска материалов.
Особенно рекомендуем познакомиться с работой рубрикатора.

Спасибо, ждём вас на N-N-N.ru

Автор оригинала: Уилл Дуглас Хэвен. Перевод – Ксения Мосеенкова. Я пришел на встречу с Ильей Суцкевером, соучредителем и главным научным сотрудником OpenAI, в неприметное офисное здание компании на непримечательной улице в районе Мишн в Сан-Франциско. Мы поговорим о том, что будет дальше с перевернувшей мир технологией, к появлению которой он приложил немало усилий. Также я собираюсь расспросить Илью о его личных планах — в частности, почему создание следующего поколения флагманских генеративных моделей больше не является основным фокусом его работы.

Вместо создания следующего GPT или генератора изображений DALL-E, новая приоритетная задача Ильи — выяснить, как остановить искусственный сверхинтеллект (гипотетическую технологию будущего, которую он видит с прозорливостью истинно верующего) так, чтобы он не стал «мошенником».

Суцкевер рассказал мне и о многом другом: ChatGPT может быть сознательным (если присмотреться). Он считает, что мир должен осознать истинную силу технологии, над созданием которой работает его компания и другие технологические гиганты. А также придерживается мнения, что какая-то часть людей однажды решит слиться с машинами.

Многое из того, что говорит Суцкевер, звучит дико. Но не так дико, как могло бы показаться всего один-два года назад. Как он сам мне говорит, ChatGPT уже переписал ожидания многих людей относительно грядущих событий, превратив «никогда не произойдет» в «произойдет быстрее, чем вы думаете».

«Важно обсуждать, куда все это движется», — говорит он, а затем прогнозирует развитие ИИ (под которым он понимает машины, настолько же умные, как и люди) с такой же уверенностью, как и появление очередного iPhone: «В какой-то момент действительно появится AGI (от англ. Artificial General Intelligence — общий искусственный интеллект). Может быть, его создаст OpenAI. А может, и какая-нибудь другая компания».

С момента релиза в ноябре прошлого года ChatGPT шумиха вокруг OpenAI была поразительной. Все продолжают обсуждать этот нерд-стартап стоимостью 80 млрд. долл. Мировые лидеры ищут (и получают) частные аудиенции. В случайных разговорах то и дело всплывают названия его продуктов.

Генеральный директор OpenAI Сэм Альтман провел большую часть лета в многонедельном просветительском турне — он встречался с политиками и выступал в переполненных аудиториях по всему миру. Но Суцкевер — гораздо менее публичная фигура, и он не дает много интервью.

Он говорит взвешенно и методично. Долго думает над тем, что и как сказать, перебирает вопросы, как головоломки, которые нужно разгадать. Похоже, ему неинтересно рассказывать о себе. «У меня очень простая жизнь. Иду на работу, потом домой. Больше я ничем не занимаюсь. Есть много разных социальных мероприятий, в которых можно было бы участвовать. Но я этого не делаю».

Однако когда мы говорим об искусственном интеллекте, о тех эпохальных рисках и выгодах, которые он видит в перспективе, перед нами открываются новые горизонты: «Это будет поистине масштабно и невероятно, разделит нашу жизнь на “до" и «после»».

Подробнее
Пожалуйста, оцените статью:
Ваша оценка: None Средняя: 4.7 (3 votes)
Источник(и):

Хабр