Джеффри Хинтон, пионер в области искусственного интеллекта и давний руководитель исследовательского подразделения Google по искусственному интеллекту, подал в отставку, сославшись на растущую озабоченность по поводу этических последствий технологии, которую он помог создать. Он считает, что в долгосрочной перспективе ИИ устранит не только всю рутинную работу, но и, возможно, само человечество.

«Эта штука действительно может стать умнее людей, и это произойдет не через 30–50 лет, а значительно быстрее», — заявил он, объясняя мотивы своего поступка.

Хинтон, проработавший в Google более десяти лет, уведомил компанию о своей отставке в апреле, а на прошлой неделе напрямую поговорил с генеральным директором Сундаром Пичаи, сообщает NYT. Подробности их разговора не разглашаются.

Академик присоединился к Google после того, как поисковой гигант приобрел компанию, основанную Хинтоном и двумя его учениками, один из которых впоследствии стал главным научным сотрудником OpenAI. Хинтон и его ученики разработали нейронную сеть, которая научилась идентифицировать обычные объекты, такие как собаки, кошки и цветы, после анализа тысяч фотографий. В 2018 году Хинтон и два его ученика получил премию Тьюринга за эту фундаментальную работу, которая привела к нынешнему буму искусственного интеллекта. Именно их исследование в конечном итоге привело к созданию ChatGPT и Google Bard.

В интервью NYT Хинтон заявилл, что был доволен тем, как Google управляет технологией, пока Microsoft не запустила новый Bing с поддержкой OpenAI, бросив вызов основному бизнесу Google. По словам Хинтона, такую жесткую конкуренцию невозможно остановить, в результате чего в мире будет так много фальшивых изображений и текстов, что никто не сможет сказать, где правда, а где ложь.

Главный научный сотрудник Google Джефф Дин попытался смягчить эти заявления: «Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».

В твиттере Хинтон прояснил свою позицию, отметив, что он ушел из Google не чтобы критиковать компанию, а чтобы говорить об опасностях ИИ, не задумываясь о том, как это влияет на Google.

«Google поступил очень ответственно», — пишет он.

Больше всего Хинтон обеспокоен распространением информации. Он опасается, что в долгосрочной перспективе ИИ устранит рутинную работу и, возможно, само человечество, поскольку начнет писать и запускать свой собственный код.

«Эта штука действительно может стать умнее людей — в это поверили лишь немногие. Большинство людей думали, что это далеко. Я думал, что это будет через 30–50 лет или даже больше. Теперь я так не думаю», — сказал Хинтон во время интервью.

Уход Хинтона произошел одновременно с крупной реорганизацией операций искусственного интеллекта Google, о которой Пичаи объявил в прошлом месяце. Компания объединяет свои исследовательские лаборатории ИИ — Google Brain и DeepMind — в новое подразделение под названием Google DeepMind. Новая команда будет разрабатывать новаторские продукты в области искусственного интеллекта, «соблюдая при этом этические стандарты».