Появление доступных генеративных моделей вызвало новую волну интереса к системам искусственного интеллекта, а вместе с ней — сопутствующие вопросы и опасения. Высказал свое мнение и канадский математик, первопроходец глубокого обучения, лауреат премии Тьюринга 2018 года Йошуа Бенжио. Как и многие другие эксперты, он призвал к регулированию технологии на благо общества.

В интервью изданию Venture Beat Бенжио заявил, что мультимодельные языковые нейросети, включающие в себя также изображения и видео, принесут большую пользу при создании «модели мира», то есть таких моделей, которые понимают физику мира. Также он предупредил, что рынок, скорее всего, заставит ИТ-компании хранить свои разработки в тайне, препятствуя принципу открытости ИИ-моделей. А «медийный цирк» вокруг ChatGPT — это тревожный звонок, указывающий на потенциал мощных ИИ-систем приносить обществу как пользу, так и вред.

Эксперт подчеркнул, что, несмотря на впечатляющие достижения чатбота ChatGPT, это «очень маленький шаг» с научной точки зрения и «в основном прогресс в инженерной области». А вот с общественной точки зрения это явление гораздо значительнее, поскольку заставляет людей задуматься о том, что можно сделать с помощью ИИ.

Самим людям предстоит решить, как разрабатывать и что делать с этими машинами: будут ли они нашими помощниками в строительстве лучшего мира или же станут инструментом власти и наживы?

Правильным ответом на новый вызов, по мнению Бенжио, было бы регулирование технологии ИИ. Защита общества «в долгосрочной перспективе благоприятна для всех и уравнивает игроков — так что компании, готовые в большей мере рисковать благополучием граждан, не должны вознаграждаться за это». Регулирование не помешает инновациям, но «замедлит некоторые процессы, но это, скорее всего, хорошо».

Предостерегает от поспешных инвестиций в ChatGPT и другие генеративные модели, какими бы «крышесносными» они ни казались, один из разработчиков протокола TCP/IP, отмеченный многочисленными наградами ученый Винстон Серф. Чатботы с ИИ обладают «этическим изъяном», который, как он надеется, люди примут во внимание, прежде чем начнут вкладывать деньги в эту технологию.