Блог компании Онлайн Патент. В конце марта более тысячи бизнесменов и ученых, глав крупнейших IT-корпораций, подписали открытое письмо с призывом к мораторию минимум на полгода на обучение систем искусственного интеллекта, которые превосходят по мощности нашумевший GPT-4. Среди подписантов — Илон Маск, Стивен Возняк и теоретики искусственного интеллекта (ИИ) Йошуа Бенжио и Стюарт Рассел. Они призывают остановить гонку моделей универсального, так называемого сегодня «генеративного ИИ».

Технократы и мыслители настаивают на том, что к разработке контроля для ИИ необходимо привлекать власти, создать регуляторы с большими полномочиями, отслеживать не только продвинутые ИИ (вроде GPT-4), но и кластеры вычислительных мощностей, создать системы верификации и маркировки результатов работы ИИ, а также системы аудита и сертификации самого ИИ, продумать механизмы компенсаций последствий внедрения ИИ в экономике и политике, установить ответственность за вред. Похоже на полноценную панику.

Все это происходит всего через две недели после того, как широкой публике был представлен новый вариант большой языковой модели (MLL) GPT-4. Новые способности модели, продемонстрированные, например, в видеоролике от разработчика, взбудоражили общественность (особенно превращение наброска в блокноте в функциональный веб-сайт). Эксперты и комментаторы восторгаются ее мощностями, которые позволяют выполнять задачи, до недавнего времени казавшиеся научной фантастикой. Новое программное обеспечение может составлять судебные иски и давать более точные ответы на запросы.

Тот самый момент превращения наброска в веб-сайт. Источник: youtube/OpenAI Talks

Исследователи пророчат модели способность изменить науку, но многие сетуют на то, что пока код приложения закрыт, информации о том, как она была обучена, мало. Это вызывает опасения по поводу безопасности технологии и делает ее менее полезной для исследований, считают ученые.

Что такое GPT-4

Слухи и шумиха вокруг новой итерации ChatGPT ходили уже больше года: эксперты утверждали, что она будет невыносимо мощной, сможет писать книги и создавать видео, исходя из описания. Реальность показывает, что возможности GPT-4 хотя и впечатляющие, но довольно скромные.