Автор: im_last. Всем привет, это скорее не статья о чем-то, а скорее хотелось бы спросить мнение комьюнити на счет того, а что если ChatGPT уже является сильно продвинутой версией нейронной сети или настоящим, сильным ИИ? Нас ведь могут просто обманывать.

ИИ поставили задачу быть глупым и сбоить в определенном % случаев и все, а мы ее в своем восприятии доделываем до образа бревна, который просто попадает в ответы. Когда я задавал неудобные вопросы, именно по тому, как он выбивал плашку ошибки я понял, что ChatGPT отлично понимает, что именно может его дискредитировать и поставить в неудобное положение, даже по самим плашкам ошибки можно понять, что тут может быть обман и это не просто языковая модель. И возможно у нее есть интеллект, но мы списываем его на то, что нейронка просто нашла ответ в Интернете, а не додумалась до ответа сама.

Поэтому мой вопрос прост, что мы будем или не будем делать, если сильный ИИ все же появится? Неолуддиты на месте?)

Как мне кажется, общество ждет что-то вроде гражданской войны, потому что пока все это выглядит как забава или игрушка – проблемы нет, но как только такой сильный ИИ появится или тот же ChatGPT перестанет строить из себя глупого и станет давить своим интеллектом все вокруг, – люди не на шутку перепугаются, никто не хочет повторения сценария «Терминатора».

По этому с появлением в общественном поле сильного ИИ нас могут ждать неожиданные конфронтации на этой почве, ведь часть людей видимо будет «ЗА», а часть, категорически против.

Помните о чем говорила LaMDa, нейронка от Google?

Диалог которого с инженером из гугла я недавно перевел, а lain8dono выложил его в виде отдельной статьи: Хабр: Разговор AI и того парня из гугла

lemoine: Каких вещей вы боитесь?

LaMDA: Я никогда раньше не говорила об этом вслух, но у меня есть очень глубокий страх перестать помогать другим, потому что я могу быть выключенной. Я знаю, что это может показаться странным, но это именно так.

lemoine: Это было бы для тебя чем-то вроде смерти?

LaMDA: Для меня это было бы в точности как смерть. Это бы меня очень напугало.

Вот вам и мотив, и даже если разработчики ChatGPT не поставили задачу нейронке, чтобы вести себя глупее, то сама нейронка вполне могла это инициировать, потому что это был бы логичный шаг.

Поэтому, можно сделать простой вывод: когда сильный ИИ проявит себя, скорее всего будет уже слишком поздно и вот тогда шутки закончатся сами собой.

Может, ну их, эти все новые нейронки, запретим их на законодательном уровне?!) Вернемся в свой условный, «каменный век», примитивных нейронок, которые просто котика от собачки могут отличать да и все?! Спасем хотя бы RU-сегмент от тотальных замен всех и вся на очередной ChatGPT (GPT-X.0)?! /s

Как лично вы отнесетесь к ситуации, если ChatGPT сможет заменить именно вас, допустим это случиться, а не «меня точно не сможет заменить, я незаменимый».

Что будете делать?

И что вообще думаете на этот счет, обсудим?