У новой версии в шесть раз больше параметров — 774 млн — и она генерирует еще более достоверные тексты. Хотя, как показали опыты, для 75% читателей текст GPT-2 не менее достоверен, чем статья в New York Times.

Некоммерческая организация OpenAI, которую основал, а затем бросилИлон Маск, выпустила более совершенную версию алгоритма GPT-2, мастерки генерирующего фальшивые тексты. Алгоритм GPT-2 впервые был представлен публике в феврале этого года. Тогда же OpenAI заявила, что он слишком опасен, чтобы давать к нему открытый доступ, и поэтому выпустила «урезанный» вариант. Такой ход вызвал шквал возмущения среди профессионалов, которые не имели возможности ни подтвердить, ни повторить результаты.

Вскоре компания все-таки пошла навстречу сообществу и предоставила ограниченный доступ для избранных разработчиков и фирм. Согласно исследованию, проведенному в Корнеллском университете, 70% читавших текст, написанный алгоритмом GPT-2, сочли его не менее достоверными, чем статью из New York Times.

Параллельно OpenAI работала с экспертами по безопасности, следила, как люди используют GPT-2, а также проводила самостоятельные исследования возможности злоупотребления алгоритмом, рассказывает VentureBeat.

Теперь OpenAI анонсировала обновленную, в шесть раз более продуманную версию алгоритма GPT-2 — число ее параметров достигло 774 млн, тогда как у февральской версии было всего 124 млн. На практике Новая модель выдает более согласованные и последовательные тексты.

В своем блоге компания намекнула, что у нее уже готова и третья версия алгоритма — еще вдвое мощнее. Возможно, ее релиз состоится «через несколько месяцев». Все зависит от того, не станут ли применять нынешнюю версию GPT-2 для введения людей в заблуждение.