Разработчик ChatGPT OpenAI сотрудничает с Министерством обороны США в проектах по кибербезопасности и изучает способы предотвращения самоубийств среди ветеранов. Компания ранее изменила свою политику, разрешив определенные военные применения своей технологии, сохранив при этом запрет на ее использование для разработки оружия. OpenAI также будет обеспечивать безопасность выборов и постарается не допустить использование ее ИИ-инструментов для распространения фейков.

OpenAI рассказала о сотрудничестве с военными на Всемирном экономическом форуме в Давосе. Производитель ChatGPT совместно с Министерством обороны США разрабатывает инструменты для программного обеспечения кибербезопасности с открытым исходным кодом, сотрудничая с DARPA в рамках AI Cyber Challenge, объявленного в прошлом году. Также компания провела первоначальные переговоры с правительством США о методах, которые помогут предотвратить самоубийства ветеранов.

OpenAI исключила из своего соглашения об обслуживании термины, которые ранее запрещали использование искусственного интеллекта в военных целях, однако компания по-прежнему не допускает использование своей технологии для создания оружия или причинения вреда имуществу или людям. По словам Анны Маканджу, вице-президента OpenAI по глобальным вопросам, предыдущий общий запрет на использование в военных целях мог привести к запрету многих сценариев, которые соответствуют тому, что «мы хотели бы видеть в мире».

В разделе Universal Policies политики OpenAI в пункте 2 говорится: «Не используйте наш сервис во вред себе или другим».

Запрет включает использование продуктов искусственного интеллекта для «разработки или использования оружия». Изменения, снимающие запрет на «военные действия», судя по всему, были внесены OpenAI 10 января. Маканджу описала это решение как часть более широкого обновления политики, направленного на адаптацию к новым вариантам использования ChatGPT и других его инструментов. Изменение политики, видимо, будет более тесно соответствовать потребностям различных государственных ведомств.

Эти усилия знаменуют собой существенное изменение первоначальной позиции OpenAI в отношении военного партнерства. Между тем, корпорация Microsoft, крупный инвестор в OpenAI, уже имеет налаженные отношения с военными США посредством различных контрактов на программное обеспечение.

OpenAI также заявила, что ускоряет работу по обеспечению безопасности выборов. Компания намерена предотвратить использование ее генерирующих инструментов искусственного интеллекта для распространения политической дезинформации.