Блог компании Уральский центр систем безопасности. Популярность ChatGPT растет с каждым днем в геометрической прогрессии. Но так ли безопасно его использование? Щербинин Григорий, специалист по анализу защищенности компании УЦСБ разобрал потенциальные угрозы, связанные с использованием бота, а также меры защиты от них.

Потенциальные угрозы:

• Одной из основных угроз, связанных с использованием ChatGPT, является распространение фейковых новостей, провокационных сообщений и рекламы. Чат бот может создавать тексты, которые выглядят достаточно реалистичными, чтобы обмануть людей, и в результате эти тексты могут привести к распространению дезинформации и недостоверных данных.
• Другой потенциальной угрозой является генерация положительных или отрицательных отзывов на товары или услуги. ChatGPT может создавать тексты, которые могут выглядеть, как настоящие отзывы, но на самом деле будут фальшивыми. Это может привести к ситуации, когда потребители будут делать неверные выводы о продуктах и услугах, основываясь на ложных отзывах.
• Чат бот также может быть использован для создания текстов, которые содержат оскорбления, травлю, нападки на личность, угрозы, шантаж и другие формы насилия. Это может привести к серьезным последствиям для жертв, которые могут столкнуться с психологическим и эмоциональным стрессом.
• ChatGPT также может быть использован для мошенничества. Например, мошенники могут использовать чат бот, для создания фишинговых писем или сообщений, которые будут выглядеть, как настоящие, и просить получателей предоставить свои персональные данные или финансовую информацию. Такое действие может стать причиной утечки конфиденциальных данных, кражи личности и денег.
• ChatGPT может быть использован для нарушения авторских прав путем создания и распространения контента без разрешения правообладателя. Это может привести к ущербу для авторов, которые теряют контроль над своими произведениями, а также к правовым проблемам для тех, кто использует этот контент без разрешения.

Существуют некоторые меры, которые можно принять, чтобы защититься от угроз, связанных с ChatGPT:

• Используйте несколько источников информации и не полагайтесь только на чат бота как на единственный источник. Это связано с тем, что чат бот, как и любая другая технология, может допускать ошибки. Поэтому, для получения точной и надежной информации, необходимо использовать несколько источников, таких как другие приложения, сайты, книги или консультации специалистов в соответствующей области.
• Используйте специальные сервисы для проверки отзывов, в случае наличия знакомых или друзей, использующих данный товар, доверяйте больше им.
• Не предоставляйте чат боту личные данные, такие как пароли, номера кредитных карт или другие конфиденциальные сведения. Никогда не доверяйте такую информацию автоматизированной системе, даже если она кажется надежной.
• Используйте разные пароли для разных сервисов, чтобы в случае утечки данных не было возможности взломать все ваши аккаунты.
• Включите двухфакторную аутентификацию, чтобы повысить безопасность своих аккаунтов и защитить их от несанкционированного доступа.

Подведем итоги:

ChatGPT — это мощный инструмент, который может принести большую пользу для общества и улучшить жизнь людей, но он также может быть использован для злонамеренных действий. Потенциальные угрозы, связанные с использованием чат бота, включают распространение фейковых новостей, генерацию фальшивых отзывов, создание текстов, содержащих насилие и оскорбления, мошенничество и нарушение авторских прав. Чтобы нейтрализовать эти угрозы, разработчикам необходимо продолжать улучшать свой инструмент, доработать фильтры выдачи и обучающую выборку, а людям соблюдать правила цифровой гигиены и перепроверять получаемую информацию, вне зависимости от того, пользуетесь вы ChatGPT или нет.