Герман Клименко рассказал, как бороться с мошенниками, использующими нейросети

Нейросети — мощные инструменты, но они, как и любой другой объект, могут быть использованы как во благо, так и во зло.
OpenAI внедрила меры защиты в ChatGPT-4 для предотвращения использования его в создании голосовых дипфейков и других злонамеренных действий, однако исследователи из Университета Иллинойс выявили, что эти меры не являются достаточно эффективными. Они показали, как мошенники могут использовать возможности ChatGPT-4 для обхода защиты: с помощью голосовых инструментов и автоматизации чат-бота они могут проводить операции, такие как кража учетных данных, переводы денег и обход двухфакторной аутентификации.

Эксперименты показали разные уровни успешности атак: кража данных из Gmail происходила в 60% случаев, криптопереводы и взлом социальных сетей — в 40%. Стоимость мошенничества варьировалась от $0,75 за стандартные операции до $2,51 для более сложных банковских транзакций.

Председатель совета фонда развития цифровой экономики Герман Клименко в беседе с корреспондентом Общественной службы новостей рассказал, что тот же ChatGPT нельзя «обучить» для выполнения незаконных действий, потому что, как и кухонный нож, этот инструмент может использоваться по-разному и только от его владельца зависит, как именно.

«Это как кухонный нож. Он может резать хлеб, а иногда, к сожалению, становится частью бытовых преступлений»

blockquote

«Все эти разговоры о том, что ChatGPT можно использовать для каких-то злонамеренных целей — это вряд ли связано с самим инструментом. Это как кухонный нож. Он может резать хлеб, а иногда, к сожалению, становится частью бытовых преступлений», — отмечает эксперт.

По его мнению мошенники на практике действительно часто используют ChatGPT для создания правдоподобных диалогов, которые могут сбить с толку и даже повлиять на жертв.

«Можно загрузить беседы человека, запросить их в том же стиле и даже попросить, например, деньги. ChatGPT будет обладать всеми знаниями, которые человек выложил в сеть. И это, к сожалению, проблема», — подчеркивает он.

Однако Клименко уверен, что бороться нужно не с самим инструментом, а с теми явлениями, которые способствуют преступности в интернете.

«Мошенники всегда найдут способы обойти любую защиту. Но если бороться с проблемой, то нужно работать с основами. Это анонимность. Анонимность в средствах связи и анонимность в деньгах — вот что реально способствует мошенничеству», — утверждает эксперт.

Клименко считает, что самым эффективным способом борьбы с мошенниками будет не запрет на использование технологий, а устранение анонимности в связи и финансовых операциях.

«Человек должен быть уверен, что он разговаривает с тем, кто отражен в его телефоне. Если написано «мама», значит, это точно мама, а не кто-то другой, кто подделал звонок», — объясняет он.

Кроме того, важной проблемой является использование анонимных финансовых транзакций.

«Когда людям звонят мошенники, представляясь кем-то другим, они могут обманом заставить перевести деньги на левый счет. Это всё делается через виртуальные сервисы и найти следы сложно», — говорит председатель совета.

По его мнению, борьба с мошенничеством должна сосредоточиться именно на том, чтобы исключить анонимность в платежах и коммуникациях.

Читайте также 

«Яндекс» сообщил об интеграции генеративной нейросети в поиск

«Если мы уберем возможность анонимных звонков и анонимных переводов денег, тогда мошенники не смогут продолжать свои действия. Для них просто не будет смысла», — заключил Клименко.

Также он добавляет, что борьба с недостаточной компьютерной грамотностью населения не принесет значительных результатов.

«Обучение людей компьютерной грамотности — это, конечно, важно, но все усилия, направленные только на это, будут недостаточно эффективны. Важно, чтобы люди могли защищать свои данные и не становились жертвами анонимных мошенников», — подытоживает Герман Клименко.

Таким образом, эффективной борьбой с мошенничеством, по мнению эксперта, станет создание системы, в которой ни анонимность в связи, ни анонимные финансовые операции не смогут существовать. Это будет важным шагом на пути к безопасному цифровому миру.