Безопасность

Герман Клименко рассказал, как бороться с мошенниками, использующими нейросети

11 ноября 2024, 14:46 — Общественная служба новостей — ОСН

Нейросети — мощные инструменты, но они, как и любой другой объект, могут быть использованы как во благо, так и во зло.
OpenAI внедрила меры защиты в ChatGPT-4 для предотвращения использования его в создании голосовых дипфейков и других злонамеренных действий, однако исследователи из Университета Иллинойс выявили, что эти меры не являются достаточно эффективными. Они показали, как мошенники могут использовать возможности ChatGPT-4 для обхода защиты: с помощью голосовых инструментов и автоматизации чат-бота они могут проводить операции, такие как кража учетных данных, переводы денег и обход двухфакторной аутентификации.

Эксперименты показали разные уровни успешности атак: кража данных из Gmail происходила в 60% случаев, криптопереводы и взлом социальных сетей — в 40%. Стоимость мошенничества варьировалась от $0,75 за стандартные операции до $2,51 для более сложных банковских транзакций.

Председатель совета фонда развития цифровой экономики Герман Клименко в беседе с корреспондентом Общественной службы новостей рассказал, что тот же ChatGPT нельзя «обучить» для выполнения незаконных действий, потому что, как и кухонный нож, этот инструмент может использоваться по-разному и только от его владельца зависит, как именно.

«Это как кухонный нож. Он может резать хлеб, а иногда, к сожалению, становится частью бытовых преступлений»

blockquote

«Все эти разговоры о том, что ChatGPT можно использовать для каких-то злонамеренных целей — это вряд ли связано с самим инструментом. Это как кухонный нож. Он может резать хлеб, а иногда, к сожалению, становится частью бытовых преступлений», — отмечает эксперт.

По его мнению мошенники на практике действительно часто используют ChatGPT для создания правдоподобных диалогов, которые могут сбить с толку и даже повлиять на жертв.

«Можно загрузить беседы человека, запросить их в том же стиле и даже попросить, например, деньги. ChatGPT будет обладать всеми знаниями, которые человек выложил в сеть. И это, к сожалению, проблема», — подчеркивает он.

Однако Клименко уверен, что бороться нужно не с самим инструментом, а с теми явлениями, которые способствуют преступности в интернете.

«Мошенники всегда найдут способы обойти любую защиту. Но если бороться с проблемой, то нужно работать с основами. Это анонимность. Анонимность в средствах связи и анонимность в деньгах — вот что реально способствует мошенничеству», — утверждает эксперт.

Клименко считает, что самым эффективным способом борьбы с мошенниками будет не запрет на использование технологий, а устранение анонимности в связи и финансовых операциях.

«Человек должен быть уверен, что он разговаривает с тем, кто отражен в его телефоне. Если написано «мама», значит, это точно мама, а не кто-то другой, кто подделал звонок», — объясняет он.

Кроме того, важной проблемой является использование анонимных финансовых транзакций.

«Когда людям звонят мошенники, представляясь кем-то другим, они могут обманом заставить перевести деньги на левый счет. Это всё делается через виртуальные сервисы и найти следы сложно», — говорит председатель совета.

По его мнению, борьба с мошенничеством должна сосредоточиться именно на том, чтобы исключить анонимность в платежах и коммуникациях.

«Если мы уберем возможность анонимных звонков и анонимных переводов денег, тогда мошенники не смогут продолжать свои действия. Для них просто не будет смысла», — заключил Клименко.

Также он добавляет, что борьба с недостаточной компьютерной грамотностью населения не принесет значительных результатов.

«Обучение людей компьютерной грамотности — это, конечно, важно, но все усилия, направленные только на это, будут недостаточно эффективны. Важно, чтобы люди могли защищать свои данные и не становились жертвами анонимных мошенников», — подытоживает Герман Клименко.

Таким образом, эффективной борьбой с мошенничеством, по мнению эксперта, станет создание системы, в которой ни анонимность в связи, ни анонимные финансовые операции не смогут существовать. Это будет важным шагом на пути к безопасному цифровому миру.

Поделиться
Сергей Зиновьев

Родился на Дальнем Востоке в городе Комсомольск-на-Амуре. В 2011 году переехал в Санкт-Петербург, где окончил с отличием факультет журналистики СПБГу. Работал на Радио России, Москва-24 и множествах других популярных изданий. Сценарист, музыкант, философ.

Последние статьи

Слуцкий заявил о риске нового «ракетного кризиса»

Лидер ЛДПР, глава комитета Госдумы по международным делам Леонид Слуцкий предупредил о риске развития нового «ракетного кризиса» в мире из-за разрешения стран Запада Киеву на удары их оружием по территории…

% дней назад

США уведомили Украину о предстоящем ударе российской ракетой «Орешник»

Соединенные Штаты заблаговременно предупредили Украину и союзников о предстоящем запуске Россией ракеты средней дальности. Об этом на брифинге сообщила пресс-секретарь Белого дома Карин Жан-Пьер. Она отметила, что информация была передана…

% дней назад

Косачев предупредил страны Запада об ответе на удары их ракетами по России

Вице-спикер Совета Федерации Константин Косачев предупредил об ответе странам Запада на продолжение ударов их оружием по территории России. Об этом он написал в четверг, 21 ноября, в своем Telegram-канале. Косачев…

% дней назад

В штабе Трампа заявили, что он хочет установить мир во всем мире

Избранный президент США Дональд Трамп намерен добиться восстановления мира на международной арене, опираясь на мощь Соединенных Штатов. Об этом сообщила пресс-секретарь его избирательного штаба Кэролайн Ливитт. Ливитт подчеркнула, что американцы…

% дней назад

Бывший самарский «водочный король» Милеев предложил ограничить продажу алкоголя

Депутат Самарской губернской думы Александр Милеев, которого раньше называли «водочным королем» из-за бизнеса по продаже спиртных напитков, предложил ограничить в регионе продажу алкоголя. Об этом в четверг, 21 ноября, сообщает…

% дней назад

Министр обороны Италии: Нетаньяху арестуют, если он приедет в страну

Министр обороны Италии Гуидо Крозетто заявил, что Рим обязан исполнить решение Международного уголовного суда (МУС), который выдал ордеры на арест премьера Израиля Биньямина Нетаньяху и экс-министра обороны Йоава Галанта в…

% дней назад