Безопасность

Герман Клименко рассказал, как бороться с мошенниками, использующими нейросети

11 ноября 2024, 14:46 — Общественная служба новостей — ОСН

Нейросети — мощные инструменты, но они, как и любой другой объект, могут быть использованы как во благо, так и во зло.
OpenAI внедрила меры защиты в ChatGPT-4 для предотвращения использования его в создании голосовых дипфейков и других злонамеренных действий, однако исследователи из Университета Иллинойс выявили, что эти меры не являются достаточно эффективными. Они показали, как мошенники могут использовать возможности ChatGPT-4 для обхода защиты: с помощью голосовых инструментов и автоматизации чат-бота они могут проводить операции, такие как кража учетных данных, переводы денег и обход двухфакторной аутентификации.

Эксперименты показали разные уровни успешности атак: кража данных из Gmail происходила в 60% случаев, криптопереводы и взлом социальных сетей — в 40%. Стоимость мошенничества варьировалась от $0,75 за стандартные операции до $2,51 для более сложных банковских транзакций.

Председатель совета фонда развития цифровой экономики Герман Клименко в беседе с корреспондентом Общественной службы новостей рассказал, что тот же ChatGPT нельзя «обучить» для выполнения незаконных действий, потому что, как и кухонный нож, этот инструмент может использоваться по-разному и только от его владельца зависит, как именно.

«Это как кухонный нож. Он может резать хлеб, а иногда, к сожалению, становится частью бытовых преступлений»

blockquote

«Все эти разговоры о том, что ChatGPT можно использовать для каких-то злонамеренных целей — это вряд ли связано с самим инструментом. Это как кухонный нож. Он может резать хлеб, а иногда, к сожалению, становится частью бытовых преступлений», — отмечает эксперт.

По его мнению мошенники на практике действительно часто используют ChatGPT для создания правдоподобных диалогов, которые могут сбить с толку и даже повлиять на жертв.

«Можно загрузить беседы человека, запросить их в том же стиле и даже попросить, например, деньги. ChatGPT будет обладать всеми знаниями, которые человек выложил в сеть. И это, к сожалению, проблема», — подчеркивает он.

Однако Клименко уверен, что бороться нужно не с самим инструментом, а с теми явлениями, которые способствуют преступности в интернете.

«Мошенники всегда найдут способы обойти любую защиту. Но если бороться с проблемой, то нужно работать с основами. Это анонимность. Анонимность в средствах связи и анонимность в деньгах — вот что реально способствует мошенничеству», — утверждает эксперт.

Клименко считает, что самым эффективным способом борьбы с мошенниками будет не запрет на использование технологий, а устранение анонимности в связи и финансовых операциях.

«Человек должен быть уверен, что он разговаривает с тем, кто отражен в его телефоне. Если написано «мама», значит, это точно мама, а не кто-то другой, кто подделал звонок», — объясняет он.

Кроме того, важной проблемой является использование анонимных финансовых транзакций.

«Когда людям звонят мошенники, представляясь кем-то другим, они могут обманом заставить перевести деньги на левый счет. Это всё делается через виртуальные сервисы и найти следы сложно», — говорит председатель совета.

По его мнению, борьба с мошенничеством должна сосредоточиться именно на том, чтобы исключить анонимность в платежах и коммуникациях.

«Если мы уберем возможность анонимных звонков и анонимных переводов денег, тогда мошенники не смогут продолжать свои действия. Для них просто не будет смысла», — заключил Клименко.

Также он добавляет, что борьба с недостаточной компьютерной грамотностью населения не принесет значительных результатов.

«Обучение людей компьютерной грамотности — это, конечно, важно, но все усилия, направленные только на это, будут недостаточно эффективны. Важно, чтобы люди могли защищать свои данные и не становились жертвами анонимных мошенников», — подытоживает Герман Клименко.

Таким образом, эффективной борьбой с мошенничеством, по мнению эксперта, станет создание системы, в которой ни анонимность в связи, ни анонимные финансовые операции не смогут существовать. Это будет важным шагом на пути к безопасному цифровому миру.

Поделиться
Сергей Зиновьев

Родился на Дальнем Востоке в городе Комсомольск-на-Амуре. В 2011 году переехал в Санкт-Петербург, где окончил с отличием факультет журналистики СПБГу. Работал на Радио России, Москва-24 и множествах других популярных изданий. Сценарист, музыкант, философ.

Последние статьи

WP узнала о сдвиге у союзников Украины в пользу уступок России

Европейские союзники Киева постепенно склоняются к тому, что Украине придется уступить территории России в рамках урегулирования конфликта, пишет The Washington Post. По словам дипломатов из стран НАТО и Европы, несмотря…

% дней назад

Грузовой самолет Aerosucre врезался в антенну во время взлета в аэропорту Боготы

Лайнер столкнулся с антенной во время взлета в Колумбии. Об этом проинформировало издание The Aviation Herald. Уточняется, что инцидент произошел во время вылета из колумбийской Боготы 10 ноября с грузовым…

% дней назад

У желающих жениться мигрантов будут проверять законность нахождения в РФ

Минюст предложил обязать сотрудников органов ЗАГС проверять желающих жениться мигрантов на законность нахождения в России. Об этом в среду, 13 ноября, сообщает MK.RU. В случае наличия сведений о нарушении гражданами…

% дней назад

Синоптик Ильин: В Москве и Подмосковье потеплеет до +8 градусов с 16 ноября

В Москве и Московской области в ближайшее время ожидается атлантическое тепло. Об этом пишет интернет-издание «Подмосковье сегодня». Синоптик прогностического центра «Метео» Александр Ильин рассказал, на сколько градусов потеплеет в ближайшие…

% дней назад

В Петербурге бежавший с СВО россиянин совершил три ограбления за одно утро

В Санкт-Петербурге задержали мужчину, который за одно утро успел совершить три ограбления. Как сообщает портал 47news, его также разыскивала военная полиция за побег из зоны СВО. 25-летний уроженец Карелии Максим…

% дней назад

ВСУ атаковали Шебекино и Новую Таволжанку

Вооруженные силы Украины совершили атаку на город Шебекино и село Новая Таволжанка в Шебекинском муниципальном округе Белгородской области. Об этом сообщил губернатор региона Вячеслав Гладков. В результате прилета снаряда ВСУ в первом населенном пункте у трех жилых…

% дней назад