Нейросети — мощные инструменты, но они, как и любой другой объект, могут быть использованы как во благо, так и во зло.
OpenAI внедрила меры защиты в ChatGPT-4 для предотвращения использования его в создании голосовых дипфейков и других злонамеренных действий, однако исследователи из Университета Иллинойс выявили, что эти меры не являются достаточно эффективными. Они показали, как мошенники могут использовать возможности ChatGPT-4 для обхода защиты: с помощью голосовых инструментов и автоматизации чат-бота они могут проводить операции, такие как кража учетных данных, переводы денег и обход двухфакторной аутентификации.
Эксперименты показали разные уровни успешности атак: кража данных из Gmail происходила в 60% случаев, криптопереводы и взлом социальных сетей — в 40%. Стоимость мошенничества варьировалась от $0,75 за стандартные операции до $2,51 для более сложных банковских транзакций.
Председатель совета фонда развития цифровой экономики Герман Клименко в беседе с корреспондентом Общественной службы новостей рассказал, что тот же ChatGPT нельзя «обучить» для выполнения незаконных действий, потому что, как и кухонный нож, этот инструмент может использоваться по-разному и только от его владельца зависит, как именно.
«Это как кухонный нож. Он может резать хлеб, а иногда, к сожалению, становится частью бытовых преступлений»
blockquote
«Все эти разговоры о том, что ChatGPT можно использовать для каких-то злонамеренных целей — это вряд ли связано с самим инструментом. Это как кухонный нож. Он может резать хлеб, а иногда, к сожалению, становится частью бытовых преступлений», — отмечает эксперт.
По его мнению мошенники на практике действительно часто используют ChatGPT для создания правдоподобных диалогов, которые могут сбить с толку и даже повлиять на жертв.
«Можно загрузить беседы человека, запросить их в том же стиле и даже попросить, например, деньги. ChatGPT будет обладать всеми знаниями, которые человек выложил в сеть. И это, к сожалению, проблема», — подчеркивает он.
Однако Клименко уверен, что бороться нужно не с самим инструментом, а с теми явлениями, которые способствуют преступности в интернете.
«Мошенники всегда найдут способы обойти любую защиту. Но если бороться с проблемой, то нужно работать с основами. Это анонимность. Анонимность в средствах связи и анонимность в деньгах — вот что реально способствует мошенничеству», — утверждает эксперт.
Клименко считает, что самым эффективным способом борьбы с мошенниками будет не запрет на использование технологий, а устранение анонимности в связи и финансовых операциях.
«Человек должен быть уверен, что он разговаривает с тем, кто отражен в его телефоне. Если написано «мама», значит, это точно мама, а не кто-то другой, кто подделал звонок», — объясняет он.
Кроме того, важной проблемой является использование анонимных финансовых транзакций.
«Когда людям звонят мошенники, представляясь кем-то другим, они могут обманом заставить перевести деньги на левый счет. Это всё делается через виртуальные сервисы и найти следы сложно», — говорит председатель совета.
По его мнению, борьба с мошенничеством должна сосредоточиться именно на том, чтобы исключить анонимность в платежах и коммуникациях.
«Если мы уберем возможность анонимных звонков и анонимных переводов денег, тогда мошенники не смогут продолжать свои действия. Для них просто не будет смысла», — заключил Клименко.
Также он добавляет, что борьба с недостаточной компьютерной грамотностью населения не принесет значительных результатов.
«Обучение людей компьютерной грамотности — это, конечно, важно, но все усилия, направленные только на это, будут недостаточно эффективны. Важно, чтобы люди могли защищать свои данные и не становились жертвами анонимных мошенников», — подытоживает Герман Клименко.
Таким образом, эффективной борьбой с мошенничеством, по мнению эксперта, станет создание системы, в которой ни анонимность в связи, ни анонимные финансовые операции не смогут существовать. Это будет важным шагом на пути к безопасному цифровому миру.
Лидер ЛДПР, глава комитета Госдумы по международным делам Леонид Слуцкий предупредил о риске развития нового «ракетного кризиса» в мире из-за разрешения стран Запада Киеву на удары их оружием по территории…
Соединенные Штаты заблаговременно предупредили Украину и союзников о предстоящем запуске Россией ракеты средней дальности. Об этом на брифинге сообщила пресс-секретарь Белого дома Карин Жан-Пьер. Она отметила, что информация была передана…
Вице-спикер Совета Федерации Константин Косачев предупредил об ответе странам Запада на продолжение ударов их оружием по территории России. Об этом он написал в четверг, 21 ноября, в своем Telegram-канале. Косачев…
Избранный президент США Дональд Трамп намерен добиться восстановления мира на международной арене, опираясь на мощь Соединенных Штатов. Об этом сообщила пресс-секретарь его избирательного штаба Кэролайн Ливитт. Ливитт подчеркнула, что американцы…
Депутат Самарской губернской думы Александр Милеев, которого раньше называли «водочным королем» из-за бизнеса по продаже спиртных напитков, предложил ограничить в регионе продажу алкоголя. Об этом в четверг, 21 ноября, сообщает…
Министр обороны Италии Гуидо Крозетто заявил, что Рим обязан исполнить решение Международного уголовного суда (МУС), который выдал ордеры на арест премьера Израиля Биньямина Нетаньяху и экс-министра обороны Йоава Галанта в…