Нейросети — мощные инструменты, но они, как и любой другой объект, могут быть использованы как во благо, так и во зло.
OpenAI внедрила меры защиты в ChatGPT-4 для предотвращения использования его в создании голосовых дипфейков и других злонамеренных действий, однако исследователи из Университета Иллинойс выявили, что эти меры не являются достаточно эффективными. Они показали, как мошенники могут использовать возможности ChatGPT-4 для обхода защиты: с помощью голосовых инструментов и автоматизации чат-бота они могут проводить операции, такие как кража учетных данных, переводы денег и обход двухфакторной аутентификации.
Эксперименты показали разные уровни успешности атак: кража данных из Gmail происходила в 60% случаев, криптопереводы и взлом социальных сетей — в 40%. Стоимость мошенничества варьировалась от $0,75 за стандартные операции до $2,51 для более сложных банковских транзакций.
Председатель совета фонда развития цифровой экономики Герман Клименко в беседе с корреспондентом Общественной службы новостей рассказал, что тот же ChatGPT нельзя «обучить» для выполнения незаконных действий, потому что, как и кухонный нож, этот инструмент может использоваться по-разному и только от его владельца зависит, как именно.
«Это как кухонный нож. Он может резать хлеб, а иногда, к сожалению, становится частью бытовых преступлений»
blockquote
«Все эти разговоры о том, что ChatGPT можно использовать для каких-то злонамеренных целей — это вряд ли связано с самим инструментом. Это как кухонный нож. Он может резать хлеб, а иногда, к сожалению, становится частью бытовых преступлений», — отмечает эксперт.
По его мнению мошенники на практике действительно часто используют ChatGPT для создания правдоподобных диалогов, которые могут сбить с толку и даже повлиять на жертв.
«Можно загрузить беседы человека, запросить их в том же стиле и даже попросить, например, деньги. ChatGPT будет обладать всеми знаниями, которые человек выложил в сеть. И это, к сожалению, проблема», — подчеркивает он.
Однако Клименко уверен, что бороться нужно не с самим инструментом, а с теми явлениями, которые способствуют преступности в интернете.
«Мошенники всегда найдут способы обойти любую защиту. Но если бороться с проблемой, то нужно работать с основами. Это анонимность. Анонимность в средствах связи и анонимность в деньгах — вот что реально способствует мошенничеству», — утверждает эксперт.
Клименко считает, что самым эффективным способом борьбы с мошенниками будет не запрет на использование технологий, а устранение анонимности в связи и финансовых операциях.
«Человек должен быть уверен, что он разговаривает с тем, кто отражен в его телефоне. Если написано «мама», значит, это точно мама, а не кто-то другой, кто подделал звонок», — объясняет он.
Кроме того, важной проблемой является использование анонимных финансовых транзакций.
«Когда людям звонят мошенники, представляясь кем-то другим, они могут обманом заставить перевести деньги на левый счет. Это всё делается через виртуальные сервисы и найти следы сложно», — говорит председатель совета.
По его мнению, борьба с мошенничеством должна сосредоточиться именно на том, чтобы исключить анонимность в платежах и коммуникациях.
«Если мы уберем возможность анонимных звонков и анонимных переводов денег, тогда мошенники не смогут продолжать свои действия. Для них просто не будет смысла», — заключил Клименко.
Также он добавляет, что борьба с недостаточной компьютерной грамотностью населения не принесет значительных результатов.
«Обучение людей компьютерной грамотности — это, конечно, важно, но все усилия, направленные только на это, будут недостаточно эффективны. Важно, чтобы люди могли защищать свои данные и не становились жертвами анонимных мошенников», — подытоживает Герман Клименко.
Таким образом, эффективной борьбой с мошенничеством, по мнению эксперта, станет создание системы, в которой ни анонимность в связи, ни анонимные финансовые операции не смогут существовать. Это будет важным шагом на пути к безопасному цифровому миру.
Европейские союзники Киева постепенно склоняются к тому, что Украине придется уступить территории России в рамках урегулирования конфликта, пишет The Washington Post. По словам дипломатов из стран НАТО и Европы, несмотря…
Лайнер столкнулся с антенной во время взлета в Колумбии. Об этом проинформировало издание The Aviation Herald. Уточняется, что инцидент произошел во время вылета из колумбийской Боготы 10 ноября с грузовым…
Минюст предложил обязать сотрудников органов ЗАГС проверять желающих жениться мигрантов на законность нахождения в России. Об этом в среду, 13 ноября, сообщает MK.RU. В случае наличия сведений о нарушении гражданами…
В Москве и Московской области в ближайшее время ожидается атлантическое тепло. Об этом пишет интернет-издание «Подмосковье сегодня». Синоптик прогностического центра «Метео» Александр Ильин рассказал, на сколько градусов потеплеет в ближайшие…
В Санкт-Петербурге задержали мужчину, который за одно утро успел совершить три ограбления. Как сообщает портал 47news, его также разыскивала военная полиция за побег из зоны СВО. 25-летний уроженец Карелии Максим…
Вооруженные силы Украины совершили атаку на город Шебекино и село Новая Таволжанка в Шебекинском муниципальном округе Белгородской области. Об этом сообщил губернатор региона Вячеслав Гладков. В результате прилета снаряда ВСУ в первом населенном пункте у трех жилых…