IT-аналитик Кусков рассказал об использовании мошенниками нейросетей в противоправных целях

Председатель Патриаршей комиссии по вопросам семьи, защиты материнства и детей РПЦ иерей Федор Лукьянков предложил на законодательном уровне закрепить необходимость маркировать нейросети, чтобы люди понимали, что общаются с искусственным интеллектом, а также ввести запрет на нейросети с человеческим лицом.

О том, насколько опасными могут быть нейросети, могут ли их использовать злоумышленники, и нужно ли их законодательно регулировать, в разговоре с Общественной службой новостей рассказал генеральный директор Telecom Daily, IT-аналитик Денис Кусков.

По его словам, нейросети, как и любое другое технологическое новшество, не остается незамеченным для мошенников.

«Учитывая возможности изменения голосового общения и даже визуального (подделка лица), здесь однозначно нужно делать маркировку»

blockquote

«Но вопрос, опять же, как это будет? Вот человек общается с роботом в банке. Ему будут говорить, что с ним будет разговаривать робот? То же самое может сказать и злоумышленник, когда будет звонить. Надо понять, как это сделать так, чтобы это нельзя было повторить с внешней стороны», — сообщил эксперт.

Впрочем, Кусков заметил, что пока злоумышленникам удается достигать своих целей и без использования искусственного интеллекта. Он заметил, что сегодня в России мошенники могут получать доступ к персональным данным граждан, например, из баз паспортных столов, или узнавать информацию о кредитной истории. В результате преступники могут получить подробные сведения о том или ином человеке и использовать их в противоправных целях.

В будущем вполне вероятно и появление способов обмана населения с помощью нейросетей, добавил собеседник ОСН.

О том, нужно ли регулировать развитие ИИ и нейросетей, Кусков говорит:

«Однозначно нужно»

blockquote

«Потому что не очень хочется, чтобы это развивалось хаотично. Если это будет развиваться хаотично, потом очень трудно будет все контролировать. Поэтому действительно, пока что развитие нейросетей должно идти по мировому порядку. Причем не каждая страна по отдельности, а должны быть установлены определенные правила игры, которые территориально охватывали бы весь мир», — заключил он.

Ранее ОСН сообщала, что нейросеть ChatGPT написала письмо Путину и Зеленскому от имени Шольца.