Безопасность

Нейросеть научили распознавать потенциально вредные реплики чат-ботов

20 июля 2021, 14:55 — Общественная служба новостей — ОСН

В России научили нейросеть находить «чувствительные» и неуместные сообщения чат-ботов. К «чувствительным» темам отнесли такие, как религия, политика, сексуальные меньшинства, самоубийство, порнография и преступления.

«Мы продемонстрировали, что, хотя чувствительность темы и неуместность сообщения – довольно тонкие понятия, завязанные на человеческой интуиции, они тем не менее поддаются детектированию нейросетями. В частности, наш классификатор в 89% случаев угадал, какие высказывания являются неуместными, по версии респондентов», – сказал автор работы Николай Бабаков.

Был сформирован корпус неуместных сообщений, на котором исследователи обучили новую модель распознавать такие сообщения. Результаты работы опубликованы в сборнике Proceedings of the 8th Workshop on Balto-Slavic Natural Language Processing, а также вкратце пресс-службой Сколковского института науки и технологий.

Ранее Общественная служба новостей писала, как нейросеть от компании «Промобот» пыталась предсказать победителя футбольного Евро-2021, и решила, что это будет сборная Франции.

Поделиться
Михаил Закурдаев

Отработав четыре года помощником в юрфирме, решил искать удачи в сфере журналистики. Окончил в 2012 году Институт журналистики и литературного творчества. Работал на радио «Москва FM», в районных газетах ВАО Москвы, музыкальном журнале «Роккор», был новостником радио «Комсомольская правда», издательства «Правда.Ру».

Последние статьи

В Петербурге в восьмикомнатной квартире вспыхнул пожар

В Санкт-Петербурге ночью 17 февраля вспыхнул пожар в восьмикомнатной квартире на Искровском проспекте. — сообщает городское управление МЧС. Огонь распространился на площади 20 квадратных метров, его ликвидацией занимались 15 специалистов…

% дней назад

США надеются на вторую фазу перемирия в Газе

Американский спецпосланник по Ближнему Востоку Стив Уиткофф заявил, что США надеются на достижение соглашения о второй фазе перемирия между Израилем и палестинским движением ХАМАС в секторе Газа. — Его слова…

% дней назад

Турция готова провести переговоры по Украине на своей территории

Министр иностранных дел Турции Хакан Фидан предложил России и Украине провести мирные переговоры на турецкой территории. В интервью телеканалу TRT World Фидан сообщил, что обе стороны, а также США, находятся…

% дней назад

Фридман стал ответчиком в Великобритании по иску на 11,4 млн долларов

Предприниматель Михаил Фридман и его кипрская компания ABH Ukraine (ABHU) оказались ответчиками в судебном разбирательстве на сумму 11,4 миллионов долларов (около 1,2 миллиарда рублей). Об этом сообщает «Ведомости», ссылаясь на…

% дней назад

Кир Стармер заявил, что Великобритания готова направить войска на Украину

Премьер-министр Великобритании Кир Стармер в статье для The Daily Telegraph заявил, что страна готова разместить свои войска на Украине, если это потребуется для обеспечения безопасности украинских властей и урегулирования конфликта.…

% дней назад

«Ведомости»: в России участились жалобы на кражу вкладов

Служба финансового уполномоченного зафиксировала значительное увеличение числа жалоб граждан на случаи мошенничества, которые приводят к списанию денежных средств. Об этом в интервью изданию «Ведомости» рассказала финансовый уполномоченный Светлана Максимова. В…

% дней назад