NYT: ИИ способен уничтожить человечество в случае доступа к важной инфраструктуре

Технологии искусственного интеллекта (ИИ) и нейросетей стремительно развиваются. Однако, существуют и скептичные прогнозы касательно их будущего. Некоторые эксперты полагают, что развитый ИИ может представлять угрозу для человечества, в случае наличия доступа к критически важной инфраструктуре. Об этом стало известно из материала в американской газете The New York Times.

«Сегодняшние системы и близко не представляют экзистенциальный риск. Но через один, два, пять лет? Слишком много неопределенности. Вот в чем проблема. Нет уверенности, что мы осознаем этот момент, когда мы будем на грани катастрофы», – полагает один из опрошенных изданием ученых.

В материале отмечается, что потенциальная угроза растёт в связи с возможным ростом автономии, предоставляемой искусственному интеллекту при принятии решений. Наибольшие риски таятся в его доступе к такой инфраструктуре как энергетические сети, коммуникации, не говоря уже о стратегическом оружии.

Другой аспект состоит в том, что даже сами создатели нейронных сетей не вполне понимают границы их возможностей, так как они обучаются на массивах данных, недоступных для освоения человеческим мозгом. Это может не позволить отследить момент, после которого ИИ станет неконтролируемым.

Ранее американский физик и специалист по ИИ Макс Тегмарк высказался о рисках развития данных технологий. Эксперт полагает, что вероятность уничтожения человечества в результате действий искусственного интеллекта уже составляет 50%. Подробнее об этом читайте в материале Общественной службы новостей.