Вчені працюють над аварійним відключенням штучного інтелекту

Дослідники з Оксфордського університету і лабораторії DeepMind, що належить Google, почали роботу над системою аварійного вимкнення для штучного інтелекту повідомляє Depo.Полтава з посиланням на N+1.

За словами дослідників, мета роботи - створення фреймворка, який не дозволить штучному інтелекту знайти спосіб ігнорування команди відключення.

Також "велика червона кнопка" повинна гарантовано перервати поточну діяльність робота і максимально убезпечити його і оточуючих при потенційно небезпечної ситуації, а також запобігти вчиненню дій, які можуть привести до "незворотних наслідків".

Питання безпеки, пов'язані з розробкою систем штучного інтелекту, озвучувалися і раніше. У 2015 році Ілон Маск, Стівен Хокінг, Ноам Хомський, Стів Возняк і багато інших вчених, бізнесмени, знаменитості, дослідники та фахівці в галузі робототехніки та штучного інтелекту підписали відкритого листа, який застерігає виробників зброї від створення повністю автономних бойових систем.