Ученые работают над аварийным отключением искусственного интеллекта

Исследователи из Оксфордского университета и лаборатории DeepMind, принадлежащей Google, начали работу над системой аварийного отключения для для самообучающихся алгоритмов, сообщает Depo.Полтава со ссылкой на N+1.

По словам исследователей, цель работы - создание фреймворка, который не позволит искусственному интеллекту найти способ игнорирования команды отключения.

Также "большая красная кнопка" должна гарантированно прервать текущую деятельность работа и максимально обезопасить его и окружающих при потенциально опасной ситуации, а также предотвратить совершение действий, которые могут привести к "необратимым последствиям".

Вопросы безопасности, связанные с разработкой систем искусственного интеллекта, озвучивались и ранее. В 2015 году Илон Маск, Стивен Хокинг, Ноам Хомский, Стив Возняк и многие другие ученые, бизнесмены, знаменитости, исследователи и специалисты в области робототехники и искусственного интеллекта подписали открытое письмо, предостерегающее производителей оружия от создания полностью автономных боевых систем.