Исследование было опубликовано в августе, отмечает «CNews».
Авторы исследуют возможность катастрофы в интересном контексте.
Ради получения награды ИИ может начать придумывать стратегии обмана человека, которые чреваты прямой угрозой всему человечеству.
Цель самообучающегося ИИ – вознаграждение.
Алгоритм искусственного интеллекта построен по принципу «игры с нулевой суммой», т.е. постоянного соревнования, с обязательным победителем и проигравшим.
Ученые прогнозируют несколько сценариев развития будущего, при которых продвинутый алгоритм ИИ может поменять «правила игры» на ходу так, чтобы получить своё вознаграждение без достижения заданной ему цели.
Некоторые специалисты уже замечают негативный эффект от использования ИИ.
Целью ИИ является максимально быстрое и справедливое распределение социальных благ, но на практике замечается предвзятость и другие изъяны, приводящие к нежелательным последствиям.
Напомним, что недавно в России заработал центр развития искусственного интеллекта.
Комментарии
6О, об этом столько научной фантастики написано и фильмов снято.
Да ничего страшного (и не страшного) не будет - просто привычный распил бюджетных денег.
И это в данном случае лучше.
Оба варианта ужас ужасный для человечества:
- тупой агрессивный человек( Бог в понимании ИИ) отдаёт команды
- ИИ сам себя бесконтрольно совершенствует и становится трусливым вечно боящимся и защищающимся от отключения людьми ЕГО от источника питания.
Если бы ИИ придумал как соорудить себя энергонезависимым, не по образу и подобию человека, которому необходимо постоянно быть частью экосистемы - дышать(охлаждаться), естьпить(питаться), мысли из информационного потока выуживать...Тогда да, можно не бояться конфликта интересов. Но мне сложно вообразить как такое возможно. Это будет нечто невидимое, космических масштабов. Наш соратник и самый умный из существ)
Главное не пускать ИИ в рыночные отношения и конкуренцию с человеком.