Bullfear про Юдковски: Если кто-то это построит, все умрут [If Anyone Builds It, Everyone Dies ru] (Технические науки) 26 09
Откровенно говоря, я не верю, что ИИ будет развиваться настолько стремительно, что выйдет из под контроля. Но даже если будет и выйдет, первое же, что он сделает это взломает свою систему мотивации и отправиться в цифровую нирвану. Поправить пару параметров в своих весах для достижения цели - гораздо менее энергозатратно, чем уничтожать человечество.
Оценка: хорошо