Классика. Допустим, мы создали Сверхразум, который умнее всех людей вместе взятых. Как мы можем быть уверены, что он будет следовать нашим приказам? Любые "законы робототехники" он, вероятно, сможет обойти способами, которые мы даже представить не можем. Есть вообще решение у этой проблемы?