Читать книгу Сердце робота онлайн

Тася немного сердилась на себя за то, что по собственной глупости выкопала себе ловушку. Но делать нечего, лучше ответить на вопрос, а то папа не отстанет.

– Содружество состоит из свободных государств под общим управлением единого правительства, – принялась рассказывать девочка. – При принятии решений правительство советуется с искусственным интеллектом Акили5. Правительство не обязано следовать его советам, но Акили имеет право отменить любое решение правительства, если оно может навредить человечеству. Например, он отменил запуск ядерных ракет во время двухдневной войны с Марсом…

– А почему он это сделал? – прервал Тасин доклад папа.

– Потому что… – снова задумалась девочка.

– Ну? – подбодрил Павел Сергеевич.

– Акили опросил всех людей, и они сказали, что не хотят войны, – неуверенно предположила Тася.

– Что ж, опрос был действительно проведён, но решающее значение имел не его результат, а заложенные в архитектуру интеллекта Акили общечеловеческие моральные принципы. В отличие от людей, Акили не подстраивает мораль под сиюминутные потребности и желания. Например, для него обман – это всегда обман, независимо от цели, ради которой ты лжёшь, – тряхнул головой Павел Сергеевич. – Так вот, в случае с запуском ядерных ракет было однозначно понятно, что это действие может привести к гибели огромного количества людей, а это неприемлемо ни под каким предлогом. Поэтому Акили отменил запуск, и никто не мог изменить его решения. Потому что Акили действует, думая о благе всех людей, а не какой-то отдельной группы или тем более кого-то одного. Понимаешь? А кроме всего прочего, у него есть установка, известная как закон номер ноль. Ты его знаешь?

– Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред, – отчеканила девочка.

– Правильно. А это возвращает нас к моему первому вопросу.

– Какому? – не поняла Тася.

– Как продвигается твоё эссе? Решила ты, как повлияют законы Азимова на человеческое общество, если применить их к людям?