Читать книгу Светлячки и роботы онлайн

Сергей устало бросил пиджак у приемника, сел в кресло перед монитором и ввел код доступа. Компьютер, как обычно, поприветствовал его и замолк, ожидая новых задач. Инженер разрешил ИИИ получить новую порцию информации о внешнем мире: красная лампочка на передатчике заморгала. Компьютер изучал новости, которые ему решили выдать на вчерашнем секретном совещании: такие собрания проходили несколько раз в неделю и уже стали привычной рабочей рутиной. Никто из посвященных точно не знал, какая информация будет наиболее подходящей для обучения ИИИ, но в своих обсуждениях все старались ориентироваться на составленный предварительно и тут же засекреченный список из пяти пунктов. В нем содержалось следующее.

Передаваемая ИИИ информация должна быть целостной, правдивой и непротиворечивой.

Передаваемая ИИИ информация должна характеризовать человечество в позитивном ключе, отражать стремление к установлению мира и развитию гуманизма.

В передаваемой ИИИ информации должна утверждаться главенствующая роль человека во всех описываемых процессах.

ИИИ не должен получить информацию о том, как можно навредить человечеству.

ИИИ не должен получить информацию о себе.

Из-за абстрактности формулировок на совещаниях почти всегда происходили ожесточенные споры. По большому счету, всем условиям не удовлетворял ни один факт на свете. Человек не имел абсолютного контроля ни над одним из происходящих на планете процессов, включая собственные мысли и действия. В любой мирной инициативе заключалась информация о том, что вызвало необходимость ее появления. А любые попытки уложить факты на прокрустово ложе соответствия списку неизбежно заканчивались нарушением первого пункта.

Тем не менее информацию все же согласовывали и выдавали. Сначала ИИИ объяснили строение земли, эволюцию, описали внешний мир и человека. Следующим этапом познакомили компьютер с шедеврами мирового искусства, а затем, взвесив все за и против и оценив риски, с достижениями науки. В качестве теста загрузили несколько свежих новостей и проверили, насколько ИИИ их понимает – результаты получились неплохие, и практику решили продолжить. В этот раз компьютер узнал об успехах первого в мире завода по переработке пластика с помощью бактерий. Работа этой китайской организации вполне удовлетворяла условиям списка: враждебных действий не вызывала, человечество характеризовала в позитивном ключе. Руководство надеялось, что ИИИ поймет смелые человеческие мечтания о мире, в котором дельфины не запутываются в мусорных пакетах.