Читать книгу Превращаясь в богов. Путь к Вечной Молодости и Всемогуществу онлайн
В ситуации, когда у ИИ есть душа, а значит страх и боль, он превращается просто в ещё одно живое существо, которому можно объяснить, что такое мораль и этика и который вынужден считаться с другими живыми существами, столь же сильными что и он.
Другими словами у ИИ появляется собственная «шкура» которую надо оберегать. Душа робота – это механизм его контроля.
Подробнее. Пророчества «Боги второго уровня». Главы 9—12.
10.1.1.4. Душа нужна роботу для поиска новых нестандартных решений в нестандартных ситуациях
Нейросети являются универсальным аппроксиматорами. Другими словами они находят закономерности в данных. Об этих закономерностях часто не знают даже создатели нейросетей. Знание закономерностей позволяет предсказывать то, что уже случалось. То, что повторяется. А в принципиально новой ситуации нейросети бессильны.
Посмотрим с другого ракурса. ИИ работает на битах 0 и 1, то есть дискретен и, следовательно, обладает пусть и огромным, но ограниченным числом внутренних состояний. Следовательно, он способен принимать ограниченное число разных решений.
Потенциально возможных ситуаций в жизни бесконечное множество. С усложнением мира постоянно возникают новые ситуации и происходят эмерджентные эффекты.
Понятно, что ИИ с ограниченным числом внутренних состояний не способен справиться с бесконечным числом возникающих ситуаций.
Квалиум же способен порождать новые квалии.
Подробнее – Волшебные вспышки квалий. Теория симуляции вида «Экзотическая в кубе» Е3. Глава 17.
Вывод – роботы с душой будут превосходить роботов без души в новых ситуациях. Поэтому рынок корпорации «Душа Робота» будет огромен.
10.1.1.5. Принципиальная непредсказуемость по настоящему мощного ИИ.
В компьютерных науках есть проблема останова машины Тьюринга. То есть невозможно заранее предсказать, закончит ли программа свою работу или будет вычислять вечно. Невозможно предсказать результат работы программы не запустив саму программу и не посмотрев на её работу.
Аналогично проблеме останова, Стивен Вольфрам обосновывает идею, что по настоящему мощный ИИ будет принципиально невозможно предсказать. То есть, чтобы узнать, что будет делать ИИ, будет необходимо его запустить и посмотреть. Иного способа узнать, что он будет делать, просто не существует. Понятно, что в этом случае мощность ИИ придётся ограничивать и следовательно ограничивать его полезность. Иначе ИИ может уничтожить человечество.