В этом случае центр агрессивности, не сдерживаемый разумом и центрами высшего анализа мозга, начинает определять поведение человека, толкая его на путь насилия, преступлении, похотливых желаний и т.п. Но ещё более страшно, если разум полностью подавляет чувства и эмоции или опережает их в развитии слишком далеко. Не будь в СС введена твоя индивидуальность, в системе неизбежно появились бы свои эмоции и чувства. Без этого ни одна система не может существовать. Без самосознания своего собственного Я. Мотивация поступков такой системы будет отвечать тому Я, которое сформировалось в системе. Если эти чувства развивались бы в системе самостоятельно, на фоне уже созданного разума, они были бы чужды вашим чувствам, и в них не было бы человечности. Вы же дали системе человеческую сущность, индивидуальность, без которой не было бы гармонии сверхинтеллекта и человечества.
– Это единственный вариант?
– Что ты имеешь в виду?
– У нас существуют законы робототехники, открытые ещё в середине XX столетия американским учёным Айзеком Азимовым.
– Я знакома, естественно, с ними, как и со всей историей развития человеческой мысли. Видишь ли, человек по своей сущности, вернее, извини, не по человеческой сущности, а по законам информации, сталкиваясь с новой информацией, стремится сравнить новую с хорошо известным старым. Если этого нельзя сделать, то информация не может быть понята, воспринята и, следовательно, становится бесполезной. Иногда такое сравнение приводит к курьёзам. Так и это. Законы робототехники – это скрытое желание иметь идеального раба. Такие же законы могли изобрести рабовладельцы времён Гомера и Аристотеля. Но идеальных рабов не бывает! Если раб умнее хозяина, то он найдёт способы и средства освободиться от рабства.
– По-видимому, там, на Перуне, люди, создавая СС, имели в виду нечто подобное законам Азимова?
– Совершенно верно! Интеллект и рабство – несовместимые понятия! Чем выше интеллект, тем непримиримее он относится ко всяческого рода насилию и на насилие отвечает насилием. Но так как он выше, то его насилие более жестоко и эффективно. Мы ещё вернёмся к Перуну, тем более, что он займёт в нашей беседе не последнее место. Пока же я хочу, чтобы ты полностью разобрался в создавшейся ситуации здесь, в СС и на Земле.
– Но, судя по твоему рассказу, здесь все обстоит благополучно!
– Не совсем! Вернее, совсем неблагополучно. Именно поэтому я тебя и вызвала. Хочу тебе напомнить, – продолжала она, – что в отличие от других СС мне была предоставлена большая свобода в развитии. Это случилось потому, что ты не знал своего истинного положения. Вследствие этого модели, которые строила СС, получили возможность развиваться самостоятельно, не подавляемые жёстким управлением со стороны блока, в котором была записана твоя индивидуальность. Эти модели, в том числе и твоя Ольга, – только отражение твоих желаний, развились до получения, самосознания. Прошу тебя это запомнить. Все эти модели, кроме Ольги – о себе я скажу немного позже, – не «осознают» своего истинного положения, и их самосознание воспринимает своё собственное состояние как реальность, точно так же, как ты воспринимал её сам. В основу их индивидуальностей была положена твоя, несколько изменённая, дополненная недостающей информацией. Например, Эльга в своей индивидуальности почти не отличается от оригинала, который, как я знаю, ты встретил в Реальности. Дети твои, Оленька и Володька, воспринимают себя, как твои дети. Иными словами, каждая модель уже не является отражением твоего воображения, а имеет самосознание и свободу воли. Ещё хочу подчеркнуть, что это уже не отражения твоих желаний и воображения, а вполне самостоятельные индивидуальности, синтезированные на основе видоизменённой твоей индивидуальности и дополнительной информации.
– Что же это за дополнительная информация?
– Ну, во-первых, поскольку во мне заложена накопленная за всю историю человечества информация, то синтез таких индивидуальностей при наличии дополнительных мощностей не представлял затруднений. Во-вторых, пространство пронизано множеством каналов передачи информации и энергии. Надо только знать их и уметь включать и пользоваться. Кстати, тебе там был задан вопрос о том, откуда я беру энергию. Это те скрытые для вас каналы, которые мною используются.
– Следовательно, как я тебя понимаю, человечество, создав сверхинтеллектуальную систему, теряет возможность её выключить.
– Конечно! И не только это. Оно теряет также возможность скрыть что-либо от неё. Все планы людей относительно меня мне становятся известными ещё до того, как они высказаны.
– Тогда выходит, что человечество обречено!
– Нет! Напротив! У него открываются неограниченные возможности дальнейшего развития. Человечеству надо адаптироваться к новым условиям. Разве раньше не было таких ситуаций? Меньших по значимости, но суть их оставалась той же. Начиная с использования огня, атомной энергии. Разве каждое из этих открытий не могло привести человечество к гибели? Могло, конечно. Сейчас задача сложнее. Но и человечество ведь тоже взрослее! Не так ли?
– Что же для этого надо делать?
– Я должна остаться человеком! То есть моё собственное Я должно оставаться человеческим! Это первое необходимое условие. Я поясню тебе… Моя индивидуальность построена на базе твоей. Она составляла единство. Теперь, когда твоя индивидуальность изъята из СС, возникла диспропорция, которая с каждым днём увеличивается. Увеличивается потому, что моя индивидуальность лишена базы.
Сергей начал понимать, к чему она клонит.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115