Сама Фреда не могла решить, какое объяснение было более правильным. Может, это неведомо даже самому Дональду. Людям, например, часто бывает неизвестно, почему они делают то, а не иное. А роботам?
– Где сейчас Калибан и Просперо? – спросила Фреда.
– Под усиленной охраной, в подвале, похожем на тот, где прятался Биссал, – ответил Дональд. – Но с вашего позволения, я бы выделил несколько моментов, которые доказывают их виновность.
– Хорошо, – согласился Крэш.
– Во-первых, они участвовали в инсценированной драке. Если самого участия вполне было достаточно, чтобы заподозрить Тоню Велтон, значит, этого достаточно, чтобы заподозрить и Калибана с Просперо.
– Это здравая мысль, – заметил Крэш. – Похоже, никто не обратил внимания на их действия во время потасовки, но почему они поступили так, как велят Три Закона? Может быть, чтобы выглядеть хорошими ребятами. А может, и нет.
– Вы забегаете вперед моего следующего пункта, сэр. Новые Законы позволяют Просперо принять участие в убийстве.
– Дональд! – возмутилась Фреда.
Он повернулся и внимательно посмотрел ей в глаза.
– Я сожалею, доктор Ливинг, что сказал это в вашем присутствии, ведь эти Законы изобрел не кто иной, как вы, но тем не менее это так. Новый Первый Закон гласит, что робот не должен причинять человеку вред, но ни слова не говорит о том, что он не должен допустить, чтобы человеку был причинен вред. Робот, знающий о предстоящем убийстве, совсем не обязан делиться своим знанием с кем бы то ни было. Робот, ставший свидетелем убийства, может спокойно стоять в стороне и не вмешиваться. Новый Второй Закон гласит, что робот должен «сотрудничать» с людьми, но не повиноваться их командам. Какими людьми? Предположим, есть две группы людей, одни хотят плохого, а другие – хорошего. С кем из них захочет сотрудничать робот? Новый Третий Закон не отличается от старого, но из-за ослабления первых Двух Законов он становится гораздо сильнее. Так называемые Новые роботы будут стремиться сохранить свою жизнь любым путем, что немыслимо для нормального робота, для которого важнее спасти жизнь человека, находящегося под его защитой. Что касается Нового Четвертого Закона, который позволяет роботу делать все, что он захочет, то тут налицо явное противоречие. Что это значит? Я понимаю, что словесное выражение Законов роботехники не настолько точно, как формулы, которые закладываются в мозг робота, но даже математический код, который содержит Четвертый Закон, сформулирован не слишком четко.
– Так и задумывалось, – сказала Фреда. – Он и должен был нести в себе большой заряд неопределенности. Я понимаю, что он вкладывает в роботов большую свободу воли, но я рассчитывала, что эта свобода будет реализовываться в рамках первых Новых Трех Законов.
– Но даже в таком случае, – продолжал Дональд, – Четвертый Новый Закон привнес новое понятие в роботехнику – межзаконный конфликт! Первичные Три Закона всегда конфликтовали между собой, но это совсем другое. Робот вынужден делать выбор между противоречивыми требованиями: допустим, человек отдал роботу приказ сделать что-то очень важное, но сопряженное хотя бы с минимальным риском повредить человеку. Робот, который столкнется с таким противоречием и решит его, в следующий раз будет действовать более решительно и собранно. Конфликт придает роботу устойчивость, не считая ситуаций, когда совершенно любое действие повлекло бы за собой опасность. Но!
Дональд сделал эффектную паузу и продолжил свою речь:
– Но Четвертый Новый Закон противоречит себе самому , и никакой пользы от этого я не вижу. Этот Закон отчасти позволяет роботам следовать своим желаниям, но ведь у роботов нет никаких желаний! – все сильнее воодушевлялся Дональд. – У нас, роботов, нет и не может быть ни аппетита, ни амбиций, ни сексуальных потребностей. Мы не знаем, что такое эмоции, не считая стремления защищать человека и подчиняться ему. У нас нет иного смысла в жизни, чем служить и повиноваться людям, и ничего другого нам не надо. Получается, что Четвертый Новый Закон велит роботу искать для себя иные цели существования. Четвертый Закон поощряет робота удовлетворять искусственные, вымышленные желания. В принципе Четвертый Закон не заставляет робота исполнять свои желания все время, а значит, Новый робот будет заниматься своими новоиспеченными желаниями лишь часть времени, то есть во время досуга. Настоящий робот, робот с Тремя Законами, оставленный на собственный произвол – когда он выполнил все приказы человека, – не будет делать абсолютно ничего, нимало не тяготясь этим фактом. Он просто будет ожидать приказаний или начнет действовать, если человеку будет угрожать опасность. А Новый робот, оставленный без дела, окажется во власти противоречивых желаний и стремлений, он станет желать того, что ему в принципе не нужно, и искать удовлетворения своих искусственных потребностей все свободное время.
– Это очень поучительно, Дональд, – вмешался Крэш. – Новые роботы мне нравятся не больше твоего, но к чему ты клонишь? Какое это имеет отношение к нашему расследованию?
– Очень большое, сэр. Новые роботы хотят выжить , и им известно, что это может оказаться трудновыполнимым делом. В частности, Просперо знал, что Грег рассматривал их истребление как одну из возможных акций. Они могли решиться ударить первыми в целях самозащиты. Новые Законы позволяют им сотрудничать с людьми и наблюдать за убийством, не вмешиваясь в события, хотя, конечно, сами они убивать не способны. Но у Калибана вообще нет никаких Законов. И он спокойно мог это сделать. В любом случае ничего не мешало ему нажать на спусковой крючок.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96