Для граждан демократическ
их государств, принять это Ц кажется хорошей позицией.
Что нам следует делать, чтобы улучшить наши шансы достижения такого буду
щего, в котором стоит жить? Что мы можем сделать?
Начнём с того, что не должно случиться: мы должны не позволить отдельному
воспроизводящемуся ассемблеру неправильного типа выйти на свободу в н
еподготовленный мир. Эффективные приготовления кажутся возможными (ка
к я это опишу ниже), но, по-видимому, они должны быть основаны на построенны
х ассемблерами системах, которые могут быть построены только после того
, как опасные репликаторы уже смогут быть возможными. Разработка с опере
жением может помочь ведущей силе подготовиться, однако даже энергичные
предусмотрительные действия кажутся неадекватными, чтобы предотврати
ть момент опасности. Аргумент простой: опасные репликаторы будет намног
о проще разработать, чем системы, которые могут помешать им, также как бак
терия намного проще иммунной системы. Нам будет нужна тактика для сдержи
вания нанотехнологии, пока мы не научимся её приручать.
Одна очевидная тактика Ц изоляция: ведущая сила будет способна содержа
ть репликаторные системы за многочисленными стенами или в космических
лабораториях. Простые репликаторы не будут иметь интеллекта, и они не бу
дут разрабатываться, чтобы убежать и пойти буйствовать. Сдерживание их н
е кажется слишком сложной задачей.
Но лучше, чтобы мы могли разработать репликаторы, которые не могут убежа
ть и начать буйствовать. Мы можем построить их со счётчиками (такими как в
клетках), которые ограничивают их до фиксированного числа копий. Мы може
м строить их так, чтобы они нуждались в особом синтетическом «витамине»,
или в очень специфической среде, которую можно обеспечить только в лабор
атории. Хотя репликаторы можно было бы делать более стойкими и более про
жорливыми, чем любые современные насекомые, мы также можем сделать их по
лезными, но безопасными. Поскольку мы будет разрабатывать их с нуля, репл
икаторы не обязательно должны иметь элементарные способности к выжива
нию, которые эволюция встроила в живые клетки.
Далее, им не обязательно нужно быть способными эволюционировать. Мы може
м дать репликаторам избыточные копии их «генетических» инструкций, вме
сте с механизмами ремонта, чтобы исправлять любые мутации. Мы можем разр
аботать их так, чтобы они переставали работать задолго до того, как накоп
ится достаточно повреждений, чтобы сделать продолжительную мутацию зн
ачимой возможностью. Наконец, мы можем разработать их так, чтобы эволюци
я не происходила даже если мутации могли бы случаться.
Эксперименты показывают, что большинство компьютерных программ (иных, ч
ем специально разработанные программы ИИ, такие как Эвриско доктора Лен
ата) редко отвечают на мутации при небольшом изменении; вместо этого они
просто перестают работать. Поскольку они не могут разнообразиться поле
зными способами, они не могут эволюционировать. Если они не разработаны
специально для этого, репликаторы, направляемые нанокомпьютерами, буду
т разделять этот недостаток. Современные организмы достаточно хорошо с
пособны эволюционировать отчасти потому что они произошли от предшест
венников, которые эволюционировали. Они научились в процессе эволюции э
волюционировать; это Ц одна причина сложностей полового воспроизводс
тва и перемешивания сегментов хромосом во время производства клеток сп
ермы и яйцеклеток. Мы можем просто отказаться дать репликаторам подобны
е способности.
Для ведущей силы будет легко сделать воспроизводящиеся ассемблеры пол
езными, безопасными, и устойчивыми. Оберегая ассемблеры от того, чтобы их
украли и использовали во вред Ц другая и более серьёзная проблема, пото
му что это будет игра с разумными противниками. Как одна из тактик, мы може
м снизить побудительный мотив украсть ассемблеры, делая их доступными в
безопасных формах. Это также снизит желание других групп разрабатывать
ассемблеры независимо. За ведущей силой, в конце концов последуют силы, с
ледующие за ней.
Ограниченные ассемблеры
В главе 4 я описал, как система ассемблеров в чане могла бы построить велик
олепный ракетный двигатель. Также я отметил, что мы будем способны сдела
ть системы ассемблеров, которые действуют подобно семенам, поглощая сол
нечный свет и обычные материалы и вырастая почти во что угодно. Эти специ
ализированные системы не будут реплицировать себя, или будут это делать
только ограниченное число раз. Они будут делать только то, что они были за
программированы делать, когда им говорят это сделать. Любой, у кого нет сп
ециальных инструментов, построенных ассемблерами, был бы неспособен пе
репрограммировать их, чтобы они служили другим целям.
Используя ограниченные ассемблеры этого типа, люди будут способны сдел
ать всё что они хотят и сколько хотят, но в пределах ограничений, встроенн
ых в эти машины. Если никакие из них не будут запрограммированы, чтобы дел
ать ядерное оружие, никакие и не будут; если никакие из них не будут запрог
раммированы, чтобы делать опасные репликаторы, никакие и не будут. Если н
екоторые из них запрограммированы, чтобы делать дома, машины, компьютеры
, зубные щётки и что угодно ещё, то эти продукты станут дешёвыми и изобильн
ыми. Машины, построенные ограниченными ассемблерами, дадут нам возможно
сть открыть космос, вылечить биосферу и восстановить человеческие клет
ки. Ограниченные ассемблеры смогут принести почти неограниченное бога
тство людям в мире.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117