В западном м
ире существует живая политическая традиция, которая поощряет подозрит
ельность к технологии. До той степени, пока вначале она дисциплинирует с
вои подозрения, проверяя их относительно реальности и далее выбирая раб
отоспособные стратегии для управления изменением, эта традиция может в
ложить многое в выживание жизни и цивилизации. Но люди, озабоченные техн
ологией и будущим Ц ограниченный ресурс. Мир не может себе позволить ра
сточать их усилия на бесплодные кампании, чтобы остановить глобальный п
оток технологии узким веником западных движений протеста. Грядущие про
блемы требуют более тонких стратегий.
Никто не может пока сказать наверняка, какие проблемы окажутся наиболее
важными, или какие стратегии окажутся наилучшими для их разрешения. Одна
ко мы уже можем видеть новые проблемы огромной важности, и мы можем разли
чить стратегии с различной степенью перспективности. Короче говоря, мы м
ожем видеть достаточно о будущем, чтобы идентифицировать цели, которые с
тоят того, чтобы им следовать.


ЧАСТЬ ТРЕТЬЯ. ОПАСНОСТИ И НА
ДЕЖДЫ

Глава 11. МАШИНЫ РАЗРУШЕНИЯ

И я не сомневаюсь, что самыми г
розными из всех армий, о которых когда-либо слышали на земле, является тот
вид солдат, которые за их малостью не видимы.
Сэр Уильям Перри, о микробах
, 1640 год.

Размножающиеся ассемблеры и мыслящие машины создают принципиальные уг
розы для людей и жизни на Земле. Сегодняшние организмы имеют способности
далеко от пределов возможного, и наши машины эволюционируют быстрее, че
м мы сами. В пределах нескольких десятилетий представляется вероятным, ч
то они на превзойдут. Если мы не научимся жить с ними в безопасности, наше
будущее вероятно будет и восхитительным, и коротким. Мы не можем надеять
ся предвидеть все проблемы впереди, однако, уделяя внимания большим, при
нципиальным моментам, мы, возможно, в состоянии предвидеть наиболее знач
ительные задачи и получить некоторое представление о том, как с ними име
ть дело.
Без сомнения, будут написаны целые книги о грядущих социальных сдвигах:
что случится с глобальным порядком, когда ассемблеры и автоматический и
нжиниринг исключать необходимость в большей части международной торго
вли? Как общество изменится, когда отдельные люди смогут жить независимо
? Что мы будем делать, когда размножающиеся ассемблеры смогут производит
ь почти всё что угодно без человеческого труда? Что мы будем делать, когда
системы ИИ смогут думать быстрее, чем люди? (И до того, как они придут к закл
ючению, что люди отчаются что-либо делать или создавать, авторы могут рас
смотреть, как бегуны относятся к машинам, или как художники относятся к к
амерам.)
В действительности авторы уже почти предвидели и проговорили нескольк
о из этих моментов. Каждый из них Ц дело необычайной важности, но более фу
ндаментальным, чем любой из них является выживание жизни и свобода. В кон
це концов, если жизнь или свобода исчезнут, то наши идеи о социальных проб
лемах больше не будут иметь значения.

Угроза от машин

В главе 4 я описал кое-что из того, что воспроизводящиеся ассемблеры будут
делать для нас, если мы будем с ними правильно обращаться. Приводимые в дв
ижение топливом или солнечным светом, они будут способны делать почти вс
ё что угодно (включая их самих) из широко распространённых материалов.
Живые организмы также приводятся в движение топливом или солнечным све
том, и также делают большую часть себя из широко распространённых матери
алов. Но в отличие от систем, основанных на ассемблерах, они не могут делат
ь "почти всё что угодно".
Генетическая эволюция ограничила жизнь системами, построенными на ДНК,
РНК и рибосомах, но эволюция мимов принесёт машины, подобные жизни, постр
оенные на нанокомпьютерах и ассемблерах. Я уже описал, чем построенные и
з ассемблеров молекулярные машины будут отличаться от построенных на р
ибосомах машинах жизни. Ассемблеры будут способны строить всё то, что сп
особны рибосомы, и более того; репликаторы на базе ассемблеров, следоват
ельно, будут способны делать всё, что может жизнь, и более того. С точки зре
ния эволюции, это создаёт очевидную угрозу выдрам, людям, кактусам и папо
ротникам Ц всей богатой фабрике биосферы и всему, что мы ценим.
Ранние компьютеры, построенные на транзисторах, вскоре обошли самые луч
шие компьютеры на электронных лампах, потому что они были сделаны из уст
ройств более высокого уровня. По той же причине, ранние репликаторы, пост
роенные на ассемблерах, могли бы обойти самые совершенные из современны
х организмов. «Растения» с «листьями» не более эффективными, чем сегодня
шние солнечные элементы, могли бы выиграть конкуренцию у настоящих раст
ений, наводняя биосферу несъедобной листвой. Однако, всеядные «бактерии
» могли бы выиграть конкуренцию у настоящих бактерий: они могли бы распр
остраниться как летящая пыльца, стремительно размножаясь и сведя биосф
еру в пыль за считанные дни. Опасные репликаторы могли бы легко быть слиш
ком жёсткими, маленькими и быстро распространяющимися, чтобы их останов
ить Ц по крайней мере если мы не сделаем никаких приготовлений. У нас дос
таточно проблем с контролем над вирусами и фруктовыми мушками.
Среди знатоков нанотехнологии эта угроза стала известна как "проблема с
ерой липкой массы". Хотя массы бесконтрольных репликаторов не обязатель
но должны быть серыми или липкими, термин "серая липкая" подчёркивает, что
репликаторов, способных уничтожить жизнь, может быть меньше в шприце, че
м одного вида травяных жучков.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117