поск
ольку реакторы и системы вооружения достаточно большие, инспекция могл
а бы ограничить размеры секретных сил и таким образом ограничить их мощн
ость. Но опасные репликаторы будут микроскопическими, а программы ИИ Ц
нематериальными. Как может кто-то быть уверен, что какая-то лаборатория г
де-то не находится на краю стратегического прорыва? В долгосрочной перс
пективе, как может кто-то быть даже уверен, что какой-то хакер в подвале не
находится на краю стратегического прорыва? Обычные методы проверки не б
удут работать, а это делает переговоры и давление по поводу международно
го запрета просто невозможными.
Давление правильного рода насчёт международных соглашений будут делат
ь наш путь более безопасным, но соглашения просто запрещать опасный прог
ресс очевидно работать не будет. Снова, локальное давление должно быть ч
астью работоспособной стратегии.

Глобальное подавление силой


Если мирные соглашения не будут работать, кто-то может рассмотреть испо
льзование военной силы, чтобы подавить опасные успехи. Но из-за проблемы
контроля, военное давление само по себе было бы не достаточно. Чтобы пода
вить продвижение силой вместо этого потребовало бы, чтобы одна сила побе
дила и оккупировала враждебные силы, вооружённые ядерным оружием Ц вря
д ли безопасная политика. Далее, победившая сила была бы сама главной тех
нологической силой с мощной военной силой и демонстрирующейся готовно
стью её использовать. Можно ли в этом случае доверять такой силе, чтобы он
а подавила собственный прогресс? Даже если так, можно ли ей доверять, что о
на сможет поддерживать бесконечную, вездесущую бдительность по всему м
иру? Если нет, тогда угрозы в конце концов возникнут в тайне, и в мире, где от
крытая работа над активными щитами предотвращена. Вероятным результат
ом будет катастрофа.
Военная сила в демократических странах имеет большие выгоды, но военная
сила сама по себе не может разрешить нашу проблему. Мы не можем выиграть б
езопасность с помощью стратегии завоевания и подавления исследований.

Эти стратегии остановки исследования Ц будь то через личное бездейств
ие, локальное бездействие, договорные соглашения или завоевание мира Ц
всё это выглядит обречённым на провал. Однако противодействие прогресс
у будет иметь свою роль, потому что нам будет нужно выборочная, умно нацел
енная задержка, чтобы отсрочить угрозы до того, как мы к ним подготовимся.
Давление со стороны бдительных активистов будет важным, но чтобы помочь
управлять прогрессом, а не остановить его.

Односторонний прогресс

Если попытки подавить исследования по ИИ и нанотехнологии кажутся бесп
олезными и опасными, чему из противоположного следовать Ц односторонн
ие как можно больше усилия? Но это также представляет проблемы. Мы в демок
ратиях вероятно не можем производить стратегические прорывы в идеальн
ой секретности. Слишком много людей было бы вовлечено на протяжении слиш
ком многих лет. Поскольку правительство СССР узнало бы о наших усилиях, и
х реакция оказалась бы очевидной озабоченность, и они бы несомненно расс
матривали бы большой прорыв с нашей стороны как большую угрозу. Если нан
отехнология была бы разработана как часть секретной военной программы,
их информационные аналитики опасались бы разработки тонкого, но решающ
его оружия, возможно основанного на запрограммированных «микробах». В з
ависимости от обстоятельств, наши оппоненты могли бы решить атаковать, п
ока они ещё могут. Важно, чтобы демократии сохраняли лидерство в этих тех
нологиях, но было бы наиболее безопасно, если мы сможем как-то сочетать эт
у силу с совершенно неугрожающими видами политики.

Баланс сил

Если мы следуем любой из вышеназванных стратегий, мы неизбежно вызовем с
ильный конфликт. Попытки подавить нанотехнологию и ИИ столкнули бы поте
нциальную силу, которая будет заниматься подавлением, с жизненными инте
ресами исследователей, корпораций, военных учреждений и медицинских па
циентов. Попытки достичь одностороннего прогресса в этих технологии ст
олкнёт кооперирующиеся демократии против жизненно важных интересов на
ших оппонентов. Все стратегии будут вызывать конфликт, но должны ли все с
тратегии серьёзно раскалывать западные общества и весь мир?
В поиске серединного пути, мы могли бы пытаться найти баланс сил, основан
ный на балансе технологий. Это по-видимому расширило бы ситуацию, котора
я сохраняла определённую меру мирного сосуществования на протяжении ч
етырёх десятилетий. Но ключевое слово здесь Ц «по-видимому»: грядущие п
рорывы будут столь стремительными и дестабилизирующими, чтобы старый б
аланс продолжал существование. в прошлом, страна могла испытывать техно
логическое отставание на несколько лет и всё же поддерживать приблизит
ельный военный баланс. Однако, со стремительными репликаторами и продви
нутым ИИ, задержка на единственный день могла бы быть фатальной. Стабиль
ный баланс значит слишком много, чтобы на него полагаться.

Кооперативная разработка

В принципе существует способ гарантировать технологический баланс меж
ду кооперирующимися демократиями и советским блоком: мы могли бы разраб
атывать технологии в кооперации, делясь инструментами и информацией. Хо
тя это имеет очевидные проблемы, по крайней мере это несколько более пра
ктично, чем оно может казаться на первый взгляд.
Возможно ли договорить о кооперации?
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117