п.), которые являются бедой проектов сегодня. Построить
экспериментальное устройство масштаба ассемблера, нанокомпьютера или
живой клетки будет занимать лишь минуты, а наноманипуляторы будут делат
ь миллион движений в секунду. выполнение миллиона обычных эксперименто
в одновременно будет легко. Таким образом, вопреки задержкам с экспериме
нтированием, системы автоматизированного проектирования будут продви
гать технологию вперёд с ошеломительной скоростью.
От прошлого к будущему, тогда, вероятный рисунок приближающейся способн
ости выглядит примерно так. На протяжение целых временных эпох, жизнь пр
одвигалась вперёд растянутым во времени, медленным темпом, который опре
делялся эволюцией генов. Разум с языком подхватили темп, ускоренный гибк
остью мимов. Изобретение методов науки и технологии ещё ускорило продви
жение, заставив мимы эволюционировать быстрее. Рост богатства, образова
ния и населения Ц лучшие физические и интеллектуальные инструменты, пр
одолжили эту тенденцию ускорения на протяжение нашего века.
Автоматизация разработки ускорит темп еще больше. Автоматизированное
проектирование улучшится, помогая людям-инженерам генерировать и пров
ерять идеи быстрее, чем когда-либо. Преемники EURISKO сократят сроки проектир
ования, предлагая проекты и заполняя детали инноваций, вносимых человек
ом. С какого-то момента полностью автоматизированные системы проектиро
вания станут двигаться вперёд сами по себе.
Параллельно, молекулярная технология разовьется и вызреет, чему будут п
омогать продвижения в автоматизированном проектировании. Тогда систем
ы ИИ, построенные ассемблерами, дадут еще более стремительное автоматиз
ированную разработку, развивая технологические идеи в темпе, устанавли
ваемом системами в миллион раз более быстрыми, чем человеческий мозг. Ск
орость продвижения технологии вперёд тогда ускорится огромнейшим скач
ком вперёд: за короткое время многие области технологии пододвинутся к с
воим ограничениям, установленным законом природы. Тогда продвижение в э
тих областях остановится на очень высоком уровне достижений.
Эта трансформация Ц головокружительная перспектива. За ней, если мы выж
ивем, лежит мир воспроизводящихся ассемблеров, способных делать всё, что
им говорят делать, без необходимости в человеческом труде. За ней, если мы
выживем, лежит мир с системами автоматизированного проектирования, спо
собными направить ассемблеры создавать устройства, на пределе возможн
ого, близко к конечным границам технического совершенства.
В конечном счете, некоторые ИИ системы будут иметь и большие технические
способности и социальные способности, необходимые, чтобы понимать чело
веческую речь и желания. Если ей дать достаточно энергии, материалов и ас
семблеров, такая система могла бы вероятно называться «машиной-джином»
Она произведёт всё, что вы просите, арабская сказка и "О чем вы просите, это
произведет, Аравийская легенда и универсальный здравый смысл подсказы
вают, чтобы мы воспринимали опасности таких машин создания действитель
но очень серьезно.
Появление решающих крупных достижений в техническом и социальном ИИ за
ймёт годы. Как сказал Марвин Мински, "умеренно "умеренноинтеллектуальные
машины ближайшего будущего обещают только давать нам богатство и комфо
рт неустанных, послушных и недорогих слуг." Большинство систем, называем
ых ИИ, не думают и не учатся, они являются только грубой выжимкой из знаний
и умений экспертов, сохраненных, упакованных и распространяемых для кон
сультаций.
Но прибудет и подлинный ИИ. Удерживать его вне наших ожиданий означало б
ы жить в мире фантазии. Ожидать ИИ Ц ни оптимистично, ни пессимистично: ка
к всегда, оптимизм исследователей Ц пессимизм технофоба. Если мы не гот
овимся к их прибытию, системы социального ИИ могли бы поставить серьёзну
ю угрозу: подумайте об ущербе, причиняемом всего лишь человеческим интел
лектом террористов и демагогов. Подобным образом системы технического
ИИ могли бы дестабилизировать мировой баланс в военной сфере, давая одно
й стороне неожиданное и огромное преимущество. С надлежащей подготовко
й, однако, искусственный интеллект мог бы помочь нам строить будущее, кот
орое работает Ц для Земли, для людей, и для продвижения интеллекта во все
ленную. Глава 12 подсказывает подход как часть более общего вопроса управ
ления трансформацией, которую принесут ассемблеры и ИИ.
Зачем нужно обсуждать опасности сегодня? Потому что уже не слишком рано
начать разрабатывать институты, способные иметь дело с такими вопросам
и. Технический ИИ появляется сегодня и каждое его продвижение вперёд уск
орит гонку технологий. Искусственный интеллект Ц всего лишь одна из мно
гих мощных технологий, которыми мы должны научиться управлять, каждая из
которых добавляет что-то к сложной смеси угроз и возможностей.

Глава 6. МИР ВНЕ ЗЕМЛИ

Ту перевернутую чашу мы зовё
м Небом; под ним, в кишащем курятнике мы бы жили и умирали.
Омар Каям

Новая космическая программа
Космос и усовершенствованная технология
Изобилие
Общество с положительной суммой
ЗЕМЛЯ Ц лишь маленькая часть мира, а остальная часть мира будет важна дл
я нашего будущего. В терминах энергии, материалов и пространства для рос
та космос Ц это почти всё. В прошлом инженерные проекты как правило заве
ршались завоеванием нового пространства. В будущем открытые границы ко
смоса расширят человеческий мир.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117