Компьютерные инженеры также используют избыточность. Стратус Компьюте
р Инк., например, производит машину, которая использует центральные обра
батывающие блоки (в двух частях) для выполнения работы одной, но для выпол
нения значительно более надёжно. Каждая часть постоянно проверяет внут
реннее соответствие, и вышедшая из строя часть может быть заменена, пока
работает её двойник.
Ещё более мощная форма избыточности Ц разнообразие конструкции. В комп
ьютерных аппаратных средствах это означает использование нескольких к
омпьютеров с различной конструкцией, все работающие параллельно. Сейча
с избыточность может корректировать не только отказы в отдельно взятой
единице аппаратных средств, но и ошибки её конструкции.
Многое сделано над проблемой написания больших программ, свободных от о
шибок; многие люди считают, что такие программы невозможно разработать и
отладить. Но исследователи в УКЛА Компьютер Сайенс Департмент показали
, что разнообразие конструкции можно также использовать в программном о
беспечении: несколько программистов могут работать над той же самой про
блемой независимо, тогда все их программы можно запускать параллельно и
выбирать ответ голосованием. Это умножает затраты на написание и работу
программ, но это делает получающиеся в результате системы программного
обеспечения устойчивыми к ошибкам, которые появляются в некоторых из их
частей.
Мы можем использовать избыточность, чтобы контролировать репликаторы.
Также как машины ремонта, которые сравнивают множество нитей ДНК будут с
пособны скорректировать мутации в генах клетки, также репликаторы, кото
рые сравнивают множество копий своих инструкций (или которые использую
т другие эффективные системы исправления ошибок) будут способны сопрот
ивляться мутациям в этих «генах». Избыточность может снова принести экс
поненциальный рост безопасности.
Мы можем строить системы, которые крайне надёжны, но это повлечёт издерж
ки. Избыточность делает системы более тяжёлыми, громоздкими, более дорог
ими и менее эффективными. Нанотехнология, однако, сразу сделает большую
часть вещей намного более лёгкими, дешёвыми и более эффективными. Это сд
елает избыточность и надёжность более практичными.
Сегодня, мы редко хотим платить за самую безопасную из возможных систем;
мы терпим с большей или меньшей охотой отказы и редко рассматриваем реал
ьные пределы надёжности. Это создаёт предвзятые суждения о том, что мы мо
жем достичь. Психологический фактор также искажает наше чувство, наскол
ько надёжными можно сделать вещи: отказы застревают у нас в уме, но каждод
невный успех привлекает мало внимания. СМИ усиливает эту тенденцию, сооб
щая о самых драматических отказах со всего мира, при этом игнорируя беск
онечные и скучные удачи. Ещё хуже, что компоненты избыточных систем могу
т отказывать видимым образом, вызывая тревогу: представьте, как СМИ сооб
щили бы о порвавшемся канате моста, даже если бы мост был бы супер-безопас
ной пятнадцати-канатной моделью, описанной выше. И поскольку каждый доп
олнительный избыточный компонент добавляет шанс отказа системы, надёж
ность системы может казаться хуже даже когда она почти совершенна.
Если отложить в сторону то, что кажется, избыточные системы сделанные из
избыточных, безупречных компонентов могут часто быть сделаны почти иде
ально надёжными. Избыточные системы, распределённые на достаточно широ
кие расстояния выдержат даже пули и бомбы.
Но что можно сказать об ошибках конструкции? Наличие десятка избыточных
частей не даст никакой пользы, если они делят общую критическую ошибку в
конструкции. Разнообразие конструкции Ц один ответ; хорошее тестирова
ние Ц другой. Мы можем надёжно разрабатывать хорошие конструкции не буд
учи хорошими в надёжности конструкторами: нам только нужно уметь хорошо
тестировать, исправлять ошибки и быть терпеливыми. Природа разработала
работающие молекулярные машины целиком через безголовую починку и тес
тирование. Имея разум, мы можем делать не хуже или лучше.
Мы найдём несложным разработать надёжные технические средства, если мы
сможем разработать надёжные автоматические системы разработки. Но это
ставит более широкий вопрос о разработке систем искусственного интелл
екта, которым можно доверять. У нас будет мало проблем в создании систем И
И с надёжной аппаратной базой, но как насчёт их программных средств?
Подобно сегодняшним системам ИИ и человеческому разуму, продвинуты сис
темы ИИ будут синергетическими комбинациями большого количества прост
ых частей. Каждая часть будет более специализирована и менее интеллекту
альна, чем система в целом. Некоторые части будут искать структуры в карт
инках, звуках и других данных, и подсказывать, что они могут обозначать. Др
угие части будут сравнивать и оценивать подсказки этих частей. Также как
распознаватель структур в человеческой зрительной системе страдает о
т ошибок и зрительных иллюзий, также страдают и распознаватели в система
х ИИ. (действительно, некоторые продвинутые системы машинного зрения уже
страдают от знакомых зрительных иллюзий.) И также как другие части челов
еческого разума могут часто идентифицировать и компенсировать иллюзии
, также будут способны и другие части систем ИИ.
Как в человеческом разуме, интеллект будет включать части ума, которые б
удут производить приблизительные догадки, а другие части будут откидыв
ать наиболее плохие догадки до того, как они привлекут слишком много вни
мания или повлияют на важные решения.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117