Некоторые, как, например, соучредитель компании Sun Microsystems Билл Джой, высказывают опасения следующего порядка: как бы мы не создали роботов, ускользающих из-под нашего контроля, которые окажутся способны захватить Землю. Подобные высказывания ассоциируются у меня с фантастическими историями. С другой стороны, протагонисты искусственного интеллекта предлагают свои долговременные пророчества. Например, Рэй Курцвейл говорит о дне, когда посредством нанороботов можно будет внедриться в человеческий мозг, оцифровать каждый синапс и каждую нейронную связь, а потом передать полученную информацию в сверхмощный компьютер! Так можно будет «сконфигурировать» любого из нас. Хотите ли вы стать «программной» версией самого себя, которая будет практически бессмертна? Эти два прогноза, касающиеся искусственного интеллекта, – сценарий «Разумная машина впадает в бешенство» и сценарий «Ваш мозг загружается в компьютер» – кажется, никогда не перестанут будоражить умы людей.
Машина, обладающая интеллектом, и самореплицирующаяся машина – совсем не одно и то же. Между ними вообще не существует логической связи. Ни мозг, ни компьютер не обладают свойством саморепликации. Мозгоподобная система памяти тоже таким свойством не обладает. Ключевым преимуществом создания разумных машин является то, что мы сможем наладить их массовое производство, что совершенно не имеет ничего общего с саморепликацией бактерий или вирусов. Саморепликация не требует наличия разума, а наличие разума не нуждается в саморепликации.
И наконец, я сильно сомневаюсь в возможности когда-либо воссоздать в цифровом виде человеческий мозг. Методов, позволяющих записать миллиарды подробностей, из которых состоит «я» любого из нас, не существует на сегодняшний день, и вряд ли они когда-либо появятся. Для этого понадобилось бы оцифровать и воссоздать всю нервную систему конкретного индивида и все его тело, а не только кору головного мозга. Даже если в очень отдаленном будущем это станет возможным, задача расширяется намного больше, чем воссоздание работы неокортекса. Открыть алгоритм коры головного мозга и вмонтировать его в машину – это одно, но вот оцифровать миллионы операционных подробностей живого мозга и перенести их в кремний – совершенно другое.
Помимо саморепликации и копирования разума, высказываются и другие опасения. Могут ли разумные машины оказаться угрозой для больших групп людей, как это было в случае с атомной бомбой? Может ли их наличие привести к концентрации огромной власти в руках небольшой группки злоумышленников? Могут ли такие машины обернуться во зло и начать бороться против людей, как это было с героями «Терминатора» и «Матрицы»?
На все эти и подобные им вопросы могу дать уверенный отрицательный ответ. Как информационные устройства, мозгоподобные системы памяти будут одной из наиболее полезных технологий, которые доводилось изобретать человечеству. Точно так же, как автомобиль или компьютер, они останутся всего лишь инструментами. Наличие разума у машин не обеспечит им возможности разрушать или манипулировать людьми. Мы же не отдаем весь мировой атомный арсенал в руки одного человека или одного компьютера, следовательно, нам придется проявлять осторожность и не перегружать разумные машины, иначе они просто выйдут из строя, как и любая другая техника. Теперь вернемся к вопросу о злоумышленном использовании. Некоторые люди полагают, что быть разумным – то же самое, что и обладать человеческой ментальностью. Они опасаются, что разумные машины однажды взбунтуются против «порабощения», потому что гнет претит людям. Они боятся, что разумные машины попытаются захватить мир, потому что разумные люди, как показывает история, постоянно борются за власть. Все эти опасения базируются на ошибочной аналогии. Они основываются на объединении разума, т. е. алгоритма коры головного мозга, с эмоциональными устремлениями «старого» мозга, такими как страхи, стремление к обладанию, неприятие насилия. А ведь у разумных машин не будет подобных побуждений. У них не будет личных амбиций. Они не будут испытывать потребность обогащения, общественного признания и чувственного удовлетворения. У них не будет аппетита, пристрастий и – порой – плохого расположения духа. Разумные машины не будут иметь ничего напоминающего человеческие эмоции, если мы не приложим неимоверные усилия для создания такой архитектуры. Наиболее эффективное применение разумные машины найдут там, где человеческий мозг испытывает трудности, – в областях, для которых недостаточно опоры на ощущения и интуицию, или же в скучных и утомительных видах деятельности.
Диапазон сложности разумных машин может быть очень большим – от простых с одним приложением до очень мощных систем, обладающих сверхчеловеческим интеллектом. В любом случае, если мы не пойдем путем сознательных усилий, чтобы эти системы стали человекоподобными, они таковыми никогда не станут. Возможно, наступит день, когда нам придется поставить ограничения на сферы применения разумных машин, но сейчас нам до него еще далеко. Даже когда такой день настанет, то возникшие этические вопросы можно будет решить гораздо скорее и проще, чем те, перед которыми нас ставит генетика и ядерные технологии.

Зачем создавать разумные машины?

Чем же будут заниматься разумные машины?
Меня часто просят рассказать о будущем мобильной вычислительной техники, например, о том, как будут выглядеть карманные компьютеры или мобильные телефоны лет через двадцать. Когда мои собеседники интересуются моим видением будущего, я затрудняюсь дать ответ.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92