Однако они не знают, как она это делает. Не могут они также в точности
предсказывать, где же машина хранит свои знания...
Хотя все "клетки"-ячейки идентичны, когда программа запускается в работу...
они стремятся специализироваться на определенных образах - некоторые на
гласных, некоторые на согласных, некоторые на определенных фонемах. Никто не
говорит нейросети, как делать это. Никто в точности не знает, как она это
делает. Нейросети сами себя программируют".
Очень примечательное заявление, за которым во весь рост встает гигантская,
проблема взаимоотношений между интеллектуальными машинами и человеком. В
давно уже идущих дискуссиях были сформулированы две основные точки зрения на
эту проблему.
Сторонники одной из них считают, что человек останется хозяином положения,
что он не утратит власти над машиной, даже обладающей разумом, что он
сохранит контроль над дальнейшим развитием событий. Такая точка зрения
представляется несколько наивной. Существенно иная физическая природа
искусственного, машинного интеллекта с неизбежностью породит иные,
нечеловеческие ценности и целевые установки, иную логику, иное мировоззрение
и, что, наверное, самое главное, - иную этику. На Земле появятся существа
новой, нечеловеческой расы, существа, очень близкие к человеку по общности к
техносфере, и в то же время бесконечно далекие, ибо одно только знание
собственного практического бессмертия коренным образом будет отличать их
мировоззрение от человеческого. И этим существам уже не нужно будет
человечество, как, впрочем, и биосфера вообще. Можно предвидеть, например,
что окислительная, кислородосодержап1ая, влажная атмосфера Земли, в высокой
степени приспособленная к существованию биосферы, станет помехой для
эволюции новой расы, которой, видимо, не составит труда создать для себя
более благоприятные условия.
Почти не вызывает сомнения, что такая модель развития техносферы покажется
оскорбительной для веками пестуемого антропоцентристского мировоззрения -
"венец творения" перестает быть таковым и обращается всего лишь в одну из
ступенек эволюции, каких было много и которые, выполнив свою эволюционную
задачу, навсегда уходили в небытие.
Вероятность такого развития событий все-таки, по-видимому, довольно низка.
Первый, более слабый, но достаточно неприятный по конечному результату довод
основывается на том, что резервы времени, отпущенные на эволюцию машинного
разума, могут оказаться недостаточными. В этом случае, естественно,
срабатывает первая модель-постепенная гибель земной цивилизации по схеме,
предсказанной Римским клубом.
Второе, вероятно, более сильное возражение против возможности воцарения
машинной расы связано с запретом на подобное развитие событий, налагаемым
следствием из парадокса Ферми, указывающего на несоответствие между априорно
предполагаемой множественностью обитаемых миров, на которых могла развиться
техническая цивилизация, и молчанием этих цивилизаций. Действительно, если
бы в какой-либо планетной системе возникла цивилизация близкого к земной
типа, то в случае осуществления второй модели развития, техносфера,
воплощенная в расе разумных машин, реализуя присущее самоорганизующимся
системам свойство агрессивности, образовала бы во Вселенной известную
"ударную волну разума". Практическое бессмертие индивидуумов машинной расы
автоматически разрешило бы задачу межзвездных перелетов, основанных даже на
известных нам ныне физических принципах и присущих этим принципам
ограничениях, и мы давным-давно испытали бы воздействие этой "ударной
волны".
Описанные выше две возможные модели развития демонстрируют наличие сложных
противоборствующих взаимоотношений между биосферой и техносферой, что
позволяет, видимо, говорить о странном симбиотическом сосуществовании двух
самоорганизующихся систем, одна из которых буквально пожирает другую. Тем не
менее, следует признать, что итог этих взаимоотношений не может быть сведен
ни к одной из мыслимых моделей, поскольку современное состояние системы
принципиально непредсказуемо.
Олвин Тоффлер в своем предисловии к книге И. Пригожина и И. Стенгерс пишет:
"Все системы содержат подсистемы, которые непрестанно флуктуируют. Иногда
отдельные флуктуации или комбинации флуктуаций могут стать... настолько
сильными, что существовавшая прежде организация не выдерживает и
разрушается. В этот переломный момент (который авторы называют особой точкой
или точкой бифуркации) принципиально невозможно предсказать, в каком
направлении будет происходить дальнейшее развитие: станет ли состояние
системы хаотическим или она перейдет на новый, более дифференцированный
уровень упорядоченности или организации..." Очевидно, что если первая модель
предсказывает переход системы техносфера+биосфера в хаотическое состояние,
то вторая - "на новый... более высокий уровень упорядоченности или
организации". Это, кстати, и является доводом, запрещающим осуществление
упоминавшейся выше стратегии "остановки роста", сторонники которой видят
единственный шанс на выход из сложившейся кризисной ситуации в искусственном
сдерживании, регламентации роста и развития угрожающих факторов. Эта модель,
при ее, казалось бы, внешней доступности, тем не менее, запрещена теорией
неравновесных систем.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211