— Да…
Проблема Симуляции обычно относилась к числу проблем, настолько далеко выходящих за привычные рамки, что они заслуживали написания с большой буквы. Проблема была морального характера, как и все действительно неразрешимые проблемы.
Главным образом она сводилась к вопросу: «Насколько достоверной с моральной точки зрения должна быть жизнь, чтобы иметь право именоваться таковой?»
Моделирование хода грядущих событий в виртуальной среде имело целью понять, как те или иные действия отразятся на ходе вещей, предоставляя возможность корректировки этих действий в различных вариантах моделируемой проблемы, постепенно усовершенствуя их таким образом, чтобы желаемый результат был достигнут с максимальной эффективностью. Едва ли подобное прогнозирование являло собой что-то новое — во многом оно было соотносимо с работой ИИ, и предшествующих вычислительных матриц, компьютеров и даже механических или гидрологических, к примеру, устройств, вроде шарикоподшипников, весов, пружин или клапанов, а также, как когда-то воображали восторженные оптимисты, экономических моделей.
Но, заходя ещё дальше, можно было обнаружить, что такие моделирования впервые произошли в умах ещё не вполне разумных существ, в затерянных доисторических эпохах и независимо от вида. Если же не быть слишком строгим в определениях, то можно утверждать, что первые симуляции свершились в головах — или других соответствующих частях тела, что во многом зависело от видовой принадлежности — вероятно, вскоре после того, как обладатели оных развили теорию разума и начали думать о том, как манипулировать другими вместилищами предоставленного эволюцией дара, обеспечивая себе тем самым доступ к пище, укрытию, возможностям продолжения рода или более высокому социальному положению.
Мысли вроде: «Если я сделаю это, то она/он сделает то, а если не сделаю, то…» у существ, озабоченных добычей огня, и неспособных объяснить существование льда, пара, воздуха, неба — равно как и что-либо вообще объяснить — были, вероятно, началом первых симуляций, независимо от того, насколько бледным, ограниченным невежеством и предрассудками, а также опутанным пещерными страхами и вытекающими из них фантазиями мог быть процесс. Они также, вероятно, стали началом линии, ведущей через обсуждения деревенских старейшин, разрозненные научные эссе, блок-схемы, военные стратегии и первые компьютерные программы к таким сверхдетальным симуляциям, в которых можно было наглядно — объективно, статистически, научно — продемонстрировать, как всё это работает.
Задолго до того, как разум добрался до звезд, он должен был сжиться с мыслью, что ни одно важное решение с крупномасштабными или долгосрочными последствиями не принимается без проведения анализа, в противном случае никуда бы он не добрался. Проблемы моделирования на раннем этапе, как правило, ограничивались отсутствием вычислительных мощностей для проведения достаточно подробного анализа или разногласиями относительно того, какими должны быть начальные условия.
И только позднее, примерно во время, когда цивилизация разрабатывала технологию, которую можно было без обиняков назвать искусственным интеллектом, проявлялась истинная природа проблемы моделирования.
Как только разум обретал способность надежно моделировать целые популяции в своей симулированной среде, на уровне детализации и сложности, предполагающих, что индивидуумы в этой симуляции имеют независимое существование, возникал вопрос: насколько богоподобным и жестоким он имеет право быть?
Большинство проблем, даже кажущихся крайне сложными, можно было решить с помощью симуляций, которые с лёгкостью моделировали гибкие многоуровневые концепции, вроде общественного мнения или вероятных реакций чуждых обществ, используя некоторые особенно изощрённые и коварные алгоритмы ввода чуть отличных от реальных симулятивных процессов, эволюционных моделей и прочее, прокладывавшие предельно короткий и эффективный путь к цели. Ничто более требовательное к процессорам, чем правильный набор уравнений, не давало — после того, как введены соответствующие данные — столь же надежную оценку того, как, допустим, группа людей отреагирует на определённый заданный стимул, независимо того, представляет ли эта группа крошечную правящую клику или целую цивилизацию.
Однако установка работала не всегда. Иногда, если возникала необходимость получить полезный ответ, не существовало альтернативы моделированию самих людей, при условии соблюдения масштаба и уровня сложности, означавшего, что каждый должен проявлять дискретную индивидуальность. И вот здесь-то и возникала проблема.
Как только создалась популяция реалистично реагирующих и — в необходимом смысле — мыслящих созданий, сотворивший её — также в определенном смысле — создавал жизнь. Конкретные части вычислительного субстрата, включённые в проблему, теперь содержали созданий, виртуальных созданий, способных реагировать настолько похоже на свои реальные прототипы, что, по мнению большинства людей, они имели столько же прав на то, чтобы к ним относились как к полностью признанным моральным агентам, сколько их оригиналы в реальности.
А если у прототипов имелись права, то и у точных копий они тоже были, и, безусловно, самым фундаментальным правом, которым когда-либо обладало любое существо, являлось право на жизнь, на том очевидном основании, что без этого изначального права все прочие права не имели смысла.
По этой логике, инициатор симуляции не мог просто выключить созданную им виртуальную среду и мыслящих созданий, содержащихся в ней, по завершении запуска или когда симуляция достигала конца своего срока функционирования — это было бы равносильно геноциду, независимо от того, каким изменениям он сам подвергся в сравнении со своим прежним состоянием на момент начала инициации.
Некоторые цивилизации, впрочем, просто не принимали подобных концепций, и регулярно разводили целые миры, даже галактики, полные живых существ, которых они без раздумий отправляли в небытие, порой, казалось, ради одной только забавы или чтобы досадить другим, этически озабоченным цивилизациям. Но они — по крайней мере, те, кто признавался в подобной практике, а не просто претворял её в жизнь, умалчивая, — были в меньшинстве, не являясь желанными гостями за столом галактического сообщества, за которым обычно, по разумению — зачастую ошибочному — многие, если не все, жаждали оказаться.
Встречались и те, кто считал, что если уничтожение — отключение происходит мгновенно, без предупреждения и, следовательно, без возможности осознания со стороны тех, кого собираются отключить, не имеет значения для последних свершилось оно или нет. Созданные не существовали ранее, они были явлены в мир, бытие исключительно для определенной, способствующей какому-либо замыслу цели, теперь они снова ничто, цель достигнута, круг замкнулся, штрих на картине запечатлён, а остальное не важно.
Большинство, однако, испытывали дискомфорт от такой моральной неоднозначности и относились к вопросу гораздо серьёзнее. Они либо вообще избегали создавать виртуальные популяции, либо использовали симуляторы такого уровня сложности и детализации только на постоянной основе, с самого начала зная, что оставят их работать на неопределенный срок, без явной практической необходимости.
Были ли симулянты действительно живыми, и насколько оправданным было создание и поддержание целых колоний виртуальных созданий, имел ли место долг создателей в какой-то момент сообщить своим творениям о том, что те в некотором смысле не были реальными и существовали лишь по прихоти существ другого порядка, чей метафорический палец висел над выключателем, способным полностью и мгновенно уничтожить всю их вселенную… — все эти вопросы, по общему и негласному согласию, лучше было оставить философам. Как и вечно преследующий вопрос: «Откуда нам знать, что мы сами не в симуляции?»
Имелись веские, метаматематически убедительные и неизбежные причины полагать, что все заинтересованные стороны в продолжавшемся споре о симуляционной этике, действительно находились на базовом уровне реальности, которая определенно не работала как виртуальная конструкция на чуждом субстрате, но — если эти предполагаемые творцы были необычайно умны и искусны — такие кажущиеся надежными и обнадеживающими признаки могли быть просто частью их модели.
Существовал также аргумент возрастающей порядочности, согласно которому жестокость увязывалась с глупостью, а связь между интеллектом, воображением, эмпатией и добрым поведением, как они обычно понимаются, была настолько глубока, что обретала характер неизбежности. Из установки следовало таким образом, что существа, способные создать симуляцию столь убедительную, всестороннюю и детальную, что она могла ввести в заблуждение таких умных сущностей, как, скажем, Разумы Культуры, должны быть в той же мере сокрушительно, опустошающе умны, в какой и глубоко порядочны и высокоморальны. (То есть, похожи сущностно на Разумы, только ещё выше.)
ebooksa