Если оно добьется успеха, тогда общество полностью изменится.
Технология, дарующая бессмертие, не так проста, как может показаться на первый взгляд. С точки зрения социологии мир, который никогда не умирает, будет наполнен вещами, которые недоступны нашему пониманию. Бессмертие приведет к обрушению существующих структур в политике, экономике, философии и культуре. На свет появится новая цивилизация.
Я говорю это все, чтобы довести до вас одну мысль: не игнорируйте здоровый образ жизни, ведь он не просто даст вам еще пару жалких лет. Сейчас люди только добрались до устья жизни, но скоро мы выйдем в ее огромное, бескрайнее море. Прожить еще несколько лет – значит дать себе еще несколько шансов на успех; потеряв один дюйм прогресса, вы, возможно, потеряете тысячу миль. Жаль, если придется умереть всего в одном шаге от лестницы, ведущей к вечной жизни.
Страшный сценарий: взятие заложников
А если я скажу, что в истории человечества не было ни одной тирании? Что бы вы на это ответили? Не спешите выходить из себя; сначала подумайте о том, что человечество еще никогда не обладало технологическим фундаментом, необходимым для построения действительно тоталитарного общества.
Все знаменитые диктаторы, стремившиеся управлять людьми, использовали пирамиду власти. Эта структура полностью состояла из людей, хитрость и непредсказуемость которых ставила под удар всю структуру. Диктаторы тратят невероятное количество энергии просто на то, чтобы укрепить эту структуру власти, и часто терпят неудачу. Доверенные лица внезапно предают их, военные могут в любой момент устроить переворот: знаменитые слова Цезаря «И ты, Брут?» – звучат в кошмарных снах всех тиранов. И поскольку авторитарными обществами обычно управляет небольшая горстка людей, власти не могут следить за каждой секундой жизни каждого человека. Даже порабощенные народы могли в течение длительных периодов времени избегать внимания со стороны новых повелителей и их надзирателей.
Если посмотреть на развитие технологий через призму истории, можно сказать, что оно в целом принесло пользу как обществу, так и правящим кругам. Промышленная революция привела в города толпы крестьян, и эти люди помогли осуществить демократические революции и реформы; технологии в издательском деле и сфере коммуникаций позволили просветить людей и распространить принципы демократии. В определенном смысле именно развитие технологий помогло солнцу гуманизма осветить каждый уголок общества в эпоху Возрождения. А в наше время развитие информационных технологий помогает еще большему числу людей публично заявлять о своих желаниях.
Но здесь необходимо сделать оговорку: пока еще не появились технологии, которые радикально изменили бы облик общества. Механизмы государства и правительства состоят из людей. Пока большинство людей хранит верность идеалам демократии, государственной машиной не сможет управлять тиран.
Однако зарождается сила, которая сделает государственный аппарат по-настоящему механистическим, находящимся под управлением машин. Я говорю об искусственном интеллекте.
Когда искусственные интеллекты (ИИ) станут такими же разумными, как и люди, возникнет государственная администрация, которая будет в полной мере управляться ИИ; кроме того, появится армия роботов. Эта система будет абсолютно стабильной, и если контроль над ней получит диктатор, то гражданам придется быть абсолютно покорными. И поскольку у сети ИИ будет почти неограниченное количество энергии, она, скорее всего, сможет следить за каждым членом общества и контролировать его.
Но ИИ дает только технологическую базу для тоталитаризма; пока история идет обычным курсом, этот кошмар, скорее всего, не воплотится в жизнь, потому что мечты о демократии уже укоренились в сердцах людей. Демократия стала краеугольным камнем современного общества, и останется им. Но есть определенные сценарии, которые нужно учитывать, например катастрофы – либо природные, либо антропогенные. Мы должны помнить, что для появления невиданной ранее системы слежки понадобилось всего лишь обрушить два небоскреба в США.
Возможно, общество людей пострадает от последствий даже более страшной технологической сингулярности, чем появление искусственного интеллекта: возможно, кто-то возьмет в заложники саму Землю.
Прежде всего, мы должны прояснить термин «взять в заложники»: я имею в виду ситуацию, в которой один человек или группа людей, стремящиеся добиться своих политических целей, угрожают применить оружие, которое уничтожит всех или большинство людей (и в том числе их самих) в закрытом, ограниченном пространстве (часто в движущемся и даже летящем объекте). По сравнению с самолетом, кораблем или катером Земля является еще более опасным объектом – тем, кто живет на ней, бежать некуда. Итак, как же можно взять Землю в заложники?
Сейчас это невозможно, ведь чтобы этот сценарий стал угрожающим, террористам нужно оружие, способное уничтожить планету. Только ядерное оружие может уничтожить Землю, но ядерные заряды слишком большие и сложные, и поэтому один человек не способен их взорвать. Чтобы взять в заложники планету, один человек может использовать только одну атомную бомбу, а самая мощная бомба в истории – это советская водородная бомба мощностью 50 мегатонн. Даже если ее взорвать, она уничтожит все живое на поверхности только в радиусе 100 километров – этого слишком мало, чтобы взять Землю в заложники.
Но развитие технологий может привести к созданию супероружия, которое позволит взять Землю в заложники. Возможно, это будет антиматерия, созданные людьми черные дыры или супервирусы.
Давайте взглянем на антиматерию, чей электрический заряд, или соотношение электронов и протонов, противоположен обычной материи. При контакте материи с антиматерией они аннигилируются, полностью превращаясь в энергию. Во Вселенной огромное количество антиматерии. На данный момент ее можно создать в ускорителях частиц, но только в крошечных количествах. Давайте посчитаем, сколько антиматерии нужно, чтобы взять в заложники Землю. Водородная бомба мощностью 50 мегатонн весила 27 тонн; предположим, что материя, в которой идет процесс слияния ядер, весит вдвое меньше, то есть 14 тонн. В соответствии с техническими ограничениями того времени, в энергию превращалось 2 % этой массы – 0,28 тонны. Иными словами, 140 килограммов антиматерии, соединившейся с материей, произведут тот же эффект, что и водородная бомба мощностью 50 мегатонн: они уничтожат все в радиусе 100 километров. Около 30 тонн антиматерии полностью уничтожат экосистему Земли. Добавим герметичный контейнер на магнитном рельсе, и тогда общая масса этого оружия составит около 100 тонн; такой груз поместится на одном корабле или в двух больших грузовиках. Взорвать такую бомбу сможет один человек.
Поведение массы людей легко предсказать, однако одиночки, особенно меньшинство, за которым мы не можем уследить, практически непредсказуемы. Тихий врач может внезапно наброситься на детей с ножом. Отдельные люди способны на все: они часто захватывают в заложники пассажиров автобусов, кораблей и самолетов. Если индивидуумы или небольшие группы получат это супероружие, тогда нельзя исключать сценария, в котором Земля окажется в заложниках. И если такой человек или группа добьется успеха, структура общества, скорее всего, навсегда изменится.
Это всего лишь два примера технологических сингулярностей: один – положительный, второй – отрицательный. Но сингулярность может появиться в любой сфере знаний. Многие области науки и технологии, возможно, близки к тому, чтобы в них произошли качественные изменения. В будущем появится много факторов, которые нужно учитывать, – и они сделают жизнь более интересной.
В ожидании пришествия ИИ
Сейчас компьютеры меняются: из прозрачных и предсказуемых систем они превращаются в непредсказуемые и плохо управляемые «черные ящики». Возможно, это знак того, что мы живем в доисторический период, после которого начнется эра настоящего искусственного интеллекта.