– Смейся-смейся, любитель бигмаков, – назидательно заметил китаец и, исполненный патетики и драматизма, невозмутимо продолжил умничать. – Надеюсь, все здесь слышали о парадоксе Ферми?
Девушки неуверенно закивали головами, но было видно, что ни одна из них не слышала ничего подобного и кивает лишь для того, чтобы не выглядеть глупо.
– Про то, почему мы нигде не встретили зеленых человечков, – уточнил Макс, разбирающийся в теме.
Стоит заметить, что они хоть и были с Ньютоном непримиримыми спорщиками, но как правило, с полуслова понимали друг друга. Девушки закивали интенсивнее, но и это не удовлетворило оратора.
– Раз так, я поясню, – сказал Ньютон увлеченно. Макс в это время возвел очи к небу и молитвенно сложил ладони, как бы произнося про себя: «Друзья, разве это не чудо, что такой великий человек, как наш Ньютон, вхожий к самому Папе и другим светилам нашего мира, соблаговолил изложить нам, простым смертным, свои чудесные откровения!» – Заметив его кривляния, Ньютон одарил бугая снисходительный взглядом.
– Разве вам не удивителен тот факт, что до сих пор во вселенной не найдено, кроме нас, ни одной разумной цивилизации? – он вызывающе осмотрел притихшую компанию и, как бы отвечая на собственный вопрос, продолжил, – эта таинственная тишина может быть ничем иным, как результатом невозможности долгого существования разумной жизни!
– Это еще почему же? – нетерпеливо перебил его Макс
– Терпение, мой друг, терпение! – ласково успокоил его ученый. – Предположим, что любая достаточно развитая цивилизация со временем натыкается на суицидальные технологии, сталкивается с так называемым «великим фильтром», прекращающим ее существование.
– Предположим, – не удержался от комментария Макс.
– В этом случае ИИ – просто идеальный кандидат на эту роль! – пояснил Ньютон. – Именно его создание не позволит нам стать «межпланетарным» видом, каковым видит человечество Илон Маск, и это предположение возвращает нас к ключевому вопросу: если прибудет ИИ, какую сторону примет эта невероятная сила?
– Все это уже было в кино, злобный ИИ уничтожает человечество. Строит машины-убийцы или запускает смертоносный вирус. Эта история стара как мир и к тому же слишком банальна, – Макс, ожидавший от теолога гениальных откровений, а услышавший очередную сказку про апокалипсис, потерял интерес к теме, – кстати, кто посмотрел седьмую часть терминатора?
– Я посмотрел, – произнёс Лео, чем вызвал осуждающие взгляды собравшихся.
– Никто уже давно не смотрит эту лажу. Ты забыл старое правило сценаристов, что каждая новая серия должна быть существенно хуже предыдущей, – высказал своё саркастическое предположение Арсений. Макс одобрительно кивнув головой, продолжил:
– Так вот в других фильмах это делают террористы, а в третьих – суперзлодеи…
– Зло – это исключительно человеческое понятие! – перебил его Ньютон, – ни один ИИ не будет творить зло так, как это показывают фильмы. Когда мы думаем о чрезвычайно умном ИИ, мы совершаем ошибку, антропоморфизируя его, проектируя человеческие ценности на нечеловеческое существо, потому что думаем с точки зрения человека и потому, что в нашем нынешнем мире единственным разумным существом с высоким, по нашим меркам, интеллектом является мы. Чтобы понять ИИ, нам нужно вывернуть шею, пытаясь понять что-то одновременно разумное и совершенно чуждое.
– То, что ты говоришь, похоже на занятную историю про робота Тарри, – вспомнила Кристина. – Он был создан всего-то лишь для написания каллиграфических текстов, но уничтожил человечество, поняв, что люди мешают ему завалить вселенную листами исписанной бумаги, – сообщила Кристина.
– Все верно! – согласился Ньютон. – Сверхразум будет одновременно аморальным и одержимым выполнением первоначально запрограммированной цели. Он уничтожит нас, при этом ненавидя людей ровно настолько, насколько вы, девочки, ненавидите свои волосы, когда обрезаете их в ванной – это будет совершенно равнодушный убийца!
Совершенно равнодушные убийцы переглянулись между собой.
***
– Девять, восемь, семь… – внимание друзей обратилось к экрану телевизора. Люди в кафетерии меж тем скандировали: «… три, два, один, пуск!»
ebooksa