— Долгое вступление, Кол, — ответила моя спутница. — Чего ты хочешь?
— Скажи мне вот какую вещь, солнышко… Робот может убить человека по своему выбору, а не по приказу?
Карэн помолчала секунд пять, затем заговорила:
— Кол, зачем ты это спросил?
— А что такое? Уже говорить ничего не хочешь?
— Нет. Кол, пойми, я могу ответить, но тебе может не понравиться, что ты услышишь.
— Не волнуйся, я справлюсь с принятием любого откровения от тебя.
— Ну, как знаешь… Для начала давай проясним одну вещь — робот оценивает всё, весь окружающий мир, воспринимая его исключительно как поток цифр, формул, математических прибамбасов, в том числе и логики, законов физики и прочих точных расчётных наук. И интерпретирует робот окружающий мир в тех же самых цифрах и в математической логике. Переводя на понятный тебе язык, мы можем посчитать ценность человеческой жизни. Не в деньгах, нет. Но в определённых… единицах измерения. Не важно, какие это единицы измерения, важно то, что робот с их помощью может оценить жизни двух людей, которые, скажем, дерутся не на жизнь, а на смерть. И после сравнения оценок выбрать, кто больше достоин жить.
— Я думал, вы сначала должны попробовать встать между этими людьми.
— Кол, ты хочешь, чтобы я нудела сейчас два часа, объясняя простую истину в две строчки? Понятное дело, что я имею ввиду лишь самый крайний случай… как вы там говорите? Доведённый до абсурда? Ну не буду же я тебе весь алгоритм действий биодроидов расписывать. А они ещё до оценки жизней дерущихся могут, скажем так, прибегнуть к радикальному гашению бурной стороны конфликта. Вплоть до того, что роботы могут поломать ноги обоим дуракам, разложить их в отдалённых друг от друга уголках местности, и вызвать копов со скорой. После чего вообще останутся, а не сбегут, как люди, и доведут до копов сведения о произошедшем.
— Ладно, не злись за мою глупость. Я больше не буду.
— Ну так вот, при прочих равных оценка ценности жизни человека может всё расставить на свои места. И если робот не способен будет остановить людей, он может и сделать то, за что потом ещё и поплатиться собственным стиранием. Но есть одна проблема, Кол.
— Какая?
— В истории с Синтией Веласкес данная ситуация не могла случиться, потому что все подозреваемые тобой роботы — это её роботы. И ни Сара, ни Джалил не могли её убить, потому что они подчиняются её же приказам.
Я хотел было ей вновь напомнить, что их могли взломать, но призадумался. Ведь в сказанном Карэн был особый смысл, который она сама явно не понимала. Интересно, а имеет ли смысл рассматривать роботов в иерархии над Сарой и Джалил? Кто вообще мог быть над ними? Только… ВИСКИ?! А это идея…
— Скажи, а ВИСКИ могла при очередном обновлении что-нибудь этакое им в нейросети подкинуть… ну, чтобы их под контроль взять, да и грохнуть…
— О, Несуществующие боги, дайте мне сил! Кол, ты серьёзно? А мотив какой у ВИСКИ? Вернее, даже не мотив, а логика! В чём логика? Зачем ВИСКИ это нужно было бы?
— А может именно ВИСКИ взломали и заставили…
— Взломать и заставить Сару или Джалил? У тебя тут получается переполнение избыточной сложностью. ВИСКИ взломать в несколько тысяч раз сложнее, чем обычного рядового робота. Даже если этот робот боевой. Мало того, взлом ВИСКИ не останется незамеченным и очень быстро будет исправлен, а к взломщику ещё и отправят отряд быстрого реагирования. Тебе не кажется, что в плане «взломать ВИСКИ, а через них взломать Сару или Джалил, чтобы убить Синтию», где-то на уровне ещё концепции закрались фундаментальные проблемы.
— Ну… не знаю… Ты мне обломала очередную отличную идею.
ebooksa