— Вот и проясни мне одну вещь, Карэн: может ли робот быть злопамятным?
— Нет, конечно!
— А если подумать?
— В смысле?
— Ну вот смотри… у тебя в базе есть информация про творчество Азимова?
— Разумеется.
— Вот, значит, давай подискутируем на эту тему.
— Ты уверен, что это уместно сейчас?
— Я уже вообще ни в чём не уверен, Карэн. Поэтому и прошу помочь понять кое-что.
— Хорошо, излагай.
— Вот…
И я задумался. Как бы так ей попонятней объяснить, чтобы выяснить, что мне нужно, но не сильно светить свои размышления?
— В творчестве Азимова сформированы три закона робототехники. Само творчество местами посвящено самостоятельному формированию роботами четвёртого закона, вернее, нулевого. Так?
— Ну, так.
— Три закона робототехники по Азимову должны определять действия робота в непредвиденных ситуациях, или в том случае, если он не имеет цели. Особенность данных законов заключается в том, что они описывают и поведение человека. Хорошего человека, правильного, и морально высокого по своему естеству.
— Кол, к чему ты клонишь?
— Дело в том, что формирование роботами нулевого закона можно рассматривать как замену человеческому понятию «общее благо», ради которого, как известно, можно и даже иногда нужно идти на определённые жертвы. И концепция «общее благо» у людей используется по определённой необходимости.
— Может, и так, в моей базе нет персонального личностного анализа творчеству Азимова, только обобщённое. А там такими формулировками не разбрасываются.
— Тут вот какая тема, Карэн… вам не вшивают законы робототехники именно потому, что боятся, что вы на их основании выработаете нулевой закон, и кое-какие люди от этого пострадают. Поэтому ваше поведение определяется приказами и нейросетевой адаптацией виртуальной личности под хозяина, на основании его же корректив в этом самом поведении, ну и ещё немного из внешнего опыта что-то приходит. Наверное. Я точно не знаю.
— Кол, ты долго будешь перечислять очевидные вещи?
ebooksa