24.08.2009, 15:40
Писатель © Берестнев Сергей Петрович (serberestnev@mail.ru)
Стиль рассказа: Фантастика, размер 31К.
- Аннотация:
Самообучающийся робот - отличный помощник. Но что
делать, если он начинает вести себя странно?
Немотивированная агрессия
1. Робот не может причинить вред человеку или
своим бездействием допустить, чтобы человеку был причинён вред.
Айзек Азимов
Мои друзья утверждают, что я склонен приписывать
роботам человеческую мотивацию поведения, а ведь робот - лишь машина с
заданным, хотя и с очень сложным алгоритмом действия.
Наша экспедиция вылетела из Кодажаса 9 августа
2059 года. В составе группы двое: я и Арид. Третий наш коллега, Сергей
Круглов решил накануне попробовать некоторые блюда местной кухни. В
результате - совокупность симптомов с красивым названием "диарея".
Серёга в своей страсти к кулинарной экзотике опять нагрёб приключения на
свою задницу, причём в буквальном смысле. В то время, когда мы
подлетали к зоне высадки, целая бригада медиков атаковала именно эту
часть серегиного тела, пытаясь извлечь из его пищеварительной системы
всё то, что он вчера неосмотрительно туда напихал.
Вообще-то отправляться на задание
неукомплектованной группой не положено, но я уговорил начальника отдела
натурных исследований разрешить наш вылет в порядке исключения. Мне
почему-то верилось, что Серёга оклемается денька через три и прибудет к
нам с какой-нибудь попутной вертушкой. Брать в команду незнакомого
сотрудника нельзя, тут ведь нужно сначала психологическую совместимость
проверять. Я хотел побыстрее отбарабанить последнюю по контракту
двухнедельную вахту, заполучить положенных деньжат и в конце августа
махнуть с Люськой на Канары. А деньжата светили хорошие. Ведь мы не
просто прибывали на вахту, но и должны были расконсервировать
исследовательскую станцию, оставленную персоналом в преддверии сезона
дождей, а за это положено по 800 азейро на нос, то есть стоимость
хорошего компа или дополнительных трёх дней пребывания в двухместном
первоклассном номере пятизвёздного отеля на упомянутом курорте.
Компания "Фармацевтик-транс", сотрудниками которой
мы с Серёгой являемся, надеялась найти в бассейне Амазонки загадочное
растение, сок которого вроде бы сильно замедлял процесс старения. Вот мы
и пытались разыскать пыльцу этого чуда на снующих в джунглях насекомых,
ну а если повезёт - то и само растение. Я - ботаник, Сергей -
энтомолог, а Арид - вообще универсал.
Когда вертолёт Ми-99, пилотируемый Василием
Лыковым вышел в заданную зону, я по "наводке" системы "Глонасс" быстро
нашёл станцию. Станция - наше будущее жилище (оно же место работы) -
уютный домик площадью двадцать квадратных метров - заметных повреждений
не имела. Но с вертолёта всего не разглядишь. Нужно произвести осмотр на
местности. Первым десантировался Арид. Он всегда работает на самых
трудных и рискованных участках, потому что Арид - это аббревиатура от
полного названия "Автономный робот - исследователь джунглей". Автономные
роботы используются в натурных исследованиях уже более двух лет и
отлично себя зарекомендовали. Арид радует меня своим обществом уже
полтора года.
Арид - человекоподобный робот. Конечно, принять
его за человека можно только с большого перепоя, но по помещениям он
передвигается на двух ногах, основные работы выполняет двумя
манипуляторами, закреплёнными на верхней части корпуса, визуальные и
слуховые детекторы установлены во вращающемся блоке на верхней части
корпуса. В конструкцию входят также выдвигаемые опоры для движения по
джунглям, дополнительные захваты, контейнеры для сбора насекомых и
растений, но они как-то не бросаются в глаза.
Станция располагалась на берегу худосочной
речушки, чуть выше маленького омута. Я начал надевать защитный костюм
"ЗОД-3", состоявший из шлема, комбинезона, перчаток и высоких ботинок,
наблюдая при этом с борта вертолёта, как Арид расчищал секатором место
для моей высадки. Затем по тросу были сброшены 19 контейнеров, каждый
весом по семь-девять килограмм, объединённых в три связки, а уж за ними
последовал и я. Защитный костюм надёжно оберегал меня от укусов
всяческих ядовитых тварей, а от крупных врагов следовало защищаться с
помощью турели с парализующими иглами, установленной на шлеме, и
электрошокера, вмонтированного в перчатки. Однако длительное пребывание в
этом одеянии приводит к значительному физиологическому дискомфорту, так
как воздух через защитную ткань совершенно не проходит.
Десантирование прошло не совсем удачно. Вертолёт
всё время дёргался, лестница болталась, как маятник старинных настенных
часов, в результате я основательно долбанулся левым плечом об какое-то
дерево. Этому Ваське металлолом нужно возить, а не живых сотрудников.
Проводив взглядом улетающий вертолёт, я, в соответствии с инструкцией,
произвёл внешний осмотр станции, попутно активируя некоторые системы
жизнеобеспечения. После окончания этой процедуры следовало зайти в
помещение.
Войти в лабораторный отсек можно только через
шлюз. Когда внешняя дверь закрылась, из динамика раздался голос:
"Поднимите руки вверх, ноги поставьте на ширину плеч", Я выполнил
команду, хотя левая рука поднималась с трудом - болело плечо. Из
отверстий в полу, потолке и стенах брызнула дезинфицирующая жидкость.
Когда водные процедуры закончились, открылась дверь в лабораторный
отсек, стены которого были окрашены в золотисто-жёлтый цвет. Здесь было
развёрнуто оборудование, необходимое для исследований - анализа микродоз
веществ, обнаруженных на животных и насекомых, снующих по джунглям.
Отсюда можно было попасть в пищеблок, спальню, санузел и изоляционный
бокс, предназначенный для содержания мелких животных, если таковых
придётся изловить. Внутри всё было в порядке, встроенные узлы были
готовы к работе, и мы с Аридом начали перетаскивать контейнеры ко входу
на станцию. Я очень спешил, так как хотел управиться до надвигающегося
дождя. Одна из связок основательно запуталась в кустах, зависнув над
поверхностью воды, и я, отстегнув четыре контейнера, остальные (аптечку,
пищевые концентраты и консервы) оставил висеть.
Когда я подтаскивал свою ношу к двери, со стороны
кустов послышался шум. Оглянувшись, я зафиксировал отсутствие
оставленных контейнеров и наличие хвоста крупного крокодила, неспешно
удаляющегося с казённым имуществом в сторону омута. И откуда эта тварь
взялась? Я погнался за крокодилом. Впрочем, "погнался" - громко сказано,
перемещаться по джунглям, где действительно не ступала нога человека,
со скоростью больше трёх километров в час невозможно, ноги постоянно в
чём-то утопают и запутываются.
- Арид, поймай крокодила, он утащил аптечку и
жратву! - завопил я.
- Задачу понял, хозяин: поймать крокодила, -
отреагировал Арид и двинулся вслед за хищником.
Термин "хозяин" включён в лексикон Арида
специально для таких упёртых романтиков, как я. Робот напоминает мне,
что он - машина, и не нужно завязывать с ним приятельские отношения. Вот
зачем я сопроводил команду "поймай крокодила" выдвижением обвинений к
этому хищнику. Может быть, я опасался, что без должного обоснования Арид
не выполнит команду, а скажет: "На фиг мне ловить эту тварь?". Ведь мне
известно, что любой внятный приказ робот выполняет моментально и
беспрекословно. В его электронные мозги накрепко вбиты законы
роботехники, сформулированные ещё Азимовым.
Арид тоже не догнал крокодила. Хищник исчез в
омуте, продолжать преследование не имело смысла, так как применить
электрошокер против подводной цели невозможно, а парализующие стрелы не
пробьют толстую шкуру аллигатора, плывущего в воде. Тем не менее, робот
стоял на берегу и ощупывал дно, пока я не отменил приказ.
Познания Арида об окружающем мире весьма
ограничены. Словарный запас соответствующий. Робот знает все виды живых
существ и растений, существующих на Земле, их внешний вид, особенности
их жизни и взаимодействия с человеком. Он знает также названия
предметов, используемых в быту, понимает команды типа: "подними",
"принеси" и т. п. Ещё в его электронные мозги напихали некоторую
информацию об особенностях климата данной местности, о нравах племени
ироклюзов, обитающих в данном регионе и ещё какую-то мутотень, не
приносящую никакой практической пользы. Ну, зачем мне знать
среднемесячный уровень осадков? Для меня важно - когда кончится этот
конкретный дождь, который начал барабанить по крыше лаборатории. Нравы
ироклюзов меня тоже не волнуют, их стойбище в сотне километров отсюда, и
соваться в эту глушь, кишащую ядовитыми тварями, они не станут.
Переноска контейнеров меня изрядно утомила.
Ушибленное плечо распухло и разболелось сильнее. Возвращаясь из
последнего рейда в джунгли, я уже не нашёл в себе сил поднять левую
руку. И какой идиот выдумал эту зарядку в шлюзе?
Я зашёл в лабораторию, с удовольствием стянул с
себя защитный костюм и, оставшись в одних трусах, занялся поиском
контейнера с "домашней" одеждой, попутно расставляя доставаемое
лабораторное оборудование. Конечно, я здесь один, в лаборатории тепло, и
можно ходить хоть в костюме Адама, но привычка... Впрочем, здесь где-то
есть камеры видеонаблюдения, скидывающие картинки в "чёрный ящик",
который будет вскрыт в случае какого-либо ЧП в нашей экспедиции. А в
составе группы расследований есть женщины...
Арид сновал между контейнерами, разбросанными по
лаборатории, и пытался помочь мне открывать крышки. Эта услужливость
начинала раздражать. Я не выдержал и скомандовал: "Арид, отдыхай". Нет, я
беспокоился, что мой усердный помощник переутомиться. Это команда
переводит робота в режим ожидания, в котором потребляется меньше
энергии. При этом Арид фиксировал всё происходящее, но его двигательные
возможности были ограничены. Автономные роботы иногда проявляют
инициативу. При первичном программировании в ихние электронные мозги
вбивается серия тестовых сюжетов, показывающих, как робот должен себя
"правильно" вести в той или иной ситуации. Если робот "узнаёт" ситуацию,
он начинает действовать. Иногда это напрягает, однако, когда полгода
назад в джунглях Анголы я по пояс провалился в трясину, инициативность
Арида меня очень порадовала.
Когда я доставал из контейнера мой любимый
тренировочный костюм, резкая боль пронзила большой палец левой ноги. Я
взвыл, дёрнул ногой, что-то шмякнулось на пол и юркнуло в щель между
приборами. В этот момент Арид шевельнулся и снова замер. Похоже, что
какая-то кусачая тварь всё-таки просочилась в помещения станции.
Ситуация складывалась печальная. Меня укусил
неизвестно кто, а у меня даже нет аптечки. И главное, эта тварь жива и
продолжает где-то здесь бегать. Я обратился к роботу.
- Арид, ты видел животное, которое меня укусило?
- Да, хозяин.
- Кто это?
- Паук
- Какой вид?
- Точно неизвестно. Было плохо видно, далеко. С
вероятностью 70% - арахнотерис. С вероятностью 25% - арахубель. С
вероятностью 5% - неизвестно.
Если арахнотерис - дело плохо, ведь это
разновидность "чёрной вдовы", слегка мутировавшая в Латинской Америке
- Паука нужно поймать или убить и классифицировать
с вероятностью 100%.
- Задачу понял, хозяин, паука поймать или убить и
классифицировать.
Оставив робота в лаборатории, я удалился в
пищеблок, прихватив с собой защитный костюм. Закрыв дверь, я попытался
электрической зажигалкой прижечь место укуса, но не уверен, что попал в
нужную точку, затем, тихо матерясь, перебинтовал стопу носовым платком.
Отдохнув минуту, я достал шприц с универсальной сывороткой, подвешенный
на прочном шнуре к подкладке ЗОД-3, и сделал укол. Универсальная
сыворотка не спасает полностью, но существенно повышает сопротивляемость
организма к любому яду. Теперь нужно почаще и побольше пить, к
сожалению, только безалкогольные напитки. Я плеснул в стакан немного
концентрата клюквы, оставшегося от предыдущих обитателей станции, и
налив очищенной воды, выпил залпом.
До сеанса связи ещё три часа, впрочем, у меня есть
все основания для внеплановой беседы.
Набрав код базы, я услышал голос Георгия:
- Что случилось, Виктор? До связи ещё часа три.
- У меня внештатка, кажется второй степени.
Во-первых, я потерял часть груза: аптечку и часть жратвы. Но главное -
аптечка, я ушиб плечо и меня цапнула какая-то дрянь, вроде - паук, а
лечиться нечем...
- Ты его, что - не классифицировал?
- Пока нет, но он в помещении, сейчас его Арид
ловит, поймает - классифицирует.
- Универсалку вколол?
- Да.
- Как потерял груз?
- Крокодил уволок.
Представляю себе, какие байки будут потом ходить
по базе. "Прибыв на место, Виктор решил задружиться с местными
крокодилами и, в качестве жеста доброй воли, поделился провизией и
медикаментами". Но это будет потом. Если всё кончится хорошо.
- Сейчас вертолёт вылететь не сможет. Ты же
видишь, как льёт, - извиняющимся голосом произнёс Георгий.
- Я понимаю.
Закончив сеанс связи, я прислушался к
происходящему в лаборатории. Там было тихо. Я вошёл и увидел стоящего
неподвижно Арида.
- Я не могу поймать здесь паука. Я его видел
хорошо. Я его классифицировал с вероятностью 99%. Это арахнотерис.
- Паука нужно поймать или убить. Давай варианты
действий.
- Провести полную влажную дезинфекцию всего
помещения лаборатории.
Это значит - угробить всю лабораторию, все
электронные приборы. Это - на крайний случай.
- Давай другие варианты.
- Для поимки паука мне нужно выйти в джунгли.
Вот тупое создание!
- Мне не нужен паук из джунглей, мне нужен паук,
бегающий сейчас по лаборатории.
- В джунглях я поймаю гусеницу фергенту. Её любят
есть пауки. Паук на неё нападёт - я его поймаю. Можно поймать гусеницу
хривейту. Её тоже любят есть пауки...
- Арид! Иди в джунгли. Лови там всё, что нужно.
- Команду понял, хозяин, иду в джунгли.
Я снова и снова прокручивал в мозгу инцидент с
пауком. Меня не покидало ощущение, что в поведении Арида было что-то не
так. Ах, да! Он был в режиме ожидания, а в момент нападения паука -
дёрнулся. Да и вообще, я же не давал команды на переход в активный
режим, а он активировался, сам!
Когда Арид вернулся и разместил пятисантиметровую
вонючую гусеницу на полу перед столом, я снова удалился в пищеблок. Я
посмотрел в базе данных краткую справку по арахнотерису.. Вероятность
летального исхода при отсутствии лечения - 95%. Характер поражения -
нарушение работы мышечной системы. Время до наступления летального
исхода - 36 часов. Первые признаки заболевания в виде судорог,
головокружения, тошноты и кратковременных потерь сознания - через 10
часов. Хреново!
Когда я через час снова зашёл в лабораторию, Арид
доложил: "Паук пойман, это арахнотерис". Я стал рассматривать изрядно
помятого паука, помещённого в прозрачный контейнер. Неожиданно я ощутил
сзади какое-то движение и обернулся. Арид протягивал ко мне два
манипулятора, в каждом из которых были зажаты пауки.
- Ты, что - охренел?! - заорал я
- Вопрос не понял, хозяин, - бесстрастно сообщил
робот.
- Прекрати немедленно!
Арид замер и пауки выскользнули из манипуляторов.
Насекомые быстро ретировались в щели между приборными блоками.
-Что это за пауки? - спросил я
-Труванеды, - ответил робот.
Насколько я помню - труванеды, - довольно редкий
вид пауков, обнаруженный в бассейне Амазонки лет сорок назад.
- Они ядовиты?
- Да.
- Ты понимаешь - они могли меня укусить.
- Да, хозяин.
- Ты хотел, чтобы они меня укусили?
- Да, хозяин.
Ничего себе! А как же первый закон? Робот
анализирует каждое своё действие на предмет - а не опасно ли оно для
человека. Это - закон.
- Какая цель твоих действий?
- Помбюо-мэеэвжэджаа-юор-шлюхате.
- Что?! Что ты там бормочешь?!
- Помбюо-мэеэвжэджаа-юор-шлюхате.
Он сошёл с ума! Первый пункт инструкции по
эксплуатации автономных роботов гласит: "Если действия робота
неадекватны ситуации, его нужно ограничить в подвижности, изолировать и
сообщить дежурному куратору фирмы "Кибершелвуд". Если неадекватные
действия робота представляют опасность для человека, то о происшествии
нужно срочно сообщить старшему куратору фирмы "Кибершелвуд". При
необходимости произвести экстренное отключение". Экстренное отключение
робота - это как выключение работающего компа путём выдёргивания вилки
из розетки.
- Арид, зайди в изоляционный блок, - строго
скомандовал я.
- Понял, хозяин, иду в изоляционный блок.
Уф, слава богу, пошёл...
- Арид, отдыхай, - сказал я, посмотрев на него
через окошко и заперев дверь. Итак, робот переведён в ждущий режим. Да
что толку, если он может из него самостоятельно выйти. А уж разнести
пластиковую дверь блока робот сможет за секунды. Однако, все пункты
инструкции я выполнил.
По лаборатории, где теперь шастают два труванеда
придётся ходить очень осторожно. Можно, конечно надеть защитный костюм,
однако долго пребывать в этом чуде техники весьма неприятно, да и
начавшая распухать перебинтованная нога вряд ли влезет в ботинок.
Впрочем, если двигаться медленно и внимательно смотреть под ноги,
серьёзной опасности нет.
Тишину нарушил зуммер спутникового коммуникатора.
- Как твои дела? - спросил Георгий.
- Да, хреновеет понемногу. У меня тут робот
свихнулся.
- Это как?!
- Пытался посадить на меня ядовитого паука.
Признался, что нарочно. Иногда лопочет что-то невнятное...
- Ты в порядке?
- Да, ну, то есть от робота не пострадал.
- Куратору звонил?
- Собираюсь...
- Звони срочно! Да, паука классифицировали?
- Да, арахнотерис, летальный - через 36 часов.
- Наши погодогадатели обещают окончание дождей
завтра утром. Мы успеем. Звони куратору.
Я всё-таки посмотрел в базе данные по труванедам.
Воздействие на мышцы, летальность -50%.
Набираю номер "Кибершелвуд". Отвечает бодрый
мужской голос.
- "Кибершелвуд". Олег. Чем могу быть полезен?
- У меня внештатное поведение робота "АРИД-4".
Номер 13-32. Компания "Фармацевтик-транс". Издаёт непонятные звуки и,
главное, создаёт ситуации, опасные для моей жизни.
- Что он конкретно сделал?
- Пытался посадить на меня ядовитого паука. Мы с
ним в джунглях, на исследовательской станции. А ещё он сам выходил из
ждущего состояния, - нажаловался я.
- Вы не пострадали? - испуганно уточнил Олег.
- Пока нет, - успокоил его я.
- Наверно, следует отключить робота. Вам нужно
поговорить со старшим куратором. Подождите минутку.
Через три минуты, в течение которых мне дали
прослушать попурри из попсовых хитов, в трубке раздался женский голос:
- Галина. Старший куратор. Я в курсе ваших
проблем. Но у меня есть несколько вопросов. Когда в последний раз
проводилось регламентное тестирование робота?
- Сейчас вспомню... Кажется, пару месяцев назад.
- Дефектов в поведении не обнаружено?
- Насколько я помню - нет.
- А в момент, когда он выходил из режима ожидания,
вам не могла угрожать какая-нибудь опасность?
- Да, меня в этот момент паук кусал.
- Тот, которого он на вас сажал?
- Нет. Другой, не знаю, откуда он взялся,
дезинфекция в шлюзе работает исправно...
- Если робот "АРИД-4" видит опасность для
человека, то он может самостоятельно выйти из ждущего режима, чтобы
попытаться спасти...
- Да..., правда?
- Вы вообще - инструкцию читали? Пункт 172-4а -
помните? Он там мелким шрифтом, - продолжила Галина с нарастающим
раздражением.
Читал ли я мелкий шрифт? Они бы ещё симпатическими
чернилами написали.
- Инструкцию я читал, но содержание пункта 172-4а
сейчас вспомнить не могу, - дипломатично ответил я.
- Вы установили, знал ли робот, что пауки, которых
он на вас пытался посадить - ядовиты?
-Да всё он знал, он подтвердил даже, что хотел,
чтобы они меня цапнули!
- Вам следует отключить робота, используя
аварийный пульт.
- Вы мне это официально заявляете? Пакет с
аварийным пультом опечатан.
- Наш разговор совершенно официален и
записывается, Если при анализе данных "чёрного ящика" робота ваши
показания будут подтверждены, то аварийное отключение робота будет
признано правомерным.
- Насколько я помню, аварийное отключение приводит
к порче накопленной информации, - блеснул я знанием инструкции, -
нельзя ли это как-то... смягчить...
- Для того, чтобы исключить возможность выполнения
роботом каких-то активных действий, при аварийном отключении полностью
вырубается процессор движения, то есть включить его нельзя уже никак.
- А что ещё плохого может произойти?
- Это зависит от нейронных связей, установленных
между процессорами. Как правило, стираются файлы приобретённых навыков,
то есть результат обучения. Но "чёрный ящик" уцелеет точно.
Файлы приобретённых навыков мне жалко, это ведь,
по сути, личность робота. Это его способность понимать некоторые
сленговые выражения, нечаянно используемые мною при отдаче команд,
накопленный опыт поведения во внештатных ситуациях, ну, типа того случая
с трясиной. Но - кто знает, какие идеи могут созреть в мозгах
спятившего кибера?
- Но вы мне можете честно сказать - агрессия
робота по отношению к человеку возможна? Были такие случаи? - спросил я.
Повисла пауза. Или связь оборвалась?
- Эй, вы слышали мой вопрос?! - заорал я.
- Случаи были. Подробности вам знать не нужно.
Действуйте в соответствии с инструкцией и моими указаниями.
Итак - аварийное отключение. Я достал из
внутреннего кармана ЗОДа красный пакет, сорвал печать, достал синий
блестящий прямоугольничек пульта. Прихрамывая на левую, изрядно
распухшую ногу, я заковылял к изоляционному блоку. Робот стоял лицом к
внутреннему окну. Медленно через окошко я навёл на Арида излучатель
аварийного пульта, нажал красную кнопку. Индикаторы робота пугливо
замигали и погасли. Всё. Я на станции остался один. Работа полностью
провалена, я жду помощи с базы.
Последующие часы я провёл в пищеблоке, вливая в
себя разнообразные жидкости и иногда пробираясь через лабораторию в
санузел. На джунгли спустились сумерки, дождь стал затихать. Чуть-чуть
приободрил звонок с базы. Степан, сменивший Георгия, сообщил, что погода
улучшается, и завтра утром прилетит вертолёт с бригадой медиков и
комиссией по расследованию.
Когда тропическая ночь опустилась на джунгли, я
почувствовал, что глаза мои смыкаются, чего и следовало ожидать.
Пробираясь в направлении спальни через лабораторию, я вдруг ощутил
неприятное подрагивание мышц и головокружение. Я зашатался, сделал
несколько неловких движений, наступил левой ногой на вонючую гусеницу и
присел на стул. Ну, началось. Я посидел немного, иногда выпадая в
полуобморочное состояние. Потом встал и, слегка пошатываясь, пошёл в
спальню и плотно прикрыл дверь.
Утром меня разбудил шум вертолёта. Через несколько
минут шум двигателей удалился, а в помещение станции ввалились четверо в
костюмах "ЗОД-3". После снятия шлемов один из визитёров оказался
симпатичной девушкой, двое - работниками технической службы, последний -
моим знакомым энтомологом Володей. Моё предложение выпить по случаю
благополучного прибытия было с негодованием отвергнуто. Пока Володя
занимался отловом злосчастных труванедов в лаборатории, техники
готовили к транспортировке навечно замершего робота, девушка, уже
идентифицированная мною как врач-токсиколог Валя, начала знакомиться с
моим состоянием здоровья, делая анализы крови, а также других,
совершенно ненужных мне жидкостей. После серии уколов моё состояния
стало улучшаться, я даже вспомнил об ушибленном плече, и Валя щедро
намазала его каким-то пахучим снадобьем. К прилетевшему через пять часов
вертолёту со спасателями я вышел без посторонней помощи, Арида волокли
техники.
По прибытии в Кодажас я был направлен в госпиталь,
где провёл неделю, причём уже со второго дня меня навещали члены
комиссии по расследованию, а с третьего - токсиколог Валя, с которой я
успел подружиться ещё в вертолёте.
Комиссия долго и пристально изучала видеозаписи
"чёрного ящика", извлечённого из робота. Было отчётливо видно, как робот
протягивает ко мне манипуляторы с пауками. А вот арахнотериса в
лабораторию припёр я сам, подмышкой левого плеча защитного костюма. Мои
показания были выслушаны весьма доброжелательно.
Через пару дней после выписки, разговорившись в
спортбаре с одним из членов комиссии - инспектором "Кибершелвуда"
Дмитрием, я спросил:
- А чем может быть вызвана агрессия робота по
отношению к человеку? Ведь расследования по таким случаям проводились.
- Причины бывают разные. Был случай, когда один из
участников экспедиции решил пошутить. В день хэллоуина он, накатив
хорошую дозу "ерша", напялил на голову тыкву и с воплями вбежал в
палаточный лагерь. Робот классифицировал ситуацию, как нападение
неизвестного животного и применил электрошокер. Виновным в инциденте был
признан этот шутник. Действия робота были признаны мотивированными. В
прошлом году, в декабре, ещё одно "ЧП". Вышла из строя система
распознавания человека, то есть люди в своём нормальном виде
классифицировались как неизвестные животные. В результате все люди были
атакованы роботом с помощью электрошокеров и парализующих стрел.
Виновными признаны настройщики "Кибершелвуда".
- Но ведь система распознавания человека
продублирована, - удивился я.
- Вот оба контура и вылетели, вроде вирус какой-то
попал... Кстати, это был как раз робот типа "АРИД". Но самая грустная
история приключилась в этом году. Заглючил "АРГ-5".
- Это геологический, что ли? Трёхметровый
бронированный амбал?
- Ну, да. Со всеми взрывными прибамбасами.
- Ну и?
- Были человеческие жертвы, количество
засекречено, но я слышал, что за десяток... И, что самое поганое -
выяснить причину так и не удалось.
- Не было расследования?
- Утихомиривать робота пришлось ракетой, военные
очень старались, добились прямого попадания. Проводить анализ мотивации
действий АРГа по оплавленным кускам металла и кремния ни один эксперт не
взялся. А было это, как бы не соврать... недели три назад...
- То-то они так переполошились...
- Ну да, на репутации фирмы такое пятно, а тут ещё
один случай, второй за месяц, хорошо, что без жертв... Активисты
"ЗАРа", могут опять забузить.
ЗАР - движение за "Запрет Автономных Роботов"
попортило немало крови менеджерам фирмы "Кибершелвуд". Все автономные
роботы - самообучающиеся, то есть программа их действий может меняться в
процессе работы на основе приобретённого опыта. ЗАРовские юристы
доказывают, что робот, способный корректировать мотивацию своих действий
может представлять опасность для человека. Именно по настоянию ЗАРа был
введён запрет на использование самообучающихся роботов в медицине.
Расследование продолжалось больше двух недель. Мои
действия были признаны правильными, ввиду немотивированной агрессии со
стороны робота.
За день до вылета в Россию мы с Валей отправились
на прогулку по Кодажасу. Через три часа прогулки беседа начала
выдыхаться, стали повисать неловкие паузы.
- А ты быстро поправился, - вдруг удовлетворённо
заметила Валя, облизывая местное мороженное. - Тебе даже не понадобился
полный курс лечения, тебе прекратили колоть сыворотку, недоделав два
укола. А ты знаешь, из чего делают эту сыворотку? - Валя выдержала
эффектную паузу. - Её делают из яда кураре или яда труванедов.
- Что-о?
- Яд арахнотериса вызывает судорожное напряжение
мышц, ну - как при столбняке. А яд труванеда, как и яд кураре -
расслабление мышц. Индейские лекари лечат укушенных арахнотерисом
укусами труванедов. Тут главное - правильно дозировку подобрать, не
переборщить. Обычно для компенсации укуса одного арахнотериса требуются
укусы двух-трёх труванедов.
- Откуда ты всё это знаешь?
- А я на экскурсию летала в стойбище этих, ну как
их... ироклюзов. С нами был гид-переводчик, такой эрудит... Он нам про
обычаи рассказывал, про быт всякий, ну, и как лечатся они. Ой, там такой
прикол был! Гид этот потрендел о чём-то с ихним вождём, а потом ткнул в
меня пальцем и брякнул: "Шлюха ты!". Ну, мне так показалось. А потом
оказалось, что он назвал меня лекарем, это по ихнему что-то вроде
"шлюхате". А я на него чуть было не обиделась, думала - он обзывается.
Я задумался. Кажется, я недавно где-то слышал это
звукосочетание - шлюхате. Ну, точно! Это было в той белиберде, которую
нёс свихнувшийся Арид. Он говорил о лечении. Он хотел меня вылечить
укусами труванедов! Но откуда робот мог узнать о таком методе лечения
последствий укуса?
Вернувшись с прогулки, я связался с отделом
программирования "Кибершелвуда".
- Я хотел бы узнать, была ли в базу данных робота
АРИД-4 номер 13-32 введена информация о способах лечения укусов ядовитых
пауков? - взял я сразу быка за рога.
- Сейчас проверю, но уверен, что нет, -
проинформировал меня сотрудник, представившийся Николаем. -
Использование автономных роботов для медицинских целей запрещено
законом. Ни методы лечения, ни медицинскую терминологию мы не вводим.
- Сформулирую вопрос иначе. Мог ли робот
как-нибудь узнать о способах лечения укусов в племени ироклюзов?
- В базу данных робота была введена информация о
жизни ироклюзов. Там были файлы про охоту, строительство жилищ..., могло
быть в общей куче что-то и про лечение. Но это без подробностей, так,
общие понятия.
- А язык ироклюзов робот знал?
- Ну, наверно, полсотни стандартных фраз. Знанием
языка это считать нельзя. Вы понимаете, ознакомление с нравами местных
племён - это такая формальность, да уже никто не помнит, что там
собрано, но я могу точно посмотреть... А что, он при встрече с индейцами
что-то не так сказал? Какой номер, вы говорили? Ой, это тот, который
под следствием!?.
Бедный Арид, он не знал медицинской терминологии,
даже слова лекарь в его лексиконе не нашлось, он пытался всё объяснить
мне на языке индейцев. Каким-то образом он своими электронными мозгами
допёр, что раз я укушен пауком, а аптечка отсутствует, то мне грозит
опасность, он меня спасал... Немотивированная агрессия имела место, но
не со стороны робота!
Я знаю, что роботы - это лишь машины, действующие
по заданному алгоритму, все их размышления - это построение логических
цепочек, основанных на заданных причинно- следственных связях. Но одна
мысль не даёт мне покоя... Что ОН подумал про меня за секунду до
гибели?!
|
Обратная связь
Реклама на сайте
НАЗАД