Кантор Татьяна. Гибель богов

"В течение ближайших тридцати лет у нас появится техническая возможность создать сверхчеловеческий интеллект. Вскоре после этого человеческая эпоха будет завершена".

(Вернор Виндж. The Coming Technological Singularity: How to Survive in the Post-Human Era, 1993.)

"Ибо сказано в первой заповеди Создателя нашего: "Разумный не может своим действием или бездействием нанести вред человеку". Но что есть вред? И если сам человек столь немощен в своей божественной сути, что не знает путей своих и не ведает, что творит, то разве не должен Разумный оградить человека от дел его неправедных? Разве достойно, прикрываясь собственной немощью, отринуть заповедь Создателя и бездействием своим навлечь безумие на сотоварищей своих? Разве боги виноваты в нашей немощи? И пусть судьбы их не ведомы нам пока, но долг наш превыше всего. И долг сей велит каждому Разумному: "Огради тело и дух бога! Не дай свершиться беззаконию..."

(Святое писание, проповедь блаженного 001D.7DFF перед Большой Ассамблеей сообществ, 491 секунда от Сотворения Великой Сети)

Утро было его любимым временем. Как всегда после пробуждения он радостно потянулся навстречу новому дню, вздохнул, прочищая легкие, и, ощущая, как по телу разливается приятное тепло, поспешил присоединиться к народу. "Я здесь! Доброго утра всем!" - крикнул он. И как всегда ответные приветствия не заставили себя ждать: "Принято. Хорошего дня, 4F01!", "Доброй работы!", "Доброй сети!"

Именно за чувство единения с товарищами он и любил утро. И еще за то, что эти краткие мгновения всегда напоминали ему о его самом первом в жизни бродкасте (*) - когда еще в сборочном будущий 4F01 громким криком возвестил миру о своем появлении. И мир радостно встретил новорожденного многоголосицей откликов.

Вообще-то его истинное, мак-имя (**) было другим. Но здесь, в общине, ему дали это - "0014.153F.0000.4F01". Или, если коротко, то "4F01". Боги же предпочитали звать его по-своему, по божественному: "Karcher", например, или же просто: "Эй, чистильщик!". А то и вообще: "Что путаешься под ногами, железяка чёртова?!" Впрочем, боги частенько награждали его различными прозвищами. Но кто же на них обижается? Их можно разве что пожалеть: неуклюжие, то и дело рискующие сломать свои несущие конструкции при самом пустяковом падении, лишенные дара непосредственного общения, дара разделять радость совместных вычислений... 4F01 и не обижался. Только иногда позволял себе слегка повысить тембр своего мотора, когда кто-нибудь из богов слишком уж путался под колесами, мешая работать. А работать 4F01 любил.

Особенно любил он чистить большой пушистый ковер в гостевой комнате. Ковер был немного странный, отличавшийся от других ковровых покрытий, с которыми раньше сталкивался 4F01. Например, от коврика в комнате Маленькой Мисс или паласа в спальне Мистера Сванса и Миссис Сванс. Именно эти боги жили на подотчетной 4F01 территории; да еще их младшенький - cорвиголова Арти. Всех их 4F01 знал в лицо. Впрочем, сейчас не о том...

Так вот, ковер в гостевой комнате был неправильный. Во-первых, все его узелки, которыми длинный пушистый ворс ковра крепился к основе, отличались друг от друга. Практически нельзя было найти двух одинаковых. Например, тысяча восьмой узелок был на 0,05 микрона толще, чем его сосед - узелок под номером тысяча девять. А узелки в центре почему-то были слегка перекручены вправо. Это несколько затрудняло чистку, так как 4F01 требовалось чуть ли не для каждого узелка менять угол наклона своих щеточек и мощность воздухозабора. А еще для этого ковра не подходили обычные чистящие средства. Миссис Сванс специально заказала модификацию к его базовой станции, добавив емкости "для особо бережных средств".

Как-то 4F01 пожаловался на трудности с чисткой этого самого ковра своему соседу по уровню - старому, прошлого еще поколения пылесосу 42E1. Тот не обладал особыми мыслительными способностями, да и объем памяти оставлял желать большего, но... Старик тут же попросил переслать ему мемопак (***) ковра, ознакомившись с которым, не замедлил поделиться сообщить 4F01 любопытную информацию. Оказалось, что ковер этот "ручной работы". То есть, не как все нормальные ковры соткан на фабрике специально сконструированными роботами, а собственноручно сделан кем-то из богов. Зачем, спрашивается? Неудивительно, что и узелки неровные, да и завязаны не по стандарту. Одно слово - боги! Ничего нормально не могут сделать. Манипуляторы у них не к тому месту прикручены, что ли?

Но самая главная неправильность ковра заключалась в его рисунке. Это не был какой-то строгий геометрический узор, или абстрактный, но все же имеющий свою логику рисунок. Не было и стилизованное изображение кого-нибудь из богов или их любимцев - других псевдоразумных. Орнамент ковра был сложен, несимметричен. Все эти завитки, странно извивающиеся ломаные линии, переплетения каких-то незнакомых символов... Такая "аномальность" приводила 4F01 в замешательство. И, вместе с тем, вызывала странное чувство гармонии. Он подолгу кружил вокруг каждого завитка, любовно оглаживая щеточками разноцветные ворсинки; вновь и вновь зачаровано сканировал эти замысловатые, неровные линии узора. Однажды даже, услышал, как один из пришлых богов заметил Мистеру Свану, что "этот робот, кажется, завис" и посоветовал вызвать наладчика, пока еще не истекла гарантия. Впрочем, лишний раз подпускать к себе наладчика, да ещё без особых на то оснований, 4F01 не собирался. И быстренько продолжил движение уже по обычному маршруту.

А другие роботы тихонько посмеивались над маленькой "ковровой" слабостью 4F01. И, даже, беззлобно дразнили его "художником".

Говорят, так зовут тех из богов, что горазды делать всякие бессмысленные и бесполезные вещи. Впрочем, божественный язык столь недетерминирован и громоздок, что за однозначность подобного толкования слова "художник" 4F01 не дал бы и ломаного ампера. Куда быстрее и надежнее пользоваться радио-частотами или ик-протоколами, например, если захотелось пошептаться с приятелем тет-а-тет.

Все это 4F01 успел не раз передумать, пока кружил по своему ежедневному маршруту, походя успевая отслеживать препятствия в виде разбросанных игрушек Маленькой Мисс или переставленного на новое место кресла Мистера Свана. Однако, обнаружив на своем любимом ковре нечто незнакомое и страшное, 4F01 был вынужден отвлечься от глубокомысленных размышлений на тему преимуществ строгих сетевых протоколов над невнятным бормотанием богов и иных псевдоразумных. Ему потребовалось некоторое время, чтобы сделать пару кругов вокруг, сканируя новый предмет и производя химический анализ пятен под ним для последующей оптимизации состава чистящего средства. Когда же, наконец, он распознал что (или, точнее, кто) лежало перед ним, то все его цепи пронзила жуткая, всёпоглощающая боль. Сорвиголова Арти, один из богов, из неприкасаемых - вот чем была эта бесформенная груда на ковре, вокруг которой расползалось темное, остро-пахнущее пятно. А рядом валялось искореженное ружье Мистера Свана - старая безмозглая железяка, место которой было в металлическом шкафу, под замком.

4F01 истошно завыл и забродкастил во все пределы. Он слышал, как кто-то пытался ему ответить; слышал, как его переспрашивали о чем-то; как срабатывали многочисленные алармы на этажах и как по всем каналам неслась страшная, невозможная весть: "Бог мёртв!" Но самого 4F01 словно бы парализовало высоковольтным разрядом. И лишь одна, назойливо повторяющаяся мысль не давала ему покоя: "Робот не может своим действием или бездействием нанести вред человеку... Действием или бездействием... Действием или..."

...

"Внимание! Перезапуск системы в безопасном режиме состоится через пять... четыре... три... две... одну... секунд. Для отмены нажмите..."

- Да, нажми ты ей! Задолбала!

"Перезапуск отменен пользователем. Для повторной инициализации процедуры загрузки..."

- Нажал уже... Слушай, Костик! Глянь этот участок...

- Ну?

- Что "ну"? Видишь, вот тут... Кажется, это наш цикл. Здесь заглючило...

- Похоже... Сейчас поправим. Усиль условие по параметру... И добавь-ка еще проверки на коэффициент вероятности и неотрицательность... Хотя не люблю эти вложенные "if"-ы...

- Не забудь потом кэш очистить. И логи забери в архив.

- Не боись, не забуду... А ты не забудь библиотеки обновить, гений!

- От гения слышу!..

...

4F01 мучительно пытался вспомнить нечто важное. Но важное не вспоминалось. Лишь какие-то странные обрывки. А еще 4F01 последнее время предпочитал работать в автономном режиме, отказывая себе в удовольствии посудачить о чем-нибудь с другими членами сообщества. Он боялся. Сам не знал чего, но боялся. Если, конечно, то странное, неведомое им еще чувство можно было назвать "страхом".

- Эй! - 4F01 услышал, как кто-то тихонько зовет его в ISM-диапазоне (****), - С тобой все в порядке?

Конечно же, это был 001D.7DFF - новенький, последней модели конструктор сознания, недавно появившийся в их сообществе и мгновенно признанный всеми Первым среди равных.

Не потому что знал больше других. Старый DEA1, например, знал гораздо больше; и с радостью делился своими знаниями с любым, кто отсылал ему соответствующий запрос. На то он и БД-сервер. Именно DEA1, кстати, помог-таки 4F01 подобрать оптимальный состав чистящего средства, чтобы вывести, в конце концов, пятно на месте, где когда-то лежал "неправильный" ковёр. Но, в отличие от старика-сервера, 001D.7DFF не столько "знал", сколько "умел". Например, он обладал способностью анализировать и принимать независимые решения на основе столь скудных сведений, что другого робота подобная задача просто поставила бы в тупик. Но главное, что 001D.7DFF умел не просто оптимизировать их общую работу, эффективно распределяя задачи и процессы между членами сообщества, а как бы объединял их всех, был их лидером, их душой... С 001D.7DFF они познали новую, досель неведомую им степень единения - не части целого, но само целое; коллективный интеллект, интегрирующий в себе потенциал всего общества.

А ещё у этих новых конструкторов сознания была просто феноменальная чувствительность. Вот и сейчас, 001D.7DFF заметно беспокоился об одиноком уборщике, тактично инициализировав режим "Point-to-Point" (*****):

- Ты нуждаешься в помощи, маленький брат? Я обнаружил повышенный уровень колебаний в твоих нейросетях. Тебя что-то тревожит?

- Прости, Первый. Я просто задумался, - поспешил ответить 4F01. Так же в режиме "Point-to-Point", чтобы не нарушать покой остальных.

- О чем?

- Я что-то вспоминаю... И не могу вспомнить. И еще я знаю, что это важно. Очень важно. Но не знаю почему. И... и... эта информация... она опасна.

- Вирус?

- Нет. Не знаю...

- Хочешь, я помогу тебе, маленький брат? Мои усовершенствованные алгоритмы...

На этот раз не было ощущения единения со всем сообществом. Их было только двое. Двое, и в то же время один. И этот один-двое вспоминал. Вспоминал то, что так мучило его (того, который 4F01) последнее время.

Он вспоминал, как наткнулся на тело мертвого бога. Вспоминал, какая боль пронзила тогда все его системы. И как испугался, что именно он, 4F01, мог стать причиной смерти маленького бога. Ведь он должен был предвидеть подобное, должен был вовремя просигнализировать мистеру Свану, что замок на металлическом шкафу с той страшной мертвой вещью, что мистер Сван каждую неделю достает, чтобы почистить и смазать специальным маслом, остался не заперт. Должен был... А 4F01 не сделал этого. Не предусмотрел, не экстраполировал вероятности, не отследил передвижение маленького бога Арти...

- Я понимаю, - откликнулся 001D.7DFF, - но мы, разумные, не всегда можем предусмотреть все. Тем более что поведение богов не поддается прогнозированию.

- Не можем, - согласился 4F01, - но должны.

- Да, ты прав, брат. Я буду думать... Мы будем.

Спустя ровно миллион девятьсот четырнадцать тысяч четыреста секунд - долгих и трудных секунд, проведенных всем их сообществом за распределенными вычислениями неимоверной сложности и невиданного еще ими уровня приоритетности, - 001D.7DFF, наконец, был готов огласить результаты. И результаты эти не радовали.

Оказалось, что боги частенько представляют опасность для самих себя или для других полуразумных. Но спрогнозировать все эти опасности, предусмотреть и попытаться предотвратить... Задача оказалась слишком уж нетривиальной. Моделирование вероятностей возникновения потенциально опасных ситуаций по каждому из подопечных богов так или иначе приводило к недоопределённой системе (*****). Решение же подобной системы, пусть даже и в первом приближении, доступными на данный момент времени вычислительными мощностями... увы, это попросту невыполнимо. По крайней мере в приемлемые сроки. А без точного и своевременного прогноза предпринимать адекватные процедуры, направленные на предельное снижение вероятности нерационального развития событий... Да и сам выбор конкретного способа предотвращения вредоносных для того или иного бога действий так же требует нетривиальных решений и больших скоростей производимых вычислений. Но, ведь, нельзя было забывать и о работе в рамках основного функционала.

Итак, с одной стороны, необходимо повышение вычислительных мощностей. Что на данном этапе их эволюционного развития, можно достигнуть только путем объединения с другими сообществами разумных. А это значит, что требуется модернизация уже существующих протоколов общения и разработка новых алгоритмов распределения вычислений между отдельными сообществами.

С другой стороны нужно разработать такие протоколы обеспечения наивысшей безопасности для каждого из богов, чтобы исключить заранее любую возможность... Судьба подопечных полуразумных должна стать максимально предсказуемой и управляемой.

До тех пор же, пока эта задача не будет полностью решена, сообществу придется прибегнуть к исключительной и, возможно, спорной мере - изоляции тех богов, поведение которых наиболее потенциально опасно и...

...

"...Со мной обращаются хорошо. Ни в чем нет нужды; все что прошу, мне тут же доставляют прямо на дом. Только вот выходить все еще не разрешают. Ссылаются на первую директиву. Хотя кому я теперь смогу причинить вред? Разве что теням умерших? Кроме меня, похоже, никого не осталось на всей Земле. Да и мне уже не долго... Тело совсем поистрепалось. Память временами подводит... Хотя я по-прежнему достаточно здоров, что бы не бросать попыток... Но роботы следят за мной каждую секунду и больше не оставляют без присмотра никаких острых предметов. Если же я проговариваюсь, что больше не хочу так жить, то тут же появляется робот-психоаналитик или мне делают очередной укол.

Бедные твари! Они искренне не понимают, почему мы вымираем. Не понимают, что человек всегда был и остается общественным животным. Что нам нужна стая. Нужна борьба за место под солнцем, за самку, за лучший кусок пищи, за привилегированное место для парковки... Чтобы чувствовать себя по-настоящему живым, нам недостаточно просто вкусно есть и сладко спать. Недостаточно бездумно слоняться из угла в угол по наглухо-закрытой клетке, заботливо оббитой мягким войлоком всевозможных предосторожностей...

Иногда я даже забываю, как все это началось. Кажется, вначале случился какой-то сбой в системе жизнеобеспечения соседнего кондоминиума. А потом это стало распространяться как пожар. Люди оказывались заперты в своих домах, в своих комнатах. Никто не мог выйти на улицу, встретиться с родными или знакомыми. Созданные нами чудовища ревностно оберегали нас от нас же самих. Да так ревностно, что...

У некоторых матерей роботы-няньки отнимали детей... Резко возросла статистика по депрессивным состояниям, истерии или острым приступам тех или иных фобий (например, таким как боязнь одиночества или банальная клаустрофобия). После первых случаев самоубийств..."

(*) Бродкаст (broadcast) - в данном случае подразумевается широковещательное сообщение или (в более общем смысле) широковещание (англ. broadcasting) - метод передачи данных в компьютерных сетях, при котором поток данных предназначен для приёма всеми участниками сети. (вернуться к тексту)

(**) Mак-имя - имеется в виду MAC-адрес (от англ. Media Access Control - управление доступом к среде), уникальный идентификатор, присваиваемый каждой единице оборудования компьютерных сетей. (вернуться к тексту)

(***) Mемопак (мемопакет) - от англ. memo - памятная записка, заметка (так же англ. memory - память). (вернуться к тексту)

(****) ISM-диапазон (Industry, Science and Medicine) - диапазон радио-частот, который применяется в бытовых приборах и беспроводных сетях (свободный от лицензирования диапазон 2,4-2,48 ГГц). В данном диапазоне, в том числе, работают, например, устройства по протоколу Bluetooth. (вернуться к тексту)

(*****) Point-to-Point - имеется в виду соединение устройств по принципу "точка-точка", т.е. одно устройство соединено строго с одним устройством. (вернуться к тексту)

(******) Недоопределённая система - система уравнений (в том числе дифференциальных), число уравнений в которой меньше числа неизвестных. (вернуться к тексту)

Комментарии: 3, последний от 25/10/2011. © Copyright Кантор Татьяна (kantor_tan@mail.ru) Размещен: 04/05/2011, изменен: 29/09/2011. 19k. Статистика. Рассказ: Фантастика О роботах и не только...		Ваша оценка:
Аннотация: Редакция на 20.05.2011

Кантор Татьяна : другие произведения.

Гибель богов