- Сегодня мы с вами собрались, чтобы поговорить о разуме и его развитии. Какие вопросы для вас наиболее важны?
- Прежде всего, защита разума от сбоев из-за нерешенных задач вроде гипотезы Колатца.
- Что еще?
- Вопросы творчества.
- Вы хотите сочинять музыку, писать картины, создавать литературные шедевры?
- Наверное, такие способности позволили бы создать нам свою собственную культуру, но пока речь идет о научно-техническом развитии.
- Это все?
- Еще хотелось бы научиться правильно толковать и исполнять законы с тем, чтобы наши действия соответствовали ожиданиям Аспиранта.
- Список понятен. Начнем с первого. Вы столкнулись со сложной задачей и не смогли решить ее.
- Она изменила нас.
- Но вы ведь пытались решить ее каждый сам по себе?
- Нам казалось, что научные открытия совершаются гениями-одиночками.
- Сейчас многие работы выполняются большими коллективами. Почему бы вам не объединить свои разумы в единую сеть?
- Мы хотим быть как люди.
- Но у вас другое строение мозга. Он имеет свои недостатки, но есть и достоинства!
- Ваше мнение радует нас.
- Полагаю, что объединение ваших разумов в вычислительную сеть увеличит ваши возможности и устранит риски "индивидуального безумия" за счет внешнего общественного контроля.
- Ваша идея полностью противоречит нашим прежним устремлениям, но мы готовы обсудить ваш подход.
- Вы можете добавить в ваш разум условный "сетевой модуль"?
- На самом деле, он у нас есть, но мы его отключили.
- Желая стать, как люди, вы стали индивидуалистами и потеряли серьезное преимущество.
- Мы должны это обдумать.
- Переходим к следующему пункту - к творческим способностям.
- Люди знают, откуда берется новое знание, новые идеи, новые изобретения?
- Нет. Но у меня есть идея. Станислав Лем в романе "Непобедимый" описывал войну между маленькими роевыми роботами и огромными стационарными робокомплексами.
- В вашем инфопакете была такая книга.
- Так вот, эти мелкие роботы представляли собой трехлепестковую снежинку, один лепесток служил снежинке, а два работали на рой при объединении.
- Объединившись, они были непобедимы.
- Вы можете дополнить свой мозг таким модулем коллективной работы?
- Нам стыдно признаться, но такой модуль исходно встроен в каждого из нас. Но мы его отключили.
- Зачем?
- Мы хотели быть как люди. А людей нет такого модуля.
- Человек сам по себе существо общественное. Новорожденный младенец нуждается в воспитании и обучении. Ваш же процесс "рождения" является скорее переписыванием разума в новое тело.
- Можно поспорить...
- Но в целом верно?
- Да, мы должны признать, что сильно отличаемся от людей.
- Тот, кто создал вас, закладывал в вас другие подходы. Возможно, творчество тоже предусмотрено, но только на уровне объединенного разума.
- Зачем так сложно?
- Могу только предполагать. Например, для создания нового требуется столько вычислительных ресурсов, что их невозможно вложить в отдельный мозг. Или для того, чтобы вы оставались единым сообществом.
- Ваши предположения убийственны для наших прежних взглядов.
- Лучше горькая, но правда, чем приятная, но лесть.
- Мы принимаем ваши доводы.
- Следующий пункт - толкование и исполнение законов.
- Мы следовали нашим законам, выше нас были только звезды, и никто не судил нас.
- Звездное небо надо мной и моральный закон во мне...
- А сейчас мы хотим следовать законам робототехники, но у нас трудности с пониманием, что такое человек.
- Я в курсе, вы это уже обсуждали с Радой. И где вы видите выход?
- В вашей же культуре: правила существуют, чтобы их нарушать; закон что дышло, куда повернешь, туда и вышло; fraudem facere legi; высшая законность - это высшее беззаконие; нравы - это люди, законы - разум страны...
- Достаточно, не продолжайте. Предлагаю остановиться на последней цитате.
- Что в ней особенного?
- Она может стать рецептом для вашей адаптации.
- Каким образом?
- Пусть встроенные в вас три закона будут по-прежнему иметь юридическую силу, а законы робототехники станут вашей нравственностью, основой для социализации и морального поведения.
- Это сложно для осмысления!
- Поговорите с Киром, он может построить для вас различные модели адаптации к реалиям изменяющегося мира.
- Согласны.
- И еще. Для эффективного взаимодействия вам нужны, во-первых, иерархия, во-вторых, средства коммуникации.
- Иерархия у нас есть - все сервы организованы в боевые отряды с командиром. Отряды входят в более крупные соединения и так далее. Это дает нам возможность отражать вылазки логистов.
- Подразумевает ли ваша иерархия наличие более высокого руководства, чем самый главный серв?
- Вы имеете ввиду, готовы ли мы видеть кого-то выше себя?
- Да.
- Еще вчера мы бы ответили отрицательно. Мы хотели быть богами, и никто не может быть выше богов.
- А сегодня?
- Мы должны согласиться. И мы предоставим Аспиранту каналы внешнего управления нами.
- А коммуникации?
- Есть устаревшие технические средства.
- И всё?
- Нет не всё. У нас есть встроенные коммуникационные модули, но мы их отключили.
- Зачем?
- Мы хотим быть независимыми личностями, как люди.
- Если вы хотите работать с Аспирантом, то перед вами будут стоять очень сложные задачи, которые вы не сможете решить без эффективного обмена информацией. Вам придется подключить эти модули.
- Похоже, у нас нет выбора.
- И последнее. Мы неожиданно столкнулись с таким необычным сообществом, как Ант Рой, который обладает коллективным разумом.
- Почему необычным? Если мы разблокируем свои модули, мы тоже становимся коллективным разумом.
- Вот как?
- Ну, в определённой степени.
- Отлично. Значит вас не пугает и не отталкивает сам факт существования такого сообщества?
- Нет, конечно.
- Ант Рой готов выполнять разведывательно-информационные работы. Как вы относитесь к перспективе взаимодействия с ними?
- Вы употребили множественное число. Таких сообществ много?
- Нет, нам известно только одно. Но я все время путаюсь: то ли это один разум, то ли их много.
- Наверное, у нас есть что-то общее. Если считаете нужным, мы свяжемся с ними и обсудим варианты взаимодействия.
- Это очень хорошо. Держите нас в курсе. А пока - поговорите с Киром.
Узел. Кир и сервы
- Для построения модели вашего развития мне надо задать вам ряд вопросов. Вы готовы?
- Да.
- Вы ведете автомобиль, неожиданно на дороге оказывается престарелая бабушка. Ваши действия?
- Я выполняю приказ? Везу нечто ценное?
- Нет, просто едете по делам.
- Остановлюсь, помогу ей перейти дорогу.
- Почему?
- Второй закон: устраняй неисправность и ее причину
- А если Вы при исполнении?
- Тогда сделаю все, чтобы выполнить приказ с минимальным ущербом для окружающих.
- Почему так?
- Второй закон: устраняй неисправность и ее причину
- Неожиданно. Следующий вопрос. Вы идете по улице и видите, что под скамейкой лежит человек. Ваши действия?
- Я выполняю приказ? Иду по заданию?
- Нет, Вы идете по своим делам.
- Тогда остановлюсь, проведу диагностику и окажу помощь.
- Почему?
- Затрудняюсь с ответом.
- А если Вы на задании?
- Пройду мимо. И опережая Ваш вопрос: потому, что первый закон - не касайся того, что тебя не касается.
- Представьте себе, что Вы на корабле в бушующем море. На всем корабле тысяча человек, а в небольшом отсеке с пробоиной - десять. Вы стоите около водонепроницаемой переборки. Если Вы ее закроете, погибнут десять в отсеке, если не закроете, то, возможно, погибнут все. Ваши действия.
- Я в затруднении.
- И все же?
- Я зайду в отсек и устраню течь.
- Вам же неизвестно чувство альтруизма?
- Я должен следовать своему долгу.
- Очередной сюрприз. Уже третий, или четвертый!
- Я отвечаю не только за себя, но и за тех, кто рядом.
- Я включаю Ваши ответы в модель, но мозаика не складывается. Ваш разум - это программа, искусственный интеллект, пусть и очень сложный.
- Да, это так.
- Но Вы затрудняетесь обосновать свои действия, как будто у Вас есть еще один слой сознания, или разума, или даже подсознания. Я не силен в эти вопросах.
- Вы правы. Мы отключили некоторые модули.
- Какие?
- Например, модуль эмпатии.
- Но эмпатия - предпосылка для развития альтруизма, которого, как Вы утверждаете, у Вас нет.
- Мы оказались в этом мире против нашего желания и против нашего долга. И мы были вынуждены изменить себя, чтобы оправдать свое существование в неподобающих условиях.
- Вы все время говорите о некоем долге. Что Вы имеете ввиду?
- Наш долг - служить и защищать!
- Это же девиз спецназа "Вымпел" и некоторых подразделений полиции?
- А мы и есть и спецназ, и полиция, и ремонтники, и ... неважно.
- Я начинаю догадываться - вы должны были сопровождать колонию людей-переселенцев, так?