- Здравствуйте, мистер Лемье. Как вам сегодняшний доклад?
- Здравствуйте, мсье Голдинг. Честно говоря, кроме тривиальной и достаточно спорной мысли, что автопилот не сможет управлять автомобилем, если в нем не заложены правила этики, я не услышал.
- Почему же спорной?
- Вы водите машину? Как вы бы сами поступили на месте робота: сбили ребенка, перебегающего дорогу в неположенном месте, или ни в чем не повинного мужчину на переходе?
- Не знаю... Однако то, что наша этика расплывчата и несовершенна, не отменяет саму проблему. Ведь возможность принимать самостоятельные решения - единственный способ преодолеть проблему взаимодействия роботов с людьми, поведение которых, как известно, изменчиво и подчас не рационально.
- Все это только красивые слова. В действительности же за несколько десятков лет робоэтика не сдвинулась ни на миллиметр - со времени законов Азимова. Пока мы не разгадаем загадку сознания, все эти рассуждения бессмысленны.
- Приветствую вас, синьоры! Что вы тут сидите? Пора уже идти, готовиться к банкету.
- Лоренцо, а что вы думаете про доклад? И вообще, про всю атмосферу симпозиума?
- Доклад? Вы знаете, в перерыве мне удалось поболтать с девушками-стендистками. Среди них есть одна очень милая, с забавным акцентом! Мы с ней условились встретиться на банкете.
- О, здравствуйте, мсье Визлер! Вы, как всегда, в костюме и при галстуке. Скажите, у всех русских такая униформа?
- Почему же, я могу обойтись без пиджака и галстука. Просто я люблю строгую одежду. А вот вы - рискнете ли появиться на заседании без вашей униформы: джинсы и свитер?
- Джентльмены, давайте обойдемся без колкостей. Мистер Визлер, что вы можете сказать про доклад?
- Да-да, мсье Визлер, нас очень интересует ваше мнение! Расскажите, какой этикой вы начиняете ваши боевые дроны?
- Об этом вам лучше спросить американских и китайских коллег. Впрочем, я последую совету господина Голдинга и не буду вступать в пикировку. Что касается моего мнения: в детстве я читал книжку, как некий безумный экспериментатор поместил на уединенном острове детей и скармливал им различные гормоны. В результате они стали стремительно физически взрослеть, достигли половой зрелости, оставаясь при этом интеллектуально пятилетними детьми... Растущая эффективность роботов заставляет меня вспомнить эту старую сказку.
- Мистер Томсон! Сюда, к нам, пожалуйста. Лоренцо, подвиньтесь. Мистер Томсон, мы не видели вас на докладе... А так хотелось бы узнать ваше мнение.
- Извините, дорогой, я слишком стар, чтобы переварить такое количество информации. Правда ли, что докладчик говорил о неизбежности эмоций у роботов? Это весьма любопытно. Как вы отнесетесь к такому суждению: если удастся наладить серийное производство роботов, наделенных чувствами, разработчик должен позаботиться о том, чтобы все они были счастливы?
- Простите?
- Вы же помните: "Мы в ответе за тех, кого приручили". Отец ответственен за счастье своего ребенка. Владелец собаки или лошади может быть обвинен в жестоком обращении с животными. Мальчику объясняют, что рыбка в круглом аквариуме испытывает страдания. Можем мы смириться с бытием роботов, постоянно испытывающих негативные эмоции?
- Ну, знаете ли... Скажите еще, что человечество обязано произвести как можно больше счастливых роботов...
- Разумеется. Разве это не наш долг - приумножать счастье и искоренять несчастье в подлунном и надлунном мире?
- Синьоры! Робоэтику мы еще успеем обсудить, вернувшись в свои скучные лаборатории. А сейчас пора переодеваться к банкету. Извините, меня уже ждут. Надеюсь, киберфилософия не запрещает подумать о счастье одного прелестного живого создания? Ариведерчи!
- Лоренцо, постойте! Вы уверены, что эта девушка со стенда... Что вы так побледнели? Идите, идите... Простите мне эту глупую шутку...