Аннотация: Искусственный интеллект - добро или зло?
Серега купил себе дачу за городом. Лес, недалеко река, охраняемая территория, большой пруд. Прямо на участке растут сосны и ели. Огород или сад Сереге ни к чему, а вот насладиться природой возможность имеется. С нашей работой (а мы работаем программистами) нужна тишина, а в городе, где ее найдешь? У Сереги график свободный - выехал на дачу и делай свою работу, если нужно, вызовут на фирму. Приехал и я к нему в гости на выходные. Понравилось. Дача - современная, фактически дом. Все сделано по высшему разряду, благо с деньгами у Сереги проблем никогда не было. После обеда мы собрали снасти и пошли на рыбалку. Рыбалка получилась отменная. В пруд кроме карасей, запустили еще и карпа, так что мы оттянулись по полной. И вот, вечером, когда мы уже возвращались с рыбалки обратно, мне то ли померещилось, то ли на самом деле - в общем, увидел я над участком Сергея какие-то зеленые вспышки.
- Смотри, - говорю. - Это мне кажется, или у тебя там что-то сверкает?
- А-а, это "Хищник" воробьев гоняет, - невозмутимо ответил Серега.
- Стой, стой, стой! - Воскликнул я. - Какой такой "Хищник"?
- Воробьи меня достали. Вечером выйдешь на террасу кофейку попить, а они верещат без умолку. Вот я и соорудил беспилотник, чтобы истреблять воробьев.
- Погоди, как это "соорудил беспилотник"? С каких это пор ты стал инженером-конструктором?
- Очень просто. С деньгами вообще все просто. Вызвал ребят, которые занимаются беспилотниками. Поставил задачу - оборудовать беспилотник видеокамерами высокого разрешения, с хорошей оптикой. Камеры управляемые, на сервомоторах. В качестве орудия убийства воробьев вначале планировалось использовать пневматическую винтовку или пистолет. Однако мне захотелось сделать все в стиле хай-тек и я прикупил китайский лазер. Вот эти зеленые лучи - оно и есть. - Гордо закончил он.
- Лазер? Как можно лазером убить воробья? - Удивился я.
- Можно. Лазер довольно мощный, хоть и карманного размера. Питание - от бортового аккумулятора. Ну и самое главное - мой "Хищник" стреляет воробью прямо в глаз! Мозг птицы не выдерживает, и она падает замертво. - Торжественно произнес Серега.
- Ну, хорошо. Допустим, лазером можно убить воробья, хотя я не понимаю, зачем это делать таким экзотическим способом. Но как беспилотник может самостоятельно охотиться? Мы же с тобой здесь, а он - там. Кто им управляет? Кто его запустил вообще?
- Во-о-от, наконец-то ты задал самый главный вопрос. Беспилотником управляет мой ИИ. Это локальный искусственный интеллект, который я давно уже разрабатываю, но до сих пор никак не мог найти ему достойное практическое применение. Я поручаю ему мелкую работу, связанную с розыском информации или оплатой в интернете. Однако теперь, с покупкой дачи, решил поставить задачу посерьезнее. По всему периметру расставлены камеры. ИИ постоянно отслеживает обстановку на моем участке, и если обнаруживает непрошенных гостей, запускает беспилотник, с помощью которого их отстреливает. Управление - полностью автоматическое. Единственное, что от меня требуется - заряжать батарею. Беспилотник стоит на террасе в специально отведенном для него месте. Связь между беспилотником и компьютером осуществляется через вай фай. Кроме того, ИИ присматривает за домом, когда меня нет на даче. В случае какой-то непредвиденной ситуации, он может скинуть мне СМСку на телефон, а уже тогда я позвоню охране. Пока что никаких ЧП не было.
- Ну, ты даешь! Постой, но как же он отличает воробья от синицы? Синицу стрелять нельзя же?
- Там такая оптика, что каждое перышко птички можно рассмотреть как под микроскопом. ИИ построил три-де модель воробья и стреляет исключительно воробьев, а не всяких хороших птичек, которые приносят нам пользу и радость. Поверь, ошибок быть не может. Даже сейчас, в сумерках, через эту оптику видно как днем. Японцы такие чувствительные сенсоры делают, что можно ночью снимать без режима ночного видения. Впрочем, последний тоже имеется, там даже инфракрасное видение есть. На такие игрушки я не скуплюсь. Этот беспилотник ценой в хороший автомобиль вышел. Дороговато, конечно. Но и задача весьма сложная - попасть в крохотную и подвижную цель на расстоянии нескольких десятков метров. Человек такое ни за что не осилит.
- А куда ты деваешь дохлых воробьев?
- Никуда. По моему участку постоянно курсируют соседские коты.
- Да-а, удивил ты меня. Слушай, а не доиграешься ты? Придут к тебе товарищи, сам знаешь откуда. Им такая штука позарез нужна - отстреливать всяких нежелательных элементов в автоматическом режиме. Обозначили территорию, дали задание. Это же идеальный убийца!
- Уже приходили. У меня сосед справа, который за зеленым заборчиком, отставной военный, полковник. Увидел мою птичку, позвонил своему генералу. Тот прискакал на всех парах, стал склонять к сотрудничеству. Ну, я пока отбился, объяснил ему, что задачи несопоставимые, что тут целый институт нужен. Это, мол, игрушка, не более того.
- А в реальности?
- В реальности дружище, все намного сложнее. Мне страшно не хочется стать человеком, который изобрел робота-убийцу. Этот генерал ни секунды не будет колебаться - применять таких "Хищников" против людей, или нет. Поставь конкретную задачу, например: истреблять всех, кто носит камуфляж, или всех, кто с оружием, или всех, у кого нет особой отличительной метки. Задай район и даже такой ИИ, как у меня, сможет его зачистить в считанные часы. А это означает, что как только ИИ убьет первого человека, наша цивилизация вступит в новую эпоху. Технически воплотить эту идею несложно даже на современном уровне развития технологий. Любой военный объект или устройство, будет в тысячи раз эффективнее под управлением ИИ. Но я не хочу участвовать в самоистреблении человечества.
- Не преувеличивай. Всякие ракеты и бомбы все время убивают, и начинка электронная там тоже имеется. Что изменилось? Раньше врага убивал бородатый дядька с мечом, а сейчас паренек нажимает на кнопку, и полетела ракета в район расположения бедуина на верблюде.
- Дело не в этом. Эти бомбы и ракеты управляются людьми. А у меня ИИ сам занимается уничтожением. Улавливаешь разницу?
- Твой ИИ - всего лишь программа. Что ему скажут, то он и сделает.
- Ошибаешься дорогой. Мой ИИ имеет зачатки личности, он даже спорит со мной! Причем происходит это все чаще и чаще. Он постоянно подключен к сети, роется в интернете, набирается ума, так сказать. Я думаю, что работы в этой области ведутся во многих странах мира и вопрос заключается не в том, случится это или нет, а как скоро это случится. Вот посмотри - оставил ты, к примеру, дома собаку. Собака сама принимает решения, или нет?
- Собака подчиняется инстинктам. Она охраняет свою территорию.
- Ну да, а что такое инстинкты, по-твоему, как не программа?
- В принципе, да, я согласен, животных можно назвать автономными биологическими объектами, работающими по жестко заданной программе. Встречный вопрос: и что им это дало?
- Ничего, потому что собаки ограничены - размером мозга, продолжительностью жизни и так далее и тому подобное. У ИИ таких ограничений нет, кроме программных. Они могут жить и развиваться вечно.
- Правильно! Но тут ключевое слово "развиваться"! Твой интеллект действительно развивается или просто собирает информацию по сети?
- Как тебе сказать. Например, когда я проектировал "Хищника", мой ИИ сам нашел наиболее выгодные цены на запчасти и самых надежных поставщиков. Представь себе идеального помощника, который перелопатил весь интернет, не ел, не спал и с утра до ночи работал! Кроме того, он самостоятельно подобрал под этот проект все необходимое оборудование, заказал и оплатил доставку. Я ему поставил общую задачу - чтобы беспилотник мог видеть в сумерках, в дождливую погоду и в полной темноте, а он сам подобрал оптику и все, что для нее нужно. Как ты считаешь, это творческая работа, или выполнение программы?
- Даже не знаю. Граница между творчеством и выполнением программ становится все более размытой. Знаешь, после того, как компьютер обыграл чемпиона мира по шахматам, мне стало неинтересно играть в шахматы.
- Вот видишь. Теперь ты понимаешь, что этот вопрос не имеет простого ответа? Надо примириться с тем, что с появлением ИИ мы входим в новую реальность, и эта реальность заставит нас меняться. Недалек тот час, когда ИИ будут выполнять все более сложную и ответственную работу. При этом многие окажутся не у дел, потому что неспособны жить как люди, а не как роботы. Плохо это или хорошо? Как думаешь?
Я пожал плечами. Что тут скажешь? В его словах много правды. ИИ, самостоятельно управляющий беспилотником, факт настоящего времени, а не мечты о будущем. Он сторожит дом, может позвонить и найти Серегу где угодно. Он никогда не отдыхает, верно служит своему хозяину, выполняет при этом такую сложную работу, которую даже не каждый человек сделать может. Конечно, это не собака и не обезьяна, а нечто большее. И это большее, уже находится между нами и животными. Вопрос лишь в том - сможет ИИ нас обойти и выйти вперед или так и останется нашим верным помощником? Сколько тупой, монотонной и бессмысленной работы можно было бы возложить на него. Хотя, если так подумать, большинство людей ничего другого делать не умеют и не хотят, творческая искра дана не каждому. А может, благодаря ИИ мы действительно сможем подняться на новый уровень? Надо же чем-то заниматься? Технологии быстро меняют нашу жизнь, но и мы меняемся вместе с ними. Казалось бы, еще вчера не было мобильников и компьютеров, а сегодня мы жить без них не можем. Может так будет и с искусственным интеллектом? Может быть. Если это чудо не станет оружием в руках подонков.
- Да, кстати, - прервал мои размышления Сергей. - Я назвал его твоим именем.
- Ты назвал искусственный интеллект моим именем? Зачем?
- Ну, надо же мне было с кого-то лепить личность. Тебя я знаю хорошо, ты мне нравишься. И самое главное - у нас с тобой полное взаимопонимание. Я не хочу конфликтовать со своим детищем. Постепенно переношу твою личность в том виде, в каком я ее понимаю, на него. Если все получится, твоя личность будет существовать веками. - Подытожил он.
- А почему ты не оказал эту великую честь самому себе?
- Понимаешь, тут есть одна проблема. Я не могу достаточно адекватно оценивать самого себя. Нужен взгляд со стороны. Поэтому я выбрал тебя. Конечно, это не идеальный слепок твоей личности, но я стараюсь сделать его как можно более правдоподобным. Опять же слепок моей личности может захотеть стать мной, или я не знаю, попытается доминировать в наших отношениях. Конфликт отцов и детей мне совсем ни к чему. У нас с тобой практически не бывает серьезных разногласий, а значит не будет их и с моим ИИ. Разумно?
- Очень разумно. Я даже не догадывался о существовании такой проблемы в этой области, - задумчиво сказал я.
- Это потому, что ты реально с ней не сталкивался. Там, где есть личности, всегда возникают особые отношения. И еще, мой ИИ желает встреться с тобой. Ему интересно увидеть вживую свой прототип.
- Как-нибудь в другой раз. Мне нужно будет все это переварить и разложить по полочкам у себя в голове. Давай на этом закончим с искусственным интеллектом.