Итан Игорь : другие произведения.

Ореада. Пролог. Лекция

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:


 Ваша оценка:

  ПРОЛОГ
  
  Лекция.
  Четыре года тому назад. 10 сентября.
  Вашингтон, Округ Колумбия. Университет Джорджа Вашингтона.
  
   Голубоглазая девушка замешкалась перед входом в аудиторию, разглядывая на тёмных дубовых дверях две крупные фигуристые буквы GW. Это был тот редкий случай, когда на дверях вместо номера аудитории была прикреплена металлическая гравировка с одной лишь аббревиатурой университета.
  
   - Кэтрин, ты заблудилась? - послышался ироничный голос парня, идущего следом за ней.
  
   - Представь себе, Джерри, нет, - уязвлённо ответила девушка.
  
   - Что тогда мечтательный гуманитарий собирается делать на серьёзной научной лекции?
  
   - Мечтательный гуманитарий собирается проверить насколько оправдана высокомерность технарей.
  
   - А ты вообще в курсе, что будешь проверять, или тебе без разницы? - Джерри продолжал в насмешливом тоне.
  
   - Конечно, вступительная лекция по курсу искусственного интеллекта. Её-то я и искала.
  
   Джерри слегка удивился:
  
   - Неужели? Откуда такой интерес к программированию?
  
   - Жалко стало вас технарей, хочу помочь, - Кэтрин наигранно сменила тон на жалостливо-снисходительный.
  
   - Ну да, конечно, тебя-то нам только и не хватало.
  
   - Может, и не хватало. Всем известно, что наука сейчас сложила шпаги в этой области. Непосильная это задача научить компьютер мыслить по-человечески.
  
   - И чем ты можешь помочь? Думаешь, если поболтать с компом о смысле бытия и прочитать ему пару сопливых стихотворений о любви, он сам собой наладится? - Джерри засмеялся.
  
   - Так думаю даже не я. На помощь от гуманитариев надеется немало известных технарей, осознавших своё бессилие в этой области.
  
   Джерри слегка напрягся, пытаясь сообразить, о ком говорит Кэтрин. Немного подумав, он с прежним скепсисом спросил:
  
   - И, например?
  
   - Ну как же, например, Дэймон Хоровитц[1]. Ты что, не знал? - Кэтрин взглянула на Джерри и изобразила на своём лице напускное разочарование.
  
   Тот было собрался что-то ответить, но в последний момент передумал, так как Кэтрин недовольно подтолкнула его своим плечом:
  
   - Из-за тебя мы опоздаем. Все уже только нас и ждут.
  
   Пришлось поторопиться. Они быстро прошли внутрь и сели рядом на свободные места в первом ряду, который был почти пустой. Недалеко от них сидел только их молодой преподаватель философии Брайан Хенсли, который сам в этом году пришёл к ним в университет после аспирантуры.
  
   Кэтрин с гордым видом шепнула Джерри на ухо.
  
   - Я, между прочим, здесь не единственный гуманитарий.
  
   Профессор Хаширо Сакурохава оглядел из-под очков притихших студентов в аудитории.
  
   Убедившись, наконец, что предлекционная возня полностью завершилась, профессор встал из-за стола и прошёлся по сцене перед большим белым проекционным экраном.
  
   Вот уже двадцать восемь лет подряд он традиционно начинает свой курс с лекции, которая посвящала слушателей в историческую хронику увлекательных событий, рассказывающих о тайнах создания мыслящих машин. Первую свою лекцию в стенах этого университета он прочитал после успеха своей книги "Потомки Паскалины". Книга представляла собой научно-популярный труд, рассчитанный на тех, кто хорошо ещё помнил основы биологии, математики и физики на уровне среднего образования. Однако кроме широкой аудитории, которая интересовалась этой темой, книгу заметили и специалисты в образовательной сфере. Позже, ему даже предложили написать учебник, который в итоге выдержал уже пятнадцать изданий.
  
   Тогда, в день своего тридцатилетнего юбилея, ему позвонил его старый приятель из университета, преподающий там информационные технологии, и сообщил, что ему предлагают поддержать новый экспериментально созданный курс по искусственному интеллекту.
  
   Хаширо согласился не сразу. Основная его работа в научно-исследовательской лаборатории и так поглощала весь его творческий потенциал. Однако что-то всё-таки притягивало его к этой академической жизни. Возможно, это была некая внутренняя тяга к самовыражению и желание увлечь своими знаниями других людей. Возможно, просто хотелось какого-то разнообразия. В итоге, попробовав, он задержался здесь надолго. Нагрузка в университете была небольшая и времени отнимала немного, поэтому он без проблем совмещал преподавание в университете с научно-исследовательской работой в лаборатории.
  
   Лекции профессора почти всегда переходили в откровенные дискуссии. Скучать обычно не приходилось никому. Это была ещё одна причина, которая удерживала его в стенах университета. Несмотря на то, что в большинстве случаев мышление студентов из-за своей ещё неопытности изобиловало наивными идеями и распространёнными заблуждениями, общение с ними не давало расслабляться. Поток различных нестандартных взглядов и идей нередко обращал внимание на новые детали в устоявшихся шаблонах теорий. Это подпитывало его творческие изыскания, а временами и подталкивало к удачным решениям в рабочих проектах.
  
   Опустив взгляд, профессор, размышляя, не спеша прошёлся по сцене:
  
   - Нам всё чаще в повседневной жизни приходится слышать такое понятие, как искусственный интеллект. Интересно услышать, как вы понимаете его?
  
   Он остановился и повернулся в сторону аудитории, ожидая возможную реакцию на свой вопрос. С четвёртого ряда кто-то сказал:
  
   - Бортовой компьютер HAL 9000 из произведения Артура Кларка "Космическая одиссея".
  
   - Или те плохие ребята из "Матрицы" во главе c агентом Смитом, - добавили с противоположной стороны.
  
   - Ава "Из машины"...
  
   - C-3PO, R2-D2 из Звёздных войн, SkyNet, Data из Стартрек, Chappie, Eva... - посыпались примеры из популярных кинофильмов.
  
   - Неплохо, - согласился профессор, - Но это всё примеры из фантастических произведений. Как насчёт реальной жизни?
  
   После недолгой паузы кто-то из последнего ряда сказал неуверенным голосом:
  
   - Siri или "Ok, Google".
  
   Тут же, как бы не упуская возможности подтвердить справедливость этой фразы и продемонстрировать наличие своего интеллекта, чей-то соседний смартфон оживился дружелюбным вопросом: "Привет. Чем могу помочь?".
  
   - Программы голосовых помощников - очень хорошо, - одобрил пример профессор.
  
   - "IBM Watson" ... София... беспилотники Tesla или Volvo... - прозвучали новые примеры.
  
   - Хорошо. Давайте теперь попробуем классифицировать наши примеры. Поразмыслим, чем, например, Siri отличается, скажем, от Авы?
  
   Сидящий сразу позади Джерри и Кэтрин на третьем ряду студент резко бросил:
  
   - Сознанием, - как будто давно ждал этого момента.
  
   Его звали Эдди, и он уже успел прославиться среди своих однокурсников своими странными гиковскими наклонностями. Чтобы заподозрить в нём гика, уже достаточно было его в меру небрежной внешности и отрешённого поведения, не проявляющего интереса к обычным постподростковым темам своих сверстников.
  
   Профессор загадочно прищурился:
  
   - А вы уверены, что Ава обладала сознанием?
  
   - Я читал, что интеллект как у Авы специалисты называют сильным искусственным интеллектом. А интеллект Siri - слабым ИИ. В отличие от Siri она мыслила самостоятельно и её поведение не отличалось от человеческого.
  
   - Этого недостаточно, чтобы определить у искусственного интеллекта наличие чувств, эмоций, квалиа[2] и в том числе сознания.
  
   - Профессор, вы считаете, что тест Тьюринга, который позволяет показать неотличимость мышления искусственного интеллекта от мышления человека, не может быть тестом на наличие сознания? Разве можно мыслить как человек и при этом не осознавать себя?
  
   - Это большой научно-философский вопрос, споры о котором не утихают и по сей день. А началось всё ещё в 1950 году, когда Алан Тьюринг[3] написал основополагающую работу в области искусственного интеллекта: "Вычислительные машины и разум". В этой работе рассматривается вопрос: "Могут ли машины мыслить?". Тьюринг демонстрирует принципиальную возможность имитации человеческого мышления с помощью программных алгоритмов и аргументирует идею о том, что цифровой компьютер может совершать действия неотличимые от обдуманных действий человека. Однако в 1980 году Джон Сёрл[4] выдвигает аргумент против утверждения, что тест Тьюринга способен определить разумное мышление у машины. Он предложил мысленный эксперимент "Китайская комната" для наглядной демонстрации разницы между алгоритмическими вычислениями и сознанием.
   Суть этого эксперимента:
   Представим себе изолированную комнату, в которой находится Джон Сёрл, который не знает ни одного китайского иероглифа. Однако у него есть записанные в книге точные инструкции по манипуляции иероглифами вида "Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два", но в этих инструкциях отсутствует информация о значении этих иероглифов и Сёрл просто следует этим инструкциям подобно микропроцессору.
   Наблюдатель, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция - это подобие компьютерного алгоритма, а Сёрл исполняет алгоритм так же, как его исполнил бы микропроцессор.
   В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, "Какой цвет вам больше всего нравится?") и получить на него осмысленный ответ (например, "Синий"), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сам Сёрл не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Сёрл не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.
   Таким образом, Сёрл обосновывает, что в системе, где алгоритмически выполняются инструкции, не может быть никакого реального понимания смысла этих вычислений. Если сказать более конкретно относительно применяемого аппаратного обеспечения - любой цифровой микропроцессор, механистически выполняющий сколь угодно сложную программу, не тождественен процессу реального понимания смысла выполняемой программы. Отсюда можно размышлять дальше относительно наличия чувств, эмоций и квалиа у такого микропроцессора. А значит и относительно такого феномена, как сознание.
   Именно этим мысленным экспериментом Джон Сёрл ввёл понятия сильного и слабого искусственного интеллекта, где утверждалось, что компьютеры в принципе не могут обладать сознанием. Соответственно его терминологии они не могут выполнять функции сильного искусственного интеллекта. "Китайская комната" спровоцировала самые длительные дискуссии среди исследователей и философов по вопросу сознания и искусственного интеллекта, и окончательного согласия в этом так и не было достигнуто вплоть до наших дней.
   Более подробно вопрос отношения сознания и материи развил философ Дэвид Чалмерс. Он предложил мысленный эксперимент "Философский зомби" и ввёл в философию сознания это понятие. Философский зомби - это гипотетическое существо, которое неотличимо от нормального человека за исключением того, что у него отсутствует сознательный опыт, квалиа, или способность ощущать. Когда зомби, например, колет себя острым предметом, то он не чувствует боли, у него нет опыта боли как у обычного человека. В то же время он может вести себя так, как будто действительно её чувствует, например, программно имитировать проявление эмоций и страданий.
   Так что, сознание плохой критерий для классификации искусственного интеллекта, - подытожил профессор.
  
   - Выходит, в классификации Джона Сёрла искусственный интеллект, основанный на вычислительной технике, не может в принципе быть сильным ИИ. И Ава и Siri - примеры слабого ИИ? - немного растеряно спросил Эдди. - Ведь очевидно, что интеллект Авы ничем не хуже человеческого. А человеческий, очевидно, аналогичен сильному ИИ.
  
   - Хороший вопрос, - профессор сделал одобрительный жест в сторону Эдди. - Из-за того, что у Сёрла в понятии сильного искусственного интеллекта фигурирует сознание, философия искусственного интеллекта, развиваясь, натолкнулась в определении на существенные неоднозначности. Со временем становилось ясно, что нет никаких научных и философских аргументов, связывающих высокие интеллектуальные способности машины с обязательным наличием сознания в этой самой машине. В связи с этим среди специалистов стала возникать некоторая путаница. Иногда становилось непонятным: речь идёт об ИИ, который достиг интеллектуальных способностей человека, или об ИИ, который обладает сознанием. Кроме того, у науки пока нет методов, позволяющих обнаружить наличие сознания не только в машине, но даже и у биологического существа. Поэтому среди специалистов вошло в обиход применять другой термин: универсальный искусственный интеллект. Этим подчёркивается, что речь идёт об ИИ, который способен оперировать знаниями с такой степенью гибкости и творческого подхода, как человек или лучше, независимо от того обладает он сознанием или нет.
  
   - Профессор, вы тоже, как и Сёрл, считаете, что искусственный интеллект на основе вычислительной техники не может понимать и осознавать себя?
  
   - Подобной позиции сейчас придерживается подавляющее большинство специалистов, занимающихся непосредственно созданием систем с ИИ. Лично мне видится, что у науки ещё недостаточно знаний о таком феномене, как сознание, чтобы строить какие-либо уверенные выводы об этом. В своих исследованиях я не касаюсь вопроса наличия сознания. Моей научной целью есть создание универсального искусственного интеллекта.
  
   - Тогда, это может получится такой себе философский зомби? - с некоторой разочарованностью произнёс Эдди.
  
   - Вполне возможно, - согласился профессор. - Возвращаясь к вопросу классификации, можно теперь сказать, что универсальный искусственный интеллект должен обладать интеллектуальными способностями на уровне человека и выше. Он должен уметь решать широкий спектр интеллектуальных задач, самостоятельно исследуя окружающий мир. Слабый искусственный интеллект способен решать только некоторый узкоспециализированный класс таких задач. Например, играть в определённые игры, осуществлять голосовой поиск информации или управлять транспортным средством. В общем же, под понятием искусственного интеллекта сейчас принято понимать область вычислительной техники, которая способна решать задачи, характерные для интеллекта человека.
  
   - Профессор, - обратился Джерри, - Кэтрин говорит, - он кивнул в её сторону и добавил в свою интонацию немного иронии, - что наука бессильна создать искусственный интеллект, который мог бы сравниться с человеком. То есть, она утверждает о невозможности создания универсального искусственного интеллекта. Это действительно так?
  
   Кэтрин слегка насупилась и недовольно толкнула Джерри под ребро своим локтем. Профессор добродушно взглянул на Кэтрин:
  
   - К сожалению, все те примеры роботов, ботов и просто компьютеров, обладающих универсальным ИИ, которые приводили здесь, существуют только в воображении писателей фантастов. Давняя мечта человека создать настоящую интеллектуальную систему с универсальным ИИ остаётся пока нерешённой задачей для современной науки. Действительно, в истории развития науки об искусственном интеллекте не раз высказывались предположения, а иногда и обоснованные гипотезы о невозможности методами вычислительной техники не только воссоздать сознание, но и вообще построить универсальный интеллект. И не раз инженеры и учёные наталкивались на, казалось, непреодолимые трудности в проектировании такой техники. Это приводило к периодам застоя в развитии ИИ, из которых, тем не менее, удавалось выходить благодаря принципиально новым решениям, научным открытиям и прорывам в технологиях. Сейчас, к сожалению, мы находимся в очередном таком кризисном периоде застоя. И, что уже стало характерным для таких периодов, мы всё чаще снова слышим очередные высказывания скептиков о принципиальных ограничениях, которые подвели нас к новому непреодолимому барьеру. Однако в действительности нам пока неизвестны строгие обоснования принципиальной невозможности создания универсального искусственного интеллекта с помощью алгоритмов вычислительной техники. А насколько обоснованы гипотезы современных пессимистов, мы можем попробовать обсудить здесь и сейчас вместе, но сначала всё по порядку. Вспомним историю ключевых событий, с какими трудностями приходилось сталкиваться и как удавалось их преодолевать, чтобы, используя этот опыт, попробовать дать философскую оценку тем проблемам, которые есть сейчас.
  
   Профессор сделал очередной проход по сцене и продолжил:
  
   - Во времена Алана Тьюринга уже существовали первые электронные цифровые вычислительные машины первого поколения на электронных лампах. Сочетание всех этих обстоятельств стимулировало активный интерес к созданию первых программ, реализующих функции слабого искусственного интеллекта. И, конечно, наиболее подходящей областью для таких программ были различные интеллектуальные игры. Это было интересно, казалось наиболее близким к понятию интеллектуальной задачи и человек мог сам непосредственно померяться силами с ИИ, чтобы оценить уровень его интеллекта.
  
   Первую победу в шахматах на доске 6х6 без слонов, машине, именуемой Maniac 1, с тактовой частотой 11 кГц удалось одержать в 1952 году над девушкой, которая недавно научилась играть в шахматы. Машина поставила ей мат на 23 ходу.
  
   Кто-то в аудитории хихикнул:
  
   - Она, наверное, была блондинкой, - послышалось из зала.
  
   Профессор мельком глянул в зал и, слегка улыбнувшись, продолжил:
  
   - Даже с такой форой это было немалым достижением в то время для компьютера на вакуумных лампах и с памятью на трубках Вильямса в 41 килобит. Это был период активных исследований и оптимистических прогнозов. На то время казалось, что как только появится достаточно мощный компьютер, искусственный интеллект легко осилит интеллектуальные способности человека.
   И компьютеры не заставляли себя ждать. В 1956 году был изобретён полупроводниковый транзистор, который ознаменовал появление компьютеров второго поколения. За этим последовало активное развитие технологий, которые совершенствовали элементную базу электронных устройств. Следующий технологический прорыв сделал возможным в 1960 году создание интегральных микросхем и появление компьютеров третьего поколения. Это событие положило начало широкому внедрению персональных компьютеров в обиход и стало называться компьютерной революцией. И наконец, в 1971 году был изобретён микропроцессор - главный мыслительный центр современного компьютера. Так началась самая эпохальная эра - эра компьютеров четвёртого поколения. Компьютеры стали стремительно развиваться. Был сформулирован закон Мура - эмпирическое наблюдение, согласно которому количество транзисторов на кристалле микропроцессора удваивается каждые два года.
   Первое поколение исследователей по искусственному интеллекту были настолько оптимистично настроены, что делали смелые прогнозы относительно своей работы. Аллен Ньюэлл[5] в 1958 году заявлял: "в течение десяти лет цифровой компьютер станет чемпионом мира по шахматам". А в 1970 году Марвин Мински[6] в журнале Life был уверен, что "через три-восемь лет у нас будет машина с общим интеллектом обычного человека".
   Технологии развивались, компьютеры становились быстрее и умнее. Сегодня микропроцессоры есть почти везде, начиная с обычных бытовых электронных приборов и заканчивая системами управления производственными процессами, самолётами и космическими кораблями. Однако в конце 70-х и в начале 80-х годов оказалось, что увеличение быстродействия и объёма памяти компьютеров повышало качественно их умственные способности ненамного. Для получения практически полезных результатов нужно было затрачивать намного больше времени, чем это требовалось для тех же задач биологическим системам. Столь медленные процессы моделирования настораживали некоторых специалистов, работающих в области искусственного интеллекта. К этому времени даже не удалось научить компьютер как следует играть в шахматы, не говоря о достижении общего интеллекта человека.
   Ещё в 1972 году Хьюберт Дрейфус[7] опубликовал книгу "Чего не могут компьютеры", в которой резко критиковались проявления разума у существующих систем искусственного интеллекта. По его мнению, в моделях отсутствовал тот огромный запас неформализованных знаний о мире, которым располагает любой человек, а также способность, присущая здравому рассудку, опираться на различные составляющие этих знаний.
   В 1980 году Джон Сёрл в статье "Разум мозга - компьютерная программа?" высказал принципиально новую критическую концепцию, ставившую под сомнение фундаментальные принципы традиционных подходов в исследовании по искусственному интеллекту, а именно - идею о том, что правильное использование программных алгоритмов может составлять сущность сознательного разума. В отличие от Тьюринга, Сёрл не считал, что мышление сводится к программам.
   Начиналась зима искусственного интеллекта 1974-1980 годов. На смену оптимистическим прогнозам приходило разочарование и переосмысление теоретических подходов. Несбывшиеся высокие ожидания подорвали доверие и охладили интерес агентств финансирования к исследованиям по ИИ.
   Остановлюсь вкратце на двух основных проблемах, с которыми пришлось столкнуться специалистам, и которые имеют значение для нашей темы. Первая - это парадокс Моравека. Существовало распространённое мнение, что, если компьютеру требовался вполне достижимый объём вычислений, чтобы реализовать высококогнитивные логические процессы, то для низкоуровневых сенсомоторных функций тем более будет достаточно такой производительности. На деле же оказалось совсем наоборот. Эти бессознательные функции человека требовали или огромного количества вычислений или вообще были недостижимы с помощью известных алгоритмов. Парадокс Моравека был сформулирован следующим образом: "относительно легко достичь уровня взрослого человека в таких задачах, как тест на интеллект или игре в шашки, однако сложно или невозможно достичь навыков годовалого ребёнка в задачах восприятия или мобильности".
  
   - Профессор, - осторожно обратилась Кэтрин, - недостаток сенсомоторных функций означает, что у компьютера проблема завести друзей и освоить танцы, но очень легко посчитать тройные интегралы?
  
   - А причём здесь друзья? - Джерри не удержался, чтобы не вставить в свой комментарий насмешливые нотки.
  
   - Сам подумай, - невозмутимо произнесла Кэтрин, - как можно с кем-нибудь подружиться, если все люди для тебя на одно лицо и более того могут быть вообще неотличимы от окружающих предметов?
  
   Профессор с особым любопытством посмотрел на Кэтрин:
  
   - Да, верно, в сенсомоторные функции входит способность распознавать визуальные образы, в том числе и способность распознавать лица людей. И, действительно, научить компьютер таким простым, казалось, для нас задачам, которые мы выполняем с детства почти мгновенно и совершенно бессознательно в повседневной жизни, оказалось недостижимым на то время. Лингвист и когнитивист Стивен Пинкер[8] считал это открытие главным уроком, сделанным исследователями искусственного интеллекта.
  
   - Спасибо, - поблагодарила Кэтрин и кинула гордый взгляд на Джерри.
  
   На лице профессора некоторое время ещё сохранялась чуть заметная улыбка. Он продолжил:
  
   - Вторая проблема - это комбинаторный взрыв. Существуют задачи, в которых постепенное увеличение входных данных приводит к резкому экспоненциальному росту временной сложности алгоритма для их решения. Ещё говорят, что рассматриваемый алгоритм не является полиномиальным. Такая проблема характерна для задач, где для поиска решения необходим полный перебор всех возможных вариантов. Например, для компьютера, который способен просчитать в шахматной игре миллион игровых позиций в секунду, на просчёт 6 ходов вперёд потребуется 1 секунда, на 12 ходов - 11 дней, а на 18 ходов - около 32000 лет. При дальнейшем увеличении глубины дерева перебора задача становится трансвычислительной, то есть превышает предел Бремерманна, и становится недостижимой для гипотетически самого мощного цифрового компьютера размером с нашу планету и за период времени равный общему времени её существования. Как оказалось, для реализации многих важных функций искусственного интеллекта, в том числе и сенсомоторных, бо;льшая часть алгоритмических подходов приводила к комбинаторному взрыву. Становилась очевидной огромная и принципиальная разница между человеческим разумом и теми подходами, на которых тогда пытались построить искусственный интеллект исследователи.
   Конечно, на фоне этих неудач многие философы стали высказывать идеи о принципиальной невозможности воплотить человеческое мышление в цифровой машине. Одним из первых был Джон Лукас[9], который утверждал, что теорема Гёделя о неполноте показала, что для любой формальной системы, например компьютерной программы, существуют принципиальные ограничения на выведение истинности базовых утверждений, в то время как для человека такой проблемы не существует. Ещё один известный философ Хьюберт Дрейфус, которого я уже упоминал, высмеял нарушенные обещания 1960-х, критикуя символьную парадигму ИИ. Он утверждал, что человеческое мышление на самом деле включает очень мало "обработки символов" и большое количество воплощённых, бессознательных "ноу-хау". Вспомнили в очередной раз утверждения Джона Сёрла, что если символы не имеют никакого смыслового значения для машины, то и поведение машины не может быть описано как "мышление".
   Тем временем специалисты и учёные разбирались со своими ошибками, изучали человеческий мозг и продолжали искать новые подходы к решению сложных проблем. Благодаря успеху экспертных систем в область исследований ИИ вернулось финансирование. Это был период подъёма 1980-1987 годов.
   Чтобы найти ответы на вопросы, в чём же причина прежних неудач, специалисты с особым вниманием обратились к нейробионике. Если проблема столь сложна, почему бы не подсмотреть у природы, как она реализовала уже эти функции в человеческом мозгу? Это привело к возрождению коннекционизма[10]. В прошлом искусственные нейронные сети подверглись критике и были забыты почти на десять лет. В 1982 году физик Джон Хопфилд смог доказать, что архитектура нейронной сети, теперь называемая "сетью Хопфилда" может изучать и обрабатывать информацию принципиально иным способом. Примерно в то же время Джеффри Хинтон и Дэвид Румелхарт популяризировали метод обучения нейронных сетей, называемый: метод обратного распространения ошибки. Применение усовершенствованных искусственных нейронных сетей позволило значительно улучшить функции оптического распознавания символов и распознавания речи, но ещё не настолько, чтобы полностью решить проблемы, открытые в парадоксе Моравека.
   В период с 1987 по 1993 года исследовательские проекты по искусственному интеллекту снова пережили резкое сокращение финансирования. Основной причиной стал крах рынка специализированного оборудования для ИИ. Настольные компьютеры от Apple и IBM в 1987 году превзошли их по производительности и были значительно дешевле. Экспертные системы оказались слишком дорогими в обслуживании. Их было сложно обновлять, они были неспособны обучаться и имели ряд проблем и ограничений.
   В кругу специалистов и учёных произошло значительное отрезвление. Не было больше амбициозных заявлений и грандиозных проектов по моделированию ИИ сравнимых с интеллектом человека. Становилось понятным, что создание универсального искусственного интеллекта было сверхсложной задачей неопределённого будущего. Дальнейшие исследования по ИИ были в основном сосредоточены на конкретных изолированных проблемах в различных областях практического применения слабого искусственного интеллекта. Здесь нужно отметить ещё одно направление, которое оставалось популярным и продолжало привлекать всех от специалистов и учёных до инвесторов и обычных людей. Это были интеллектуальные игры, где человек мог непосредственно соревноваться с компьютером и оценивать его интеллектуальные способности. И именно игры в дальнейшем позволили значительно исследовать ключевые проблемы ИИ, и сократить тот глубокий провал, который принципиально разделял человеческий интеллект от интеллекта вычислительной машины.
   Долгое время наиболее популярным полем боя между человеком и компьютером оставались шахматы. Компьютеры с трудом совершенствовали свои навыки, пытаясь приблизиться к уровню игры человека. И вот, в 1997 году шахматный суперкомпьютер Deep Blue, наконец, ознаменовал победу искусственного интеллекта над человеком, обыграв действующего чемпиона мира по шахматам. С этого момента человек уступил навсегда шахматную корону машинам, которые сделали первый заметный шаг к "очеловечиванию" своего мышления.
   Однако давайте теперь поразмыслим, какой ценой далась эта победа компьютерам. В начале 90-х прошлого века шахматный компьютер Deep Thought смог достигнуть уровня гроссмейстеров. При этом он за три минуты перебирал около трёхсот шестидесяти миллионов шахматных позиций! Опытный игрок-человек за это время мог проанализировать не более девятисот позиций. Благодаря стремительному развитию электроники и технологии микропроцессоров, железный чемпион Deep Blue уже был способен перебирать за три минуты пятьдесят миллиардов шахматных позиций! Получается, что основным фактором, который обеспечил компьютерам превосходство над человеком, была грубая вычислительная сила. Если оставить для Deep Blue человеческую скорость в триста позиций за минуту, он с треском проиграет. Возникает интересный вопрос, в чём секрет человеческого интеллекта? Как у человека получается мыслить так, что, проигрывая компьютеру на четыре-семь порядков в скорости анализа шахматных позиций, он оказывается для него серьёзным соперником?
  
   Профессор внимательно оглядел из-под очков присутствующих студентов:
  
   - Есть у кого-нибудь идеи? - интригующе спросил он.
  
   - Возможно, компьютеру не хватает способности мыслить творчески, - предположил Эдди.
  
   - Ну, творческое мышление - это больше следствие, чем причина, раскрывающая секрет человеческого мышления. Нас, как учёных, больше интересует алгоритм, который способен обеспечить такой результат мышления. Зная его, мы сможем научить компьютер мыслить аналогично.
  
   Профессор взял со стола пульт дистанционного управления проектором и включил его. На экране появился рабочий стол операционной системы ноутбука, лежащего у него на столе. Он прокрутил несколько графических файлов и, выбрав среди них необходимый, открыл его на полный экран.
  
   На проекционном экране появилось изображение шахматной позиции. Центр шахматной доски занимала стена из белых и чёрных пешек, стоящих зигзагообразно впритык друг к другу и разделяющих доску на две части. На стороне чёрных присутствовали король, две ладьи и слон. Одна ладья находилась под боем белой пешки. На стороне белых был один король.
  
   - В этой позиции чёрные имеют огромное преимущество по фигурам, - прокомментировал профессор. - И все же белые могут очень легко избежать своего поражения, просто делая ходы королём на своей стороне доски. Стена из пешек для черных фигур непреодолима, и черные ладьи или слон не представляют для белых никакой опасности. Это вполне очевидно для любого человека, который в достаточной степени знаком с правилами игры в шахматы. Для этого даже не требуется особых творческих способностей. Эту задачу предложили самому мощному на то время шахматному компьютеру Deep Thought, который уже был способен обыгрывать гроссмейстеров. Он сделал грубейшую ошибку, взяв белой пешкой чёрную ладью, что разрушило заслон из пешек и поставило белых в безнадёжно проигрышное положение. Чего же не хватало компьютеру в этом случае, чтобы избежать столь очевидной глупости?
  
   - Недостаточная глубина дерева поиска, чтобы заметить последствия ошибочного хода, - донеслось с задних рядов.
  
   - Это можно назвать количественной причиной рассматриваемой проблемы в рамках применяемого алгоритма. Компьютер, не видя долгосрочных фатальных последствий, принимает решение выгодное ему на сравнительно недалёкую перспективу. Действительно, если мы увеличим до необходимого уровня глубину ходов, которые компьютер будет просматривать, он сможет избежать для данных условий этой ошибки. Здесь наглядно видно, что шахматному компьютеру Deep Thought недостаточно анализа двух миллионов позиций в секунду, чтобы заметить то, что очевидно для человека. Однако человек это замечает, оценивая всего лишь общее расположение фигур. Ему нет никакой необходимости анализировать для этого дальнейшее развитие игры.
   Если бы всё решалось только достаточным быстродействием компьютера и необходимой глубиной дерева поиска, тогда это не было бы одной из принципиальных проблем в создании универсального искусственного интеллекта. Нам просто необходимо было бы дождаться создания достаточно быстрого компьютера, который смог бы рассчитать все необходимые варианты и выбрать наиболее предпочтительный. Однако, как мы уже знаем из опыта, этого нельзя сделать в принципе. Мы здесь неминуемо попадём на комбинаторный взрыв, получив в итоге трансвычислительную задачу. В данном случае нам необходимы алгоритмы мышления, а не скорость вычислений. Эта проблема куда более фундаментальная, чем просто быстродействие компьютера. Назовём её: ограниченность представлений задачи.
  
   Эдди предложил:
  
   - Можно добавить алгоритм, который будет проверять наличие характерных замкнутых зон на игровом поле, ограничивающих передвижение фигур. Этот алгоритм будет находить такие позиции без перебора дерева поиска ходов. Это позволит добавить полезную стратегию к основным алгоритмам вычисления.
  
   - Это конструктивное предложение, - похвалил его профессор, - оно действительно исключит глупости компьютера для подобных позиций. Однако такие ситуации на доске, где компьютер может не находить решения очевидные человеку, не единственные в своём роде.
  
   - Ну, по мере обнаружения слабых мест в алгоритмах, добавлять к ним новые алгоритмы, устраняющие эти недостатки, - добавил Эдди. - Таким образом, мы постепенно будем делать наш ИИ всё более совершенным.
  
   - Именно так в основном и делалось до определённого этапа развития систем с искусственным интеллектом. Шахматные программы вооружались усовершенствованными алгоритмами поиска, которые позволяли значительно сократить количество вариантов перебора за счёт нахождения и отсечения малоперспективных ветвей в дереве поиска. Появились алгоритмы: минимакс, альфа-бета, дельта-отсечение, мульти-кат, отсечение по нуль-ходу и другие. Параллельно начали развиваться алгоритмы, оценивающие позиции по таким факторам, как мобильность фигур, пешечная структура, безопасность короля, запертые фигуры, контроль центра и другие. Кроме алгоритмов ещё стали использовать базы данных по дебютам и эндшпилям. Это позволяло ИИ становиться умнее без наращивания грубой вычислительной силы, хотя до уровня человека оставалось всё ещё очень далеко.
   Здесь нетрудно заметить, что в основном эти алгоритмы и методы больше выполняли роль вынужденных узконаправленных заплаток, чем претендовали на фундаментальное решение проблемы. Если у машин отобрать их скорость вычислений в сотни миллионов позиций в секунду и вооружить их человеческими пятью позициями за то же время, они не в состоянии будут обыграть и ту девушку, которую одолел Maniac 1.
  
   - Нужен алгоритм, который сам учился бы на собственных ошибках и сам создавал такие "заплатки", - немного неуверенно произнёс Эдди.
  
   - Перспективная идея, - снова похвалил его профессор, - идея, которая в дальнейшем и привела специалистов к развитию методов машинного обучения. Вот только от идеи до её реализации путь был не близок. Чтобы узнать, какие следующие качественные шаги были сделаны, чтобы приблизить нас к заветному универсальному алгоритму, пройдёмся дальше по историческим событиям нашей темы.
  
   Профессор подошёл к столу, достал из тумбы прозрачную пластиковую поллитровую бутылку и отпил из неё немного воды. Он не стал прятать бутылку назад, а попытался поставить её вертикально на столе. Однако та упрямо не желала оставаться в таком положении. После недолгих, но настойчивых попыток, профессор сдался и просто положил её набок, а затем продолжил:
  
   - Помимо шахмат искусственный интеллект развивали и в других интеллектуальных играх. Особенно интересным и драматичным для человека оказалось сражение на поле боя древней китайской игры: го. Долгое время эта игра оставалась одной из самых больших загадок для искусственного интеллекта. Алгоритмы шахматных программ были совершенно непригодны для вооружения ИИ в этом сражении, а грубая вычислительная сила была бесполезной. Дерево поиска ходов в го по количеству ветвлений значительно больше чем в шахматах. Если в шахматах после четвёртого хода возникает около ста тысяч позиций, то в го их число превышает шестнадцать миллиардов! Количество позиций даже в дебюте настолько велико, что создать точную дебютную теорию не представляется возможным, а также малоэффективно применение баз данных в окончании. Это та ситуация, когда алгоритмических заплаток становится всё больше и больше, а существенного прироста в эффективности почти не наблюдается.
   Го - игра с глубоким стратегическим содержанием, сравнимая с настоящим искусством, где исходом правят гармония и интуиция. Некоторое время го считалась исключительно человеческой игрой, неподвластной компьютерам. Ли Ха Чин, генеральный секретарь Корейской ассоциации игры, говорила: "Мы всегда были так горды, что го оставалась единственной игрой, в которой компьютер не мог одолеть человека". На эту тему особенно любили говорить критики ИИ. Высказывались мнения, что уровень игры человека может быть достигнут только в далёком будущем, после того как будет создан сильный искусственный интеллект. Наиболее оптимистично настроенные специалисты предполагали, что это может стать возможным и для слабого искусственного интеллекта, но только лет через десять. Пессимисты утверждали, что человеческий разум уникален и алгоритмические методы никогда не смогут к нему приблизиться.
   Однако развязка наступила достаточно неожиданно. В 2016 году программа AlphaGo, созданная компанией DeepMind, уверенно обыграла без гандикапа сильнейшего профессионала девятого дана. В мире искусственного интеллекта это была настоящая сенсация. Ирония судьбы - ситуация в истории начала меняться. Если теперь специалисты без лишних громогласных заявлений окунулись в работу в своих лабораториях, то вместо них несбывшиеся предсказания стали делать критики.
   Так в чём секрет программы AlphaGo? И приблизилась ли она по гибкости интеллекта к человеку, учитывая, что грубая вычислительная сила не работает в го?
   Предыстория создания этой программы начинается со свёрточных нейронных сетей с глубинным обучением. Теория такой архитектуры появилась ещё в 1988 году, однако реализация и практическое применение началось с 2006 года. Это стало возможным благодаря развитию быстрых графических процессоров. Построение сложных искусственных нейронных сетей требует высокопроизводительного аппаратного обеспечения. Было показано, что графический процессор позволял ускорить необходимые вычисления до 20 раз по сравнению с обычным скалярным микропроцессором. Свёрточные нейросети оказались особенно хороши в задачах по распознаванию изображений и обработке естественного языка. В 2012 году они превзошли человека в распознавании изображений и лиц, а в 2017 году технология WaveNet достигла человеческого уровня по распознаванию и синтезу естественного языка. К этому времени искусственный интеллект смог осилить практически все сенсомоторные функции человека и закрыть перечень проблем, описанных в парадоксе Моравека.
   Работа над программой AlphaGo началась с исследования возможностей свёрточных нейросетей с глубинным обучением для игры го. Принципиальное отличие AlphaGo от рассмотренных нами программ, играющих в шахматы, в том, что она основана на общих принципах машинного обучения и практически не использует алгоритмы и оценочные функции, специфичные для игры в го. Другими словами, ей больше не нужны те многочисленные алгоритмические заплатки, о которых мы говорили ранее. Изначально разработчики заложили в алгоритм программы только базовые принципы игры, остальному она научилась сама, анализируя базу данных из 160 тысяч партий общими методами. Во время игры она использует только нейронную сеть, натренированную на большом количестве партий. Сами же разработчики программы не знали, как AlphaGo оценивает позицию: её ходы представляли собой феномен эмерджентности. Как видим из основных принципов построения программы, успех игры AlphaGo не в грубой вычислительной силе, а в самостоятельно накопленном опыте, основанном на алгоритмах машинного обучения.
   Надо заметить, что кроме более эффективных и умных алгоритмов, для AlphaGo также было применено высокопроизводительное аппаратное обеспечение. Для того чтобы искусственные нейросети могли выполнять свои функции в реальном масштабе времени требовалась достаточно высокая производительность вычислительной техники. Специально для искусственных нейросетей в 2016 году был спроектирован новый тип микропроцессора, названный тензорный процессор, и представляющий собой матричный механизм умножения-сложения для свёртки матриц. Такая архитектура обеспечивала ускорение вывода результатов нейросетей в 15-30 раз быстрее, чем графический процессор. AlphaGo была запущена на 48 таких тензорных процессорах первого поколения.
   Говоря ранее о грубой вычислительной силе, мы под этим рассматривали алгоритмы, осуществляющие перебор вариантов в дереве поиска. По мере того, как искусственный интеллект становится у нас всё умнее и умнее, он всё больше избавляется от этой привычки, заменяя её более интеллектуальными методами. Нужно заметить, что прогресс в разработке более совершенных алгоритмов, реализующих функции ИИ, не был бы возможен без успешного развития микроэлектроники. Это ещё один важный фактор. Грубая сила всё-таки имеет значение, но не так для ускорения вычислений перебора, как для обеспечения выполнения "умных" алгоритмов в реальном масштабе времени.
   К 2018 году стало ясно, что человек навсегда сдал позиции искусственному интеллекту во всех логических настольных играх. В 2019 году была представлена новая программа на искусственных нейронных сетях - AlphaStar, которая должна была обойти человека в более сложных задачах, в компьютерных играх. Игра StarCraft - это выдуманная фантастическая вселенная с богатым и многоуровневым геймплеем. В последние годы она считалась одной из самых многогранных и сложных стратегий реального времени и одной из самых популярных на сцене киберспорта за всю историю. Теперь StarCraft стала ещё и главным вызовом для исследователей ИИ. В отличие от логических игр с полной информацией сложность StarCraft для ИИ заключалась в нескольких факторах: отсутствие единой победной стратегии, игра с неполной информацией, долгосрочное планирование и огромное пространство действий.
   AlphaStar разгромила сильнейших профессиональных игроков в StarCraft II со счётом 10:0. Не остаётся сомнений, что с этого момента ИИ способен обойти человека во всех узкоспециализированных задачах. Без преувеличения можно сказать, что развитие искусственных нейронных сетей с методами машинного обучения стало следующим огромным шагом вперёд, закрывшим все на то время принципиальные проблемы. В том числе и дало понимание того каким образом можно преодолевать рассмотренную нами ограниченность представлений задачи, которую продемонстрировал шахматный компьютер Deep Thought.
   На смену старым проблемам пришли новые. Казалось, что дальнейшее развитие искусственных нейросетей позволит реализовать универсальный алгоритм. Однако очень быстро стало ясно, что более развитые нейросети требовали более производительных компьютеров.
   Огромный скачок в технологиях был сделан два года тому назад. Как всем известно, тогда был создан первый в мире квантовый полупроводниковый микропроцессор благодаря появлению технологии импульсного магнитного охлаждения отдельных атомов на кристалле. Характерные для нейросетей матричные операции, а также ещё некоторые виды специфических вычислений, могут выполняться на квантовых микропроцессорах с квантовым ускорением. Это был огромный прорыв. Тот объём вычислений, который выполняла AlphaGо в 2016 году, теперь может быть выполнен при дополнительной помощи одного квантового микропроцессора широкого применения, примерно, в тысячу раз быстрее. И это не предел.
   Для раскрытия потенциала квантовых микропроцессоров необходима разработка различных квантовых алгоритмов, что само по себе тоже непростая задача. С помощью квантовых алгоритмов задаётся определённый порядок унитарных операций над кубитами, которые и делают возможным необходимые вычисления на таком микропроцессоре. Потенциал квантовых микропроцессоров ещё полностью не раскрыт. Теоретически ещё существует довольно обширная область вычислений, для которых можно получить квантовое ускорение, но соответствующие квантовые алгоритмы ещё предстоит написать.
   На сегодняшний день венцом творения, воплотившем в себе все достижения в области искусственного интеллекта, стал робот, разработанный в нашей лаборатории - мы все зовём его Малыш. На нём мы исследуем современные алгоритмы искусственного интеллекта. Одна из популярных задач, с решения которой он начал демонстрировать свои успехи, называется: тест малыша. Отсюда, кстати, и имя, которым нарекли его с лёгкой руки мои коллеги. Заключается тест в том, что сначала Малышу показывают альбом с различными контурными рисунками для раскраски. Затем оператор даёт устную директиву, чтобы Малыш выборочно раскрасил какой-нибудь из них.
   Эта задача легко выполнима для малого ребёнка, однако долгое время её приводили в различных дискурсах как пример несостоятельности компьютерного интеллекта, который был неспособен самостоятельно выполнить весь комплекс необходимых действий.
   Для того чтобы Малыш смог выполнить эту задачу, мы его сначала обучали рисовать. Показывали на примерах определённые действия и затем просили повторить. Мы взаимодействуем с ним посредством естественного языка и прямой демонстрации. Соответственно он понимает человеческую речь, разговаривает, способен воспринимать и запоминать визуальную информацию. Здесь нужно заметить, что владение естественным языком и моторикой своего тела, умение ориентироваться в пространстве и взаимодействовать с внешним миром он тоже приобретал в процессе обучения с нуля. Как вы уже догадались, наш Малыш успешно справляется с этой задачей.
   Со временем мы усложняли ему условия. Он был вынужден сам искать в пространстве комнаты необходимый инструмент для раскраски. Это могли быть карандаши различной формы, с которыми раньше он был незнаком. Кроме карандашей мы ещё подкладывали имитаторы. Сначала он путался, но по мере накопления собственного опыта делал всё меньше и меньше ошибок, подмечая различия и классифицируя новые внешние качества предметов.
   После теста малыша мы научили его успешно выполнять похожий тест на кофе, предложенный Стивом Возняком[11]. Заключался он в том, чтобы войти в случайный дом, найти кофе-машину, приготовить кофе и разлить его по чашкам. При своей наглядности и простоте задачи для человека этот тест был недостижим для самых продвинутых ИИ, созданных до нашего Малыша. К сожалению, наш Малыш ещё не настолько мобилен, чтобы ходить по случайным домам, да и люди в своей массе не настолько гостеприимны, чтобы позволить это, - профессор улыбнулся. - Все условия теста мы воссоздавали у себя в лаборатории аналогично тесту малыша.
   Затем последовали различные задания с конструктором Lego. Там сложность самостоятельного обучения была ещё выше. Таким образом, он уже был способен самостоятельно расширять свои знания об окружающем мире: проделывая эксперименты и результаты своего опыта добавляя в семантическую память своих знаний.
   Следующий и последний шаг - универсальный искусственный интеллект. И это то, над чем сейчас мы активно работаем. Несмотря на то, что мы смогли по отдельности с успехом воплотить в ИИ все способности интеллекта человека, объединить всё это в целостную самостоятельную систему пока никак не удаётся. Эта задача оказывается пока непреодолимым и в некоторой степени даже загадочным барьером. Для реальной жизни между интеллектом человека и интеллектом машины всё ещё огромная пропасть. Человек, в отличие от компьютера, самостоятельно приспосабливается к социальному окружению и физическому миру, играет в различные игры, творит искусство, пишет алгоритмы и создаёт научные теории.
  
   - Профессор, - обратился Эдди, - вы говорили, что для реализации нейросетей нужны более мощные компьютеры. Я читал, что производительность современных микропроцессоров отстаёт ещё на целые порядки от производительности человеческого мозга. Я думаю, это должно быть существенным ограничением в реализации универсального ИИ.
  
   - На самом деле это на данный момент не есть большой проблемой. Для того чтобы разобраться, давайте посчитаем. Обычно подобные сравнения производительности достаточно приблизительны - довольно сложно провести аналогию между строением головного мозга и архитектурой электронных микропроцессоров. Нам известно, что мозг человека в среднем содержит около 86 миллиардов нейронов. Каждый нейрон в среднем имеет 7000 синаптических связей с другими нейронами. Это значит, что в человеческом мозгу имеется приблизительно 6х10^14 синапсов. Каждый синапс имеет около тысячи молекулярных триггеров, каждый из которых может описываться одним транзистором. Таким образом, мы можем грубо оценить эквивалент строения мозга в транзисторах, который получается равным 6х10^17 транзисторов. Ещё мы знаем, что скорость переключения молекулярных триггеров равна примерно 1000 герц. Если мы представим вычислительную мощность мозга как количество транзисторов на скорость переключения, то получим число - 6х10^20.
   Теперь оценим в тех же наших условных единицах возможности применяемых микропроцессоров. Ещё в 2017 году появился микропроцессор от компании Qualcomm, Centriq 2400 - 18 миллиардов транзисторов с тактовой частотой 2,6 гигагерц. Условная вычислительная мощность - 4,68х10^19. В среднем современные микропроцессоры, применяемые в системах с ИИ, будут иметь в этих условных единицах сравнимую производительность. У большинства кристаллов меньшее количество транзисторов, но больше тактовая частота. И - да, это на целый порядок меньше, чем условная производительность человеческого мозга.
   На первый взгляд может показаться, что разрыв очень велик, однако стоит подумать ещё над некоторыми критериями оценки. Объём человеческого мозга в среднем равен 1300 кубических сантиметров, а объём кристалла современного микропроцессора всего 0,8. Получается, что в объёме, который занимает наш мозг, может поместиться более 1500 таких кристаллов. В связи с этим вспомним, что микропроцессор - это только часть общей вычислительной системы, выполняющий непосредственно сами вычисления. Аналогично ему и в человеческом мозгу за высшие психические функции отвечают только определённые области, сосредоточенные в основном в неокортексе, который содержит около 12 миллиардов нейронов. В переводе на нашу условную вычислительную мощность - это 8,4х10^19, на порядок меньше в сравнении со всем мозгом. Это два микропроцессора Centriq 2400.
   Нам ничто не мешает объединить несколько процессоров для необходимых вычислений. Например, тензорный процессор первого поколения содержал в себе 2,5 миллиарда транзисторов. 48 таких процессоров, используемых для программы AlphaGo, насчитывали 120 миллиардов транзисторов. Работали они на частоте 700 мегагерц. Получаем число условной вычислительной мощности 1,2х10^20. Это уже превышает условную вычислительную мощность неокортекса.
   Далее, аналогично человеческому мозгу, для работы микропроцессора необходима оперативная и долговременная память. Человеческая память, так же, как и высшие когнитивные функции, занимает определённые участки мозга со специализированными нейронными структурами. Вся долговременная память и большая часть рабочей памяти располагаются в различных долях коры головного мозга. Рабочая память зависит ещё от базальных ганглиев. Если мы снабдим искусственный интеллект постоянной SSD TLC памятью, скажем, в 100 терабайт, нам понадобится 65 микросхем или кристаллов памяти с общим количеством транзисторов 3,3х10^13. Учитывая скорость их переключения в 1200 мегагерц, мы можем рассматривать производительность этой памяти как дополнительный прирост условной вычислительной мощности на 4х10^22. Это теперь уже превышает расчётную мощность всего мозга и при этом занимает всё ещё меньший от него объём.
   Как правило при подобном сравнении сравнивают весь мозг с одним микропроцессором, что есть не совсем корректно. Когда в вычислительной системе мы рассматриваем общие вычислительные ресурсы, а не только один экземпляр микропроцессора, а также выделяем в человеческом мозгу основные для высших функций области, сравнение вычислительной мощности оказывается в пользу вычислительной системы. Конечно, кроме неокортекса и областей, отвечающих за память, мозг содержит и другие функциональные области. Например, гиппокамп, который играет важную роль в переработке и запоминании информации. Его можно сравнить с котроллером памяти и конвертором формата хранимых данных. Соответственно нам ещё будет необходима системная и периферийная логика, но их вклад в наши расчёты вычислительной мощности будут уже незначительные, а по объёму это всего лишь ещё несколько специализированных кристаллов.
  
   - Выходит, уже в 2015 году, микроэлектроника достигла сравнимой с человеческим мозгом производительности? - донёсся вопрос из зала. - А как же Blue Brain Project? Ведь симуляция мозга человека не завершена до сих пор, несмотря на практическое применение квантовых компьютеров в наше время.
  
   - Blue Brain Project ставит перед собой цель реконструировать мозг на уровне биологически реалистичной модели нейрона. Это требует значительно бОльших вычислительных мощностей, чем только реконструкция нейронной сети мозга методами искусственных нейронных сетей второго поколения. Как известно, в биологических нейронных сетях связь между нейронами не непрерывная, а импульсная, со сложной кодировкой, которая синхронизируется с различными ритмами мозга. По этому принципу значительно ближе искусственные нейросети третьего поколения, называемые импульсными или спайковыми нейронными сетями. Ещё связь между нейронами в головном мозгу осуществляется не только через аксоны, но и через астроциты. А ещё есть цитонемы, которые доставляют к синапсам сигнальные белки. Кроме того, для этого моделирования не используются квантовые микропроцессоры из-за несоответствия принципа квантовых вычислений естественным вычислительным процессам в мозгу. Это скорей проект по изучению биологического мозга, чем по созданию искусственного интеллекта.
  
   - Так, может для моделирования когнитивных способностей интеллекта нашего мозга эти все условия играют принципиально важную роль? - спросил Эдди.
  
   - Возможно, - профессор пожал плечами, - мы многого ещё не знаем о человеческом мозге. Однако для разработок систем с искусственным интеллектом в этом пока нет необходимости. Известные нам знания о вычислительных системах и нейронных сетях не накладывают принципиальных ограничений на создание искусственного интеллекта любой сложности, сравнимой с возможностями нашего мозга.
  
   Профессор подошёл к столу и снова отпил немного воды из пластиковой бутылки.
  
   - Конечно, справедливости ради необходимо заметить, - продолжил он, - что все эти наши расчёты очень приблизительны и спекулятивны. Реально не существует ещё техники, которая смогла бы при сравнимом объёме и энергопотреблении симулировать человеческий мозг. Дело в том, что у нас пока нет микропроцессоров, которые обладали бы такой естественной архитектурой нейросетей на интегральном уровне. Наша вычислительная техника вынуждена эмулировать их на своей традиционной фон-неймановской архитектуре. Это отнимает значительно больше вычислительных ресурсов на значительно большем количестве транзисторов. Для того чтобы обойти эту проблему, велись и ведутся поиски таких архитектур микропроцессоров, которые были бы максимально эффективны именно для вычислений на искусственных нейросетях. Сначала выяснили, что для этих целей были более эффективны графические векторные процессоры, а затем были разработаны тензорные процессоры, которые используются нами и по сей день вместе с квантовыми микропроцессорами.
   Например, в первое время программа AlphaGo запускалась на 1202 обычных скалярных процессорах и 176 графических процессорах, работающих в распределённой конфигурации! Это значит, что всё это аппаратное обеспечение даже не находилось в одном каком-нибудь месте. Это тысячи компьютеров, расположенных в разных местах, соединённых в одну сеть. После появления тензорных процессоров первого поколения, AlphaGo уже работала на 48 таких процессорах, которые помещались в стойке для серверного оборудования. А после появления процессоров второго поколения - понадобилось всего лишь четыре процессора, распаянных на одной плате.
  
   - А почему бы не сделать настоящий нейронный процессор? - поинтересовался Джерри.
  
   - Вообще, такие нейроморфные процессоры, конечно, существуют, но пока они слишком несовершенны, чтобы на их основе можно было построить достаточно сложную нейросеть. Довольно проблематично развести на полупроводниковом кристалле из кремния квадриллион аксонов и затем мультиплексировать их в произвольном порядке с соответствующими синапсами.
  
   - А может и фон-неймановская архитектура не так плоха? - предположил Джерри. - Возможно проблема в том, что мы пытаемся только копировать решение, которое нашла природа? Ведь могут существовать и другие подходы?
  
   - Да, действительно, - согласился профессор, - не всё, что мы берём у природы, есть оптимальным решением для нас. На заре конструирования летательных аппаратов человек тщательно изучал, как птицы машут крыльями, чтобы построить механизм аналогичный этому принципу. Однако теперь мы знаем, что современные самолёты крыльями не машут и летают эффективней птиц. Возможно, так когда-нибудь будет и с искусственным интеллектом. А пока мы не знаем других архитектурно-алгоритмических подходов, кроме нейронных сетей, которые могли бы реализовать с такой же эффективностью сенсомоторные функции, владение естественным языком, машинное обучение и творчество. Возможно, кто-нибудь из вас и найдёт альтернативное решение этой проблемы в недалёком будущем.
   Однако, несмотря на существующие проблемы, в нашей лаборатории уже функционирует вычислительная система, которая способна эмулировать нейронные структуры человеческого мозга в реальном масштабе времени. Она занимает стандартную стойку серверного оборудования. На основе этого аппаратного обеспечения существует наш Малыш.
  
   - Профессор, а какие процессоры используются в этом суперкомпьютере? - глаза у Джерри загорелись, как только речь зашла о реально действующем искусственном интеллекте.
  
   - В его составе: 32 тензорных процессора седьмого поколения, 18 векторных процессоров, четыре 16-ядерных скалярных процессора и два квантовых процессора, состоящих из 512 параллельных конвейеров с 1024-кубитными регистрами.
  
   - А какое общее количество транзисторов и вычислительная мощность?
  
   - У процессоров - 3,8х10^11 транзисторов, у памяти - 1,7х10^14. Отсюда с учётом тактовых частот общая условная вычислительная мощность 2,1х10^23. Однако для квантового микропроцессора такой расчёт некорректен, из-за совершенно иных принципов вычисления. Один 1024-кубитный квантовый регистр, состоящий всего из пяти тысяч транзисторов, может решать некоторые виды задач с комбинаторным взрывом за доли секунд.
  
   - Этого достаточно чтобы создать универсальный искусственный интеллект?
  
   В вопросах Джерри была заметна такая себе по-детски непосредственная восторженность. Кэтрин кинула на него слегка ироничный взгляд, хмыкнула и отвернулась. Профессор ответил:
  
   - Мы надеемся на это, но, к сожалению, несмотря на наличие столь мощного суперкомпьютера, мы пока далеки от решения данной задачи. На самом деле мы сейчас достигли очень многого. Мы свели в единую интеллектуальную систему все лучшие достижения с различных направлений. Наш искусственный интеллект теперь может продемонстрировать в комплексе решение любых интеллектуальных задач, на которые способен интеллект человека. Мы построили обоснованную теорию универсального искусственного интеллекта...
  
   До этого внимательно наблюдавший за лекцией Брайан Хенсли, опережая профессора, закончил его фразу вопросом с явно провокативной интонацией:
  
   - Однако несмотря на успешную имитацию всех интеллектуально-ментальных функций интеллекта человека универсальный искусственный интеллект так и не получился?
  
   - Да, пока не получается, - профессор выделил интонацией слово "пока", - несмотря на то, что рабочий прототип подтверждает нашу теорию.
  
   - Как это понимать?
  
   - Я покажу пример известной задачки, с которой современный ИИ не может справиться самостоятельно, если его специально не обучали для этого.
  
   Профессор поднял со стола пульт, и на проекционном экране появилась шахматная доска, полностью замощённая костяшками домино. Каждая костяшка закрывала собой две клетки шахматной доски.
  
   - Здесь показано решение задачи, которая ставит вопрос: возможно ли расположить костяшки домино таким образом, чтобы полностью замостить шахматную доску? Каждая костяшка закрывает собой две смежные клетки чёрную и белую, при этом нельзя, чтобы две костяшки накладывались друг на друга, попадая на одну и ту же клетку доски. Таких вариантов замощения может быть очень много, и находятся они довольно быстро простым подбором. Для компьютера эта задача решается тоже просто. Здесь не требуется перебирать большое количество вариантов, чтобы найти первое подходящее решение. А вот другая, изменённая задача.
  
   Теперь на проекционном экране появилась рядом с первой шахматной доской ещё одна, пустая, но на противоположных её углах было теперь вырезано по белому полю[16].
  
   - Условия задачи те же, ответить на вопрос: возможно ли замостить костяшками домино шахматную доску, но уже с отсутствующими двумя белыми клетками? Эту головоломку предложил философ Макс Блэк ещё в 1946 году как пример задачи с экспоненциальной сложностью для автоматизированных систем доказательств. Теперь, чтобы ответить на этот вопрос, компьютер, работающий по алгоритму дерева поиска, должен перебрать десять в двадцать третьей степени вариантов замощения. Для шахматного компьютера Deep Blue, чтобы осуществить перебор всех вариантов, понадобилось бы триста семнадцать тысяч лет беспрерывной работы! А как насчёт человека? Сколько ему нужно времени, чтобы решить эту задачу? - профессор снова интригующе оглядел всех присутствующих.
  
   Во втором ряду на другой стороне от Джерри и Кэтрин скромно поднял руку студент в минусовых очках, достаточно сильных, чтобы это можно было заметить, однако Джерри опередил его:
  
   - Это сделать невозможно.
  
   - Как вы пришли к этому решению? - спросил у него профессор.
  
   - Для этого необходимо обратить внимание на особенность расположения костяшек домино на шахматной доске. Как бы мы не располагали костяшки, каждая закрывает два разных по цвету поля. Это значит, чтобы замостить полностью доску, необходимо одинаковое количество чёрных и белых полей. После того как у шахматной доски удалили два белых поля, количество белых и чёрных полей стало неодинаковым.
  
   - Да, правильно. При достаточной внимательности, человек таким ходом рассуждений может получить достаточно изящное решение этой задачи.
  
   - Профессор, Джерри бы сам не додумался, - смеясь, отозвалась рядом Кэтрин, - ему и четыреста тысяч лет не хватило бы на это решение. Он знал ответ, головоломка-то, известная.
  
   - Зато, Кэтрин до сих пор не понимает, что такое алгоритм, - парировал уязвлённо Джерри и предусмотрительно отодвинулся от неё.
  
   - Алгоритмы не мой профиль, у меня гуманитарное направление, - ответила Кэтрин. - А это свободная лекция, мне стало любопытно про искусственный интеллект, вот я и пришла послушать.
  
   - Ну, то, что он запомнил, тоже похвально, - произнёс профессор. - Умение самостоятельно накапливать опыт и затем его применять - это одна из особенностей, отличающая интеллект человека от компьютера. А что касается алгоритмов, то аналогию им можно найти в кулинарной книжке или в любой другой инструкции, например, для покраски волос.
  
   - Спасибо, профессор, за пояснения таким нубам, как я, - улыбнулась Кэтрин, - это слово оказывается не настолько страшным, как звучит.
  
   Профессор продолжил:
  
   - Эта задача аналогична той, на которой споткнулся шахматный компьютер Deep Thought. Проблема ограниченности представлений задачи. Чтобы задать пространство поиска, необходимо соотнести задачу с конкретным представлением. Если ввести в предметную область семантической сети закономерности цветового распределения полей и их геометрического перекрытия костяшками домино, ИИ решил бы её очень быстро, использовав более эффективный подход. Если задача с шахматной позицией могла решаться обучением нейросетей игре в шахматы, то в данном случае опыт игры в шахматы и тем более в другие игры не поможет решить задачку Макса Блэка. Она более общая, требующая широкого опыта взаимодействия с окружающим миром. Теперь нам необходим алгоритм, который способен самостоятельно формализовать различные представления любого класса задач, с которыми можно столкнуться в реальной жизни, и выбирать из этих альтернатив оптимальное представление. Это алгоритм, который с нуля может научиться всему.
  
   Брайан Хенсли немного привстал и указал на проекционный экран:
  
   - Профессор, я думаю, есть принципиальное препятствие научить компьютер решать подобные задачки. Для того чтобы искусственный интеллект смог сам формализовать и выбирать оптимальное представление задачи, он должен выйти за рамки своей формальной системы, а это невозможно, потому что любой алгоритм - это и есть ограниченная формальная система. Человек способен мыслить неформально, интуитивно, осознанно. Чтобы наделить искусственный интеллект такими способностями, нам необходимы иные принципы его устройства, чем просто выполнение одних только алгоритмов. Возможно, он должен обладать сознанием.
  
   - Это очень интересное возражение, - отреагировал профессор. - В конце двадцатого века это мнение было довольно распространённым среди некоторых учёных и специалистов. Оно подкреплялось строгими математическими соображениями, основанными на теореме Гёделя о неполноте. Да, действительно, в рамках любой формальной системы невозможно решение так называемых невычислимых задач, которые обязательно существуют в ней. Известный пример такой задачи - это десятая проблема Гильберта или проблема остановки на машине Тьюринга. Первым эту идею высказал Джон Лукас в 1959 году, а затем её подробно рассмотрел Роджер Пенроуз[12] в 90-х.
   Поиск оптимального представления задачки Макса Блэка тоже может считаться невычислимой в рамках формальных систем, где необходимые предпосылки ещё не формализованы изначально. А создавать формальные системы или формализовать структуру нового алгоритма считалось исключительной способностью человека, который каким-то таинственным образом может выходить за рамки любых формальных систем.
   На самом деле здесь нет ничего таинственного. Вся эта невычислимость совершенно справедлива только для алгоритмов, которые изолированы от внешнего мира, их называют закрытыми алгоритмами[13]. Алгоритмы, которые могут изменяться или корректироваться посредством поступления новой информации извне вместе с сигналами подкрепления, способны легко выходить за рамки только вычислимых задач. Их соответственно называют открытыми алгоритмами[14]. В эту категорию входят алгоритмы машинного обучения на искусственных нейросетях, активно использующие разнообразные эвристики.
   Одно из ранних самых наглядных опровержений этой идеи - это программа AlphaGo. Она использовала открытые алгоритмы глубинного обучения на свёрточных нейронных сетях. Особенность таких сетей в том, что сеть сама иерархично выделяет признаки, по которым ей легче классифицировать абстракции. На начальном этапе у неё нет никаких жёстко-формализованных алгоритмов непосредственно для победной стратегии в игре. Программа учится с нуля, накапливая опыт и выделяя в нём различные закономерности и паттерны. Затем классифицирует их и применяет для решения поставленных задач. Это пример, как машина находит невычислимые решения с помощью самостоятельной эвристики. Это очень близко к тому, как работает интеллект человека. Основа его работы - это опытное взаимодействие с различными явлениями актуальной действительности. Это базовый открытый алгоритм с обратной связью, способный обучаться и корректировать своё поведение для достижения необходимого практического результата. Эти все процессы не есть строгими операциями в рамках какой-то первоначально фиксированной формальной системы. Метод проб, ошибок, удачных идей и заблуждений. Различная формализация накопленной опытным путём информации возникает вторично в качестве дополнительного аналитического инструмента.
  
   - Профессор, то, как вы описали поиск представления задачи интеллектом, очень напоминает действия, которые выполняются при участии нашего сознания, - с сомнением добавил Брайан Хенсли. - Если невычислимость на самом деле не проблема, то что же мешает вашему ИИ мыслить универсально?
  
   Профессор опустил голову и не спеша прошёлся по сцене, некоторое время размышляя.
  
   - Если бы я знал точно ответ на этот вопрос, я бы уже имел модель действующего ИИ, который был бы способен оперировать знаниями с такой же степенью гибкости и творческого подхода, как человек.
  
   - Может, всё-таки потому, что сознание играет важную роль в интеллектуально-ментальной деятельности человека?
  
   - Вопрос сознания находится сейчас больше в философской области, чем в научной. Кто, например, из вас, сидящих здесь в этой аудитории, сможет доказать мне, что обладает сознанием? - профессор сделал паузу, выжидающе осматривая присутствующих.
  
   Брайан Хенсли продолжил дискуссию:
  
   - Я знаю, что я обладаю сознанием. Из соображений видовой генетической идентичности всех гомо сапиенс, я справедливо могу предполагать, что и все остальные люди, утверждающие наличие у себя сознания, также обладают сознанием. Соответственно у людей не возникает сомнений, что мы все обладаем сознанием.
  
   - Предположить вы это можете, но достоверно определить - нет. Как нам определять, обладают ли другие виды живых организмов на планете сознанием? Как нам определить, что наш искусственный интеллект будет обладать сознанием? И вы, лично, всегда ли обладали сознанием?
  
   - Возможно, когда я родился, сознания у меня ещё не было, - предположил Брайан Хенсли.
  
   - А когда оно у вас появилось?
  
   - Я себя плохо помню в раннем детстве, - он задумался. - Наверное, с того времени, с которого имею первые осознанные воспоминания.
  
   - Что вы можете сказать по поводу идентичности вашего сознательного состояния в самых ранних воспоминаниях и сейчас?
  
   - Ну, возможно, разница была. Описать это трудно. Но какое это имеет отношение к искусственному интеллекту?
  
   - На данный момент наука не имеет представления о том, как возникает феномен сознания. Некоторые соображения мы можем сделать, интроспективно анализируя собственные состояния сознательного опыта. Например, то, что сознание не появляется само по себе, а постепенно формируется с развитием интеллектуальной и ментальной деятельности мозга. Это важное наблюдение, которое говорит нам, что несмотря на отсутствие сознания в момент рождения наш мозг уже тогда обладал тем универсальным алгоритмом, который позволял практически с нуля обучаться и познавать окружающий мир. Сознание возникло вторично. А если такой универсальный алгоритм существует, то нам достаточно предоставить ему возможность действовать. У нас нет принципиальных оснований сомневаться в его существовании. Более того, у нас в лаборатории есть много моделей действующих алгоритмов машинного обучения, которые демонстрируют функции адаптации к окружающей среде и способности к такому метапознанию.
   В середине первого курса запланирована экскурсия в нашу лабораторию. Там можно будет посмотреть реальные возможности наших моделей с ИИ. У нас есть популяция аниматов, которые с нуля учатся жить в группе, социально взаимодействуя между собой и адаптируясь к искусственно созданной динамической среде. Нам нет необходимости озадачиваться ещё вопросом сознания. Всё, что необходимо для реализации интеллектуальных функций ИИ любой сложности, теоретически может быть реализовано через открытый алгоритмический подход. И на практике мы имеем этому подтверждение.
  
   - Что же мешает найти этот универсальный алгоритм? И почему вы так уверены, что за этой проблемой не может стоять необходимость ещё в каком-нибудь важном компоненте, отличном от одних только алгоритмов обычной вычислительной системы?
  
   - Я, конечно, не могу быть уверенным в этом наверняка. Однако я намеренно ознакомил всех присутствующих в аудитории с краткой историей развития искусственного интеллекта, чтобы можно было в наших рассуждениях учесть соответствующий познавательный опыт. Каждый раз, когда наука упиралась в какую-нибудь сложную и непреодолимую на каком-то этапе исследований проблему, с особой активностью подымались разговоры о принципиальных ограничениях и о невозможности создать универсальный искусственный интеллект только на основе вычислительной техники. В некотором роде это можно сравнить с тем, что мы имеем сейчас. История подтверждает известный научный принцип, что, не имея достаточных оснований для опровержения рабочей теории, нет смысла придумывать новую загадочную сущность, которая якобы могла бы объяснить или решить возникшую проблему. Уместно здесь вспомнить и бритву Оккама: не следует множить сущее без необходимости.
  
   - Профессор, - обратился с новым вопросом Брайан Хенсли, - вы сказали, что ваш ИИ способен продемонстрировать решение любых интеллектуальных задач, на которые способен интеллект человека. Однако в успехах вашего Малыша не видно демонстрации творческих способностей, умения создавать что-то принципиально новое. Возможно, это и есть та проблема, которая мешает ему стать универсальным ИИ?
  
   - На самом деле, для того чтобы справляться со своими задачами Малыш вынужден применять творческие алгоритмы. Например, для поиска подходящего предмета, для которого у него ещё нет опыта распознавания и с помощью которого можно раскрасить альбом. Простой алгоритм творческого процесса представляет собой ассоциативный поиск с некоторой вариативностью, задаваемой функцией плотности вероятности распределения, например, гауссианой. Пространством поиска здесь выступает реальное пространство в комнате, а ассоциативной вариативностью - знания о комбинации базовых признаков для распознавания необходимого предмета, которые случайным образом варьируются в статистических границах функции. Это даёт возможность решить задачу с условиями, с которыми ранее он ещё не сталкивался.
  
   Брайан Хенсли, поразмыслив, высказал ещё одно сомнение:
  
   - Профессор, поиск карандашей вариативными ассоциациями как-то сложно назвать творческим процессом в широком смысле этого понятия.
  
   - Почему? Что вас здесь смущает? - профессор хитро прищурился.
  
   - Ну а как же, например, создание произведений искусств?
  
   - Насколько известно, даже у человека это происходит подобным образом. Можем рассмотреть на примере того, как свёрточные нейронные сети с глубинным обучением рисуют свои картины.
  
   Профессор подошёл к ноутбуку на столе, и на проекционном экране появилась картина с необычными замысловатыми сюрреалистическими образами, где угадывалось лицо человека, плавно переходящее в ветвистое дерево, а ветви дерева в извивающихся змей. На заднем плане угадывался горный горизонт, где горы частично напоминали башни замков. В небе парили странные гибриды рыб с птичьими крыльями. Во всём этом чётко прослеживался некий стиль: частично напоминающий аэрографию, частично выраженный в рельефных изгибах контуров контрастных элементов изображения и намеренно ограниченной цветовой палитры, состоящей из плавных полутонов нескольких основных цветов.
  
   - Этот рисунок нафантазировала генеративная нейронная сеть, которую мы специально обучали для этого, - прокомментировал профессор. - Сначала мы пропустили через неё около сотни тысяч фотографий разнообразной тематики. Затем научили её разнообразным художественным приёмам и стилям, показывая произведения искусств различных направлений и школ. В этом случае она классифицировала не сами изображения, а технику контуров, форм и цветовых сочетаний. Затем мы привили ей чувство меры и вкуса, если можно так выразиться, чтобы нейронная сеть не перегружала рисунок чрезмерным количеством нафантазированных элементов и заботилась о содержательности и проработанности заднего плана. Для этого профессиональный художник делал поправки в нарисованных картинах, и затем отредактированные варианты пропускали снова через нейронную сеть для сравнения с оригиналом, чтобы сеть запоминала советы учителя.
   Секрет творчества нейронной сети также основывается на вариативных ассоциациях. Чтобы нейронная сеть начала фантазировать и писать картины, достаточно сильно расширить диапазон вариативности и затем предложить ей найти образы в простом шуме. Мы как-бы говорим нейросети, что даже если ты и не видишь никакого образа в этом шуме, ты всё равно должна что-то оттуда вытащить. И она находит, выделяя в нём малейшие случайные намёки на какие-то образы, которые она уже знает.
   Из простого шума получаются хоть и забавные картины, но слишком хаотичные и бессмысленные. Более интересные результаты получаются из случайного набора каких-нибудь фигур и линий. А ещё более интересные метаморфозы образуются из комбинации такой бессодержательной графики и какого-нибудь фрагмента обычного изображения, задающего тему. Картину, которую вы видите перед собой, нейронная сеть нафантазировала вот с этого начального изображения.
  
   Профессор стукнул по клавиатуре ноутбука, и на проекционном экране появилась фотография портрета человека на фоне далёких гор. От его лица справа красным карандашом были хаотично нанесены две вертикальные и много горизонтальных волнистых линий, которые затем, по-видимому, превратились с помощью фантазии нейронной сети в дерево и извивающихся змей. А рыбы с крыльями, очевидно, возникли из хаотичных овальных кружочков на фоне неба.
  
   - А вот ещё картины, созданные более опытной нейросетью. Попробуйте определить, какие нарисовала нейронная сеть, а какие человек?
  
   Появился следующий слайд с изображением четырёх картин в похожем сюрреалистическом стиле с аллюзиями и парадоксальными формами. Студенты принялись выдвигать свои версии, но к единому мнению так и не пришли.
  
   В итоге высказалась Кэтрин:
  
   - Слева вверху - это Сальвадор Дали, внизу - Рене Магритт, а справа, вероятно, компьютер.
  
   - Это верный ответ, - профессор жестом указал на Кэтрин.
  
   - Кэтрин ведь тоже просто знала ответ, - припомнил ей Джерри.
  
   - Я знала только Сальвадора Дали и Рене Магритта, остальные две картины могли быть тоже созданы человеком, - возразила она.
  
   - Теперь вы можете сложить представление о том, как искусственный интеллект способен заниматься творчеством, используя вариативные ассоциации, - заключил профессор. - Более того, будете лучше представлять в целом и природу творческого процесса у человека.
  
   - Профессор, это как-то грустно, когда творчество превращается в алгоритм, - печально произнесла Кэтрин. - Только не говорите, что и для любви у вас тоже есть готовые алгоритмы.
  
   - Любить по-настоящему, мы ещё не научили искусственный интеллект, - успокоил её профессор, улыбаясь. - Однако нельзя исключить, что однажды и любовь способна зародиться в какой-нибудь достаточно сложной программе.
  
   Кэтрин всё равно недовольно нахмурилась, а Джерри кинул на неё ироничный взгляд и шепнул:
  
   - Спасибо за помощь, гуманитарий...
  
   Кэтрин сделала вид, что не услышала этой реплики. Брайан Хенсли сказал:
  
   - Допустим это можно назвать таким себе творчеством. Однако сомнительно, что с помощью этих алгоритмов можно действительно достигнуть создания настоящих произведений искусств.
  
   - Почему нельзя? - спросил профессор. - Что, по-вашему, ещё не хватает им?
  
   - Вы действительно думаете, что ваш Малыш смог бы создавать шедевры искусства просто с помощью вариативных ассоциаций?
  
   - А вы способны создать шедевр искусства? - спросил его в ответ профессор.
  
   - Я рассматриваю человека в общем смысле.
  
   - В искусстве воплощается действительность, осмысленная внутренним восприятием отдельной личности. Не у каждого человека есть то внутреннее содержание, которое можно воплотить в искусстве и которое интересно другим людям, и не каждый человек владеет достаточными способностями для этого. Наличие этих условий - это результат развития отдельной личности и её врождённых наклонностей. Это справедливо и для ИИ. Неспособность создать Мону Лизу не говорит об ущербности рассматриваемой формы интеллекта. Для интеллекта важным свойством является общая способность решать творческие задачи. Это может быть раскраска альбома, а может работа над научной проблемой.
  
   - Вы хорошо сказали, что для искусства необходимо осмысление действительности. Именно без осмысления не может быть настоящего искусства. Может быть, именно этого не хватает вашим алгоритмам?
  
   - Что вы подразумеваете, говоря об осмыслении?
  
   - Я подразумеваю осознание явлений действительности с последующим наделением их смыслом. Думаю, это возможно только при наличии сознания.
  
   - Эти интеллектуальные процессы уже успешно моделируются алгоритмически. Процесс осознания можно рассматривать как способность ИИ распознавать различные образы. А с наделением их алгоритмическим смыслом эффективно справляется система представления знаний в виде семантической сети, которую, как правило, применяют в современной архитектуре искусственного интеллекта.
  
   Профессор воспользовался пультом, и на проекционном экране появилась схема, поясняющая принцип организации семантической сети.
  
   - Вот пример, - указал он рукой на экран, - элементарной семантической сети с множеством "млекопитающее". Семантическая сеть представляет собой граф, узлы или вершины которого соответствуют абстракциям или понятиям, а дуги или рёбра - отношениям или ассоциациям между ними. Таким образом, все знания для искусственного интеллекта организованы в сеть, где они связаны между собой через различные отношения. Например, понятие "кошка" через отношение "имеет" связана с понятием "шерсть", а через отношение "есть" с понятием "млекопитающее", и так далее. Таких связей может быть неограниченно много. Кроме того, множество понятий, составляющих смысловую предметную область, организовываются во фреймы. Например, вся перечисленная предметная область, связанная с понятиями "кошка", "шерсть", "млекопитающее", могут образовывать фрейм с понятием "животное". Фреймы, в роли понятий и абстракций, также могут быть связаны различными отношениями с другими узлами сети, представляя собой более общие понятия. Таким образом, образуется ещё иерархия уровней сети: от более элементарных к более общим понятиям. В процессе обучения нейросетей с каждым первичным понятием или абстракцией связывается набор зрительных, звуковых и других базовых признаков для их распознавания.
   Стоит отметить, что в современной архитектуре искусственного интеллекта применяется более сложная структура концептуальных графов, которая в будущем будет одной из тем нашего курса. Одна из особенностей такой структуры в том, что отношения, подпрограммы, модели и сценарии организованы таким же образом, как первичные понятия и абстракции в общей сети, но уже в виде узлов многодольного графа. Например, если ИИ распознал в своём окружении некий сценарий текущих событий, представляющий ему нежелательные последствия, он тут же может ассоциировать с этим выработанную ранее подпрограмму, которая позволит избежать такого исхода.
   Все сценарии, описывающие стереотипную последовательность событий для рассматриваемой модели окружения, имеют комплексный динамический адаптационный рейтинг, который несёт информацию о том, насколько они полезны или вредны для ИИ с точки зрения его адаптации к окружающей среде. Подпрограммы также имеют комплексный динамический рейтинг своей эффективности, который указывает насколько успешно выполнение подпрограммы для решения тех задач, с которыми они ассоциированы в семантической сети. По рейтингам высчитываются текущие или прогнозируемые адаптационные параметры, которые описывают насколько ИИ успешно адаптировался или есть адаптирован к окружающей среде.
   Всю свою семантическую сеть вместе с параметрами, подпрограммами, сценариями и моделями, ИИ постоянно модифицирует и развивает в процессе своей адаптации к окружающей среде. Такая система представления знаний позволяет динамично организовать их смысловую целостность. Эти алгоритмические процедуры аналогичны тому, что вы называете осмыслением. Как видите, здесь тоже нет дополнительной необходимости в феномене сознания.
  
   - Ну, хорошо, если для вас не осталось ничего такого в поведении и интеллекте человека, чего нельзя смоделировать с помощью алгоритмов, что же ещё не так с вашим ИИ, чтобы называться универсальным искусственным интеллектом?
  
   Перед тем как продолжить, профессор снова отпил из пластиковой бутылки немного воды и задумчиво прошёлся по сцене:
  
   - Дело в том, что у нашего Малыша начинаются проблемы, когда он расширяет свой опыт взаимодействия с окружающим миром дальше теста малыша и конструктора Lego. Для того чтобы он приблизился по своему интеллектуальному уровню к человеку, кроме заложенных хорошо работающих алгоритмов ему необходимо освоить намного больший объём знаний и приобрести намного больше навыков и умений для решения повседневных задач в реальной жизни. По мере того, как он развивается, всё больше узнаёт и умеет, он на более длительное время начинает зависать во время решения повседневных задач при взаимодействии с окружающим миром.
   Анализ работы алгоритмов показывает, что во время ассоциативного моделирования они грузнут в своей семантической памяти с необходимым объёмом знаний. Чем объёмней семантическая память, тем больше алгоритм вынужден охватывать и перебирать в ней узлов. Ситуацию катастрофически усугубляет функция вариативности, которая, собственно, и позволяет алгоритму творчески находить необходимые решения в новых ситуациях. При уровне развития четырёхлетнего ребёнка на некоторые раздумья нашему Малышу требуется от нескольких часов до нескольких дней, хотя любой ребёнок может решить такую повседневную задачу за минуту. Мы здесь снова натыкаемся на комбинаторный взрыв. А при уровне развития взрослого человека многие задачи рискуют стать трансвычислительными. Достаточно только ограничить семантическую память до определённого объёма, чтобы сузить пространство поиска, Малыш без проблем решает задачи, знания для которых входят в этот объём, но при этом он снова оказывается ограниченным узкоспециализированным слабым искусственным интеллектом в облике беспомощного ребёнка.
   Мы сталкивались с похожими проблемами в истории создания искусственного интеллекта не единожды. Как нас учит исторический опыт, мы уже выходили из подобных ситуаций без привлечения дополнительных сущностей и притягивания гипотезы о сознании. Мы изучали мозг, разбирались со своими ошибками и находили принципиально новые методы совершенствования наших алгоритмов. Правда, нужно признать, что в этот раз ситуация имеет более таинственный оттенок. Мы уже имеем компьютеры с производительностью превышающую нейронные сети человеческого мозга, мы уже знаем общие принципы функционирования нашего мозга, но каким-то образом нашему мозгу не требуется столько вычислительного времени, чтобы обеспечивать решение повседневных, профессиональных и научных задач. Очевидно, от нашего взгляда ускользает ещё какая-то важная деталь. В среде специалистов, работающих в области создания искусственного интеллекта, эта проблема получила собственное название: семантический взрыв[15].
  
   - Может, семантическая сеть всё-таки является неоптимальным способом представления знаний? - предположил Эдди.
  
   - Вряд ли, - ответил профессор, - согласно исследованиям Джейкоби и Далласа, человеческий интеллект организует свои знания аналогичным образом. Можно сказать, мы позаимствовали у природы и эту идею.
  
   - Однако, профессор, вы не убедили меня, что мы должны списывать со счетов важность феномена сознания в моделировании интеллектуальных способностей человека, - произнёс Брайан Хенсли. - Может, мы как раз и подошли к последнему шагу, где дело осталось за тем искусным дирижёром, который заставит ваш оркестр из алгоритмов сыграть симфонию универсального искусственного интеллекта.
  
   - Я не пытаюсь убедить вас в обратном, - размышляя, профессор снова принялся прохаживаться по сцене. - В первую очередь я добиваюсь, чтобы подобные дискуссии проходили в научном формате. А научный формат требует, чтобы предположения и гипотезы имели какое-то минимальное непротиворечивое обоснование, учитывающее существующие факты. На данный момент, исходя из теории и практики, я не вижу принципиальных препятствий для воплощения в алгоритмах интеллектуальных способностей человека. В том числе и непосредственно функцию, которую выполняет сознание, а именно: образно-смысловое отражение действительности, моделирование результатов своего взаимодействия с окружающим миром, высшая координация основных интеллектуальных процессов, рефлексия и обратная связь, корректирующая собственное поведение. Это в полной мере реализуется в созданных алгоритмах. Пока я вижу, что та цель, которую я преследую, не требует принципиального наличия ещё какой-нибудь дополнительной сущности. Я дистанцируюсь от необходимости привлекать таинственный феномен сознания для решения тех задач, которые непосредственно стоят передо мной. Если вы предполагаете, что для решения проблемы семантического взрыва всё-таки необходимо наличие феноменального сознания, научно обоснуйте это. Хотя, справедливости ради необходимо заметить, что подобное мнение имеет место среди учёных, работающих в этой области, тем не менее принципиального научного обоснования этим взглядам пока что нет и среди них.
  
   - Профессор, а как вы относитесь к гипотезе о квантовой природе сознания? - донеслось из задних рядов.
  
   - Такая гипотеза призвана объяснить предполагаемую алгоритмическую неразрешимость нашего интеллекта. Подобные подходы предполагают существование нелокальных квантовых корреляций в нейронах человеческого мозга. Однако ни одного обоснованного физического механизма этому пока не существует. На данный момент нет оснований полагать, что все те интеллектуально-ментальные функции, которые демонстрирует наш интеллект, нельзя смоделировать алгоритмами. Я уже дал вам общее представление, как это работает. Если говорить только о сознании, то я не имею о нём каких-либо предположений. Может ли оно иметь какое-то отношение к многоатомным нелокальным квантовым корреляциям? - Профессор пожал плечами, - возможно и может.
  
   - А на современных квантовых микропроцессорах возможно возникновение этих нелокальных квантовых явлений? - спросил Эдди.
  
   - Как известно, квантовый микропроцессор состоит из нескольких квантовых регистров объединённых в QPU, и, как правило, интегрирован в обычном цифровом микропроцессоре. Такую квантовую структуру не назовёшь многоатомной. В квантовых регистрах в общей сложности наберётся от силы несколько сот килокубитов, которые соответствуют такому же количеству атомов. Однако в управляемой квантовой суперпозиции могут находиться только сами регистры по одному килокубиту: между ними нет когерентной квантовой связи. Устройство квантового процессора основано на других физических принципах, чем гипотетическая идея квантового сознания. Между регистрами нет когерентной квантовой связи. Если многоатомные синхронные нелокальные квантовые явления возможны, то для их реализации необходимо какое-то принципиально иное устройство.
  
   - Значит, - не без скептицизма в голосе подытожил Брайан Хенсли, - у вас есть все технологии и наборы алгоритмов для создания философского зомби, который теоретически сможет имитировать мыслительную деятельность человека, но соединить это всё в единый универсальный алгоритм пока никому не удавалось?
  
   - К сожалению, пока - да, - подтвердил профессор.
  
   - Профессор, а как насчёт чувства любви, - спросила Кэтрин, - оно тоже может имитироваться компьютерной программой?
  
   - Да, но только это нельзя будет назвать чувством, а скорее: программно-обусловленным поведением.
  
   - Не понимаю, зачем вообще бездушной компьютерной программе любовь, даже если она и будет программно-обусловленной? - возмутилась Кэтрин.
  
   - Кэтрин, и чего это тебя так тема компьютерной любви задела? - с насмешкой спросил Джерри.
  
   - Потому что я не хочу верить, что любовь может быть алгоритмом. Любить по-настоящему может только существо с душой, без всяких там алгоритмов.
  
   - Ну, думаю, любить по-настоящему - такое не грозит компьютеру, - улыбнулся профессор. - Однако если программа будет достаточно сложной, она, например, может быть способна привязаться к своему создателю. Или к другой программе, взаимодействие с которой будет весьма ценным и важным для неё. Если эволюция экспериментировала с такой функцией, как любовь, у разных видов организмов, то не исключено, что и адаптивные свойства алгоритмов ИИ могут привести к попытке испробовать такую модель поведения, проверяя, даёт ли это преимущество в адаптации к окружающей среде. А дальше дело за естественным отбором.
  
   - Тогда не понимаю, - не успокаивалась Кэтрин, - зачем вообще создавать столь сложные и бездушные программы? Зачем они нам нужны без сознания? Это будут какие-то монстры, франкенштейны.
  
   - Ну, для начала в качестве научного знания. Когда-нибудь и секрет сознания будет раскрыт, может, даже в ближайшем будущем. Потом, для освоения космоса и изучения других планет нужны умные и непритязательные к внешней среде машины. Человек слишком хрупок и зависим от множества тонких настроек своей биологической среды. А в целом, мы давно нуждаемся в интеллектуальном помощнике, способном с творческим подходом решать сложные задачи в самых разнообразных областях жизни человека, особенно в науке. Да и в качестве простых бытовых помощников по дому и на производстве не помешает для выполнения рутинной работы. Даже для таких задач способностей нашего Малыша будет маловато пока. Про любовь, это больше теория, чем реально преследуемая задача. Вряд ли мы будем наделять созданные нами системы с ИИ такими адаптационными способностями, которые смогут проявить у них нечто похожее на любовь. Это скорее будет только в рамках экспериментальных моделей, необходимых для исследования и поиска более эффективных алгоритмов. Скорее всего, роботы, выпускаемые серийно для широкого применения, будут мотивироваться определёнными удобными для нас директивами, что-то на манер трёх законов робототехники Азимова.
  
   - А теперь, мне их становится жалко, - произнесла Кэтрин.
  
   - Тебе не угодишь, - отозвался Джерри, - разве что остановить научно-технический прогресс на планете.
  
   - Просто, я обеспокоена тем, что, начав создавать разум, человек может быть не готов к ответственности, которая вместе с этим ложится на него.
  
   Джерри снова иронично хмыкнул, но в очередной раз поддеть Кэтрин не успел - в этот момент в аудитории прозвучал мелодичный звонок, извещая об окончании времени, отведённого на лекцию.
  
   - Впереди у нас по курсу ещё много запланированных лекций на философские темы по робоэтике, по психологии искусственного интеллекта и его взаимоотношений с человеком. И даже будет тема о злых "терминаторах". Приходите, - профессор задержал взгляд на Кэтрин, - и у нас будет о чём подискутировать.
  
   Профессор Хаширо Сакурохава традиционно попрощался со студентами и уже мысленно перенёсся к тем проблемам, которые накопились в его исследовательской лаборатории. Сегодня Малыша ожидало очередное стирание памяти, загрузка нового алгоритма, обучение нейросетей и очередные недельные испытания в надежде, что этот алгоритм окажется более удачным, чем остальные.
  
  
  
  (продолжение следует)
  
  
  СНОСКИ:
  
  [1] - Профессор философии и серийный предприниматель. Известен своими выступлениями по этике технологической индустрии, а также своей пропагандой гуманитарных наук в технологической индустрии. Получил степень бакалавра в Колумбийском университете, степень магистра искусственного интеллекта в лаборатории СМИ Массачусетского технологического института и степень доктора философии в Стэнфордском университете. Был штатным философом / техническим директором Google. Ведёт курсы философии, искусственного интеллекта и когнитивных наук в Нью-Йоркском университете, Стэнфорде, Колумбии, университете штата Пенсильвания.
  
  [2] - Термин, используемый в философии сознания, для обозначения сенсорных, чувственных явлений любого рода. Это свойства чувственного опыта. Это "необычный термин для обозначения самой обычной из возможных для нас вещи: того, как вещи выглядят для нас". Они могут быть определены как качества или ощущения, вроде, например, красноты, солёности или боли. Статус квалиа является одной из самых острых и широко обсуждаемых проблем в современной философии, поскольку он служит ключом к пониманию природы сознания. Квалиа занимают центральное место в решении психофизиологической проблемы.
  
  [3] - Английский математик, логик, криптограф, оказавший существенное влияние на развитие информатики. Предложенная им в 1936 году абстрактная вычислительная "Машина Тьюринга", которую можно считать моделью компьютера общего назначения, позволила формализовать понятие алгоритма и до сих пор используется во множестве теоретических и практических исследований. Научные труды А. Тьюринга - общепризнанный вклад в основания информатики (и, в частности, - теории искусственного интеллекта)
  
  [4] - Американский философ. В 80-е годы XX века стал ведущим специалистом по философии искусственного интеллекта. Профессор философии Калифорнийского университета, Беркли. Автор известного мысленного эксперимента "Китайская комната". Получил широкую известность во всём философском мире благодаря своей жёсткой критике идеи искусственного интеллекта и когнитивной психологии.
  
  [5] - Американский учёный в области когнитивной психологии и искусственного интеллекта. Работал в исследовательском центре RAND и Университете Карнеги - Меллон, участвовал в разработке языка программирования IPL и двух самых ранних программ искусственного интеллекта. В 1975 году совместно с Саймоном был награждён премией Тьюринга за основополагающие работы в области искусственного интеллекта и психологии механизмов человеческого восприятия. Член Национальной АН США (1972), удостоен Национальной научной медали (1992).
  
  [6] - Американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. Написал книгу "Персептроны" (с Сеймуром Папертом), ставшую фундаментальной работой для последующих разработок в области искусственных нейронных сетей. В 1951 году сконструировал первую обучающуюся машину со случайно связанной нейросетью - SNARC. Являлся консультантом фильма "Космическая одиссея 2001 года."
  
  [7] - Американский философ и профессор философии Калифорнийского университета в Беркли. В основном критикует основные допущения, которые, по его мнению, лежат в основе исследований искусственного интеллекта. Как считал Дрейфус, для того чтобы достичь интеллекта, схожего с человеческим, необходимо, чтобы устройство имело более или менее схожее с человеком тело и социальную адаптацию.
  
  [8] - Канадско-американский учёный и популяризатор науки, специализирующийся в области экспериментальной психологии, психолингвистики и когнитивных наук. Стал известен благодаря своей защите эволюционной психологии и "Вычислительной теории разума". В 2004 году журналом Time был назван одним из 100 наиболее влиятельных учёных и мыслителей в мире.
  
  [9] - Британский философ. Как автор с разнообразными преподавательскими и исследовательскими интересами, писал о философии математики, особенно о последствиях теоремы Гёделя о неполноте, о философии разума, свободы воли и детерминизма, философии науки, политической философии, этике и деловой этике, а также о философии религии.
  
  [10] - Один из подходов в области искусственного интеллекта, когнитивистики, нейробиологии, психологии и философии сознания. Коннекционизм моделирует мыслительные или поведенческие явления процессами становления в сетях из связанных между собой простых элементов. Существует много различных форм коннекционизма, но наиболее общие используют нейросетевые модели. В рамках этого течения предпринимаются попытки объяснить умственные способности человека, используя искусственные нейронные сети.
  
  [11] - Американский изобретатель, инженер-электронщик и программист, соучредитель компании Apple Computer (ныне Apple Inc.) вместе со Стивом Джобсом и Рональдом Уэйном в 1976 году. В середине 1970-х в одиночку спроектировал компьютеры Apple I и Apple II, которые начали "микрокомпьютерную революцию" и определили развитие отрасли.
  
  [12] - Английский физик и математик, работающий в различных областях математики, общей теории относительности и квантовой теории. Для темы ИИ интересен своими двумя книгами: "Новый ум короля" и "Тени разума", где обосновывает невозможность создания сильного (универсального) ИИ средствами вычислительной техники и предлагает свою теорию интеллекта и сознания.
  
  [13] - Термин образован только в рамках сюжета романа. Роджер Пенроуз использовал термин "нисходящие процедуры".
  
  [14] - Термин образован только в рамках сюжета романа. Близкое понятие у Р.Пенроуза: "восходящие процедуры".
  
  [15] - Понятие введено только в рамках сюжета романа.
  
  [16] - https://en.wikipedia.org/wiki/Mutilated_chessboard_problem
 Ваша оценка:

Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список
Сайт - "Художники" .. || .. Доска об'явлений "Книги"