# Когда начинать бояться Ии? Часть 3

Андрей Викторович Никитин

Процесс развития ИИ очень похож на эволюционный. Ничего никуда не исчезает, только скрывается в тень до времени, а потом проявляется на новом уровне осмысления и технологических возможностей техники.

Никитин А.В.

## Когда начинать бояться ИИ?


Часть 3. Реальность сегодняшнего ИИ.


Оглавление

НЕЙРОННОЕ НАПРАВЛЕНИЕ

ИИ ВЫШЕЛ НА УРОВЕНЬ ЧЕЛОВЕКА.

ИИ, ЭТО ЧТО?

УМНЕЮЩИЙ АВТОМАТ.

ЧТО СЕГОДНЯ?

ЛИТЕРАТУРА:


Процесс развития ИИ очень похож на эволюционный.

Ничего никуда не исчезает, только скрывается в тень до времени, а потом проявляется на новом уровне осмысления и технологических возможностей техники.

Из чего складывается реализация любого объекта ИИ?

Тут напрашиваются аналогии с Software (программное обеспечение) и Hardware (электронное аппаратное обеспечение).

Куда идем?

Программное моделирование с последующим воспроизведением модели на симуляторе или реальное исполнение модели в "железе" и её действия в реальных условиях.

В "железе" это оказалось очень сложно.

Можно по пальцам пересчитать такие реально работающие сетевые системы. Прежде всего это коллективные распределенные вычисления с использованием интернета, стартовавшие в конце 90-х (проект GIMPS по поиску простых чисел Мерсенна, конкурс RSA Data Security на решение задачи взлома методом простого перебора 56-битного ключа шифрования информации RC5, на базе платформы BOINC запущен проект SETI@home, занимающийся поиском внеземного разума путём анализа данных с радиотелескопов, используя добровольную вычислительная сеть на базе Grid.). Военные разработки в области роевого интеллекта, переросшие в групповую робототехнику. И по большому счету - всё.

В чем проблема?

В затратности технологического достижения конечной цели.

Сегодня сделан новый технологический рывок в очередном, и похоже последнем, уменьшении метрических размеров элементов и проводников схем до 7 нм (https://habr.com/ru/post/423575/ )

Далее только неизвестность.

Ну кроме 3D-интеграции, может быть. Это переход к объемным многопроцессорным модулям и огромной производительности..., но это пока в будущем.

По этой причине "искусственный мозг" пока откладывается на какое-то время. Создать реальную нейронную сеть, содержащую десятки миллиардов искусственных нейронов и их синапсных связей, на существующей электронной базе пока не представляется возможным.

О чем мы говорим?

Вот об этом:

"У человека же около 86 миллиардов нейронов, а между ними - 150 триллионов синапсов. У каждого синапса порядка тысячи молекулярных триггеров. Если представить мозг в виде компьютера, то у него было бы 150 квадриллионов транзисторов. Такой машины не существует, отметил, выступая на Geek Picnic, Сергей Марков, специалист по машинному обучению. У суперкомпьютера последнего поколения Summit, запущенного в США в июне этого года, всего 21 миллиард транзисторов. Впрочем, сканировать и картировать информацию с головного мозга человека мы все равно не умеем." https://ria.ru/amp/20180816/1526608414.html


Главная достигаемая наукой цель опять скрылась в тумане неизвестности.

Но, все остальные-то остались?

Конечно. И для их реализации появилась реальная технологическая возможность. "Боковая поросль" быстро становится основными каналами развития ИИ. Горизонты развития этих направлений стремительно расширяются.

С одной стороны, это системы самостоятельного движения к цели. Тут и военные разработки роботов для всех родов войск, включая подводные лодки типа "Посейдон" и ракеты, находящие свои цели в сложных условиях и т.д. Гражданские разработки тут не уступают военным, это и автомобили самостоятельного движения по городу, БПЛА самого разного назначения, игровые и промышленные роботы самого широкого применения...

С другой, это "умные протезы", заменяющие утраченные конечности или восполняющие недостатки каких-то органов получения информации (зрения, слуха), спектр тут широкий.

Как же можно говорить о кризисе в развитии ИИ?


## Нейронное направление


Основное направление развития ИИ, идущее в сторону создания "почти человеческого интеллекта", пока находится в технологическом тупике. Рост структур из миллионов "искусственных нейронов" сдерживается пределом размерности, как в сторону уменьшения элементов схемы, так и в сторону увеличения количества "искусственных нейронов" этого "машинного мозга".

Прорыв в направлении развития электронного аналога от "искусственного нейрона" в сторону "электронного мозга" из нейросетей будет возможен только вместе в появлением принципиально новых технологий не просто 3D-моделирования нейронных структур неограниченного размера, а технологией формирования систем из таких структур.

Но когда это случится, не знает никто.

Здесь уже нет философских споров об этике и морали ИИ, прежде всего потому, что тут кроме техники пока ничего нет... И начинать рассказ надо с одной советской разработки на полвека обогнавшей время.

Начнем...


"Однородные вычислительные структуры. Как мы помним, "нейронное" направление в 60-х годах прошлого века ушло в тень. Не было ни устоявшейся схемы нейрона, ни понимания, что с ними делать, когда этих нейронов наберется целый "мозг". Тогда, как и сейчас царило понимание живого организма, как автомата, отвечающего своими реакциями на воздействия внешней среды. https://systemsanalysis.ru/assets/systems_research_1970.pdf


И тем не менее, советские ученые по сути создали то, что потом на Западе назовут нейросетями. А тогда название звучало вполне прозаически - однородные вычислительные структуры или вычислительные среды. Основным разработчиком стал Э.В.Евреинов. Первая книга [1] на эту тему выходит в 1966г.

Как оказалось, логические методы поиска оптимального ответа далеко не всегда возможны, или дают неполные ответы. И самое главное, никакой скорости машины не хватит, чтобы решать такие сложные задачи. Для этого предложено соединять в один комплекс много процессоров и управлять решением уже на этом уровне. Управление процессорами не предполагает отдельного канала символьного управления, там всё работает на машинных командах.

Всё остальное было уже потом...


Искусственный нейрон. Сегодня "искусственный нейрон" понимается как " ...математический нейрон Мак-Каллока - Питтса, формальный нейрон - узел искусственной нейронной сети, являющийся упрощённой моделью естественного нейрона. Математически искусственный нейрон обычно представляют как некоторую нелинейную функцию от единственного аргумента - линейной комбинации всех входных сигналов. Данную функцию называют функцией активации или функцией срабатывания, передаточной функцией. Полученный результат посылается на единственный выход. Такие искусственные нейроны объединяют в сети - соединяют выходы одних нейронов с входами других. Искусственные нейроны и сети являются основными элементами идеального нейрокомпьютера. https://ru.wikipedia.org/?curid=34731&oldid=128276325


Своими словами, сегодня искусственный нейрон, это процессор, работающий в составе множества таких же, по одной программе обработки поступающих сигналов на его входы. После множества проб и ошибок, все "натуралистические" варианты "электронного" "нейрона" были окончательно отброшены и наука перешла на математические варианты реализации искусственных нейронов. [2] И проще, когда уже есть готовый процессор, и понятнее, потому, что программы для его работы уже есть. Теперь надо только собрать из таких процессоров систему и ... строить ИИ сетевого типа, почти как "мозг". Но сразу это сделать, оказалось невыполнимой задачей.

Сначала попробовали соединить несколько процессоров в один.


Нейрокомпьютер. Конечно, это вычислительная машина с новым процессором - нейронным. Нейронный процессор - "класс микропроцессоров и сопроцессоров (часто являющихся специализированной интегральной схемой), используемый для аппаратного ускорения работы алгоритмов искусственных нейронных сетей, компьютерного зрения, распознавания по голосу, машинного обучения и других методов искусственного интеллекта." https://ru.wikipedia.org/?curid=7199470&oldid=128603467


Это исходно сложный процессор, работающий в многопроцессорной компьютерной системе единого управления в составе компьютера новой организации. Вот такой компьютер и получил название "нейронный" - "устройство переработки информации на основе принципов работы естественных нейронных систем. Эти принципы были формализованы, что позволило говорить о теории искусственных нейронных сетей. Проблематика же нейрокомпьютеров заключается в построении реальных физических устройств, что позволит не просто моделировать искусственные нейронные сети на обычном компьютере, но так изменить принципы работы компьютера, что станет возможным говорить о том, что они работают в соответствии с теорией искусственных нейронных сетей." https://ru.wikipedia.org/?curid=323494&oldid=127417885


Не поняли...?

Нейрокомпьютером назвали как реальную систему из нескольких процессоров, позволяющих решать задачи в многопроцессорном режиме, так и программную модель такой системы на обычном однопроцессорном компьютере. Эти два направлением пошли своими путями развития. С бесконечными пересечениями... на новом понятии...


Нейронная сеть. А вот тут уже исходно правильно...

"Нейронная сеть... - математическая модель, а также её программное или аппаратное воплощение, построенная по принципу организации и функционирования биологических нейронных сетей - сетей нервных клеток живого организма. Это понятие возникло при изучении процессов, протекающих в мозге, и при попытке смоделировать эти процессы. Первой такой попыткой были нейронные сети У. Маккалока и У. Питтса." https://ru.wikipedia.org/?curid=22549&oldid=128606555


Строим математическая модель, а потом её физическое и программное воплощение. Собственно так всё и началось.

Сначала идея нейробионики (создания технических средств на нейро-принципах) стала интенсивно реализовываться в начале 1980-х гг. Размеры элементарных деталей компьютеров сравнялись с размерами элементарных 'преобразователей информации' в нервной системе, было достигнуто быстродействие отдельных электронных элементов в миллионы раз большее, чем у биологических систем. Но общая эффективность работы естественных нейронных систем неизмеримо выше, и этот факт стал постоянным движущим моментом в развитии нейросетей любого исполнения.

Потом вперед вышла программная модель нейросети.

Она позволяла создать на одном компьютере любую исходную комбинацию "нейронов" и систему их соединений с другими "нейронами". Программная модель сегодня позволяет как разрабатывать, так и создавать симуляции работы целых участков коры головного мозга уже до 5млрд. нейронов с 10тыс. синапсных соединений в каждом. И это не предел.

Сегодня картинка применяемых форматов ИИ получается очень пестрая ...

Где-то вполне успешно работают экспертные системы. Символический искусственный интеллект работает там, где не нужны высокие скорости и большие мощности обработки информации.

Где-то успешно разрабатываются нейрокомпьютеры постепенно переходя в биокомпьютинг, новое направление ИИ, компьютеры, содержащие в своем составе биологические компоненты или предназначенные для соединения с живыми структурами нейронов. Это можно рассматривать как возврат к своей изначальной цели - живым нейронным структурам мозга, а с другой, как вариант симбиоза биологических нейронов и электронных схем для расширения возможностей человека.

Здесь начинается серьезный переход к киборгам - биологическим организмам, содержащим небиологические машинные (в частности электронные) компоненты. Не на уровне бионических протезов, управляемым нервными импульсами через кожу, а полное вживление электронных схем в поврежденные органы. Но... пока тут полной замены нет, только протезы.


## ИИ вышел на уровень человека.


Насколько это так?

Для этого просто взглянем в таблицу из [3]:

Таблица 1. Игровые программы с искусственным интеллектом


Шашки. Уровень интеллекта выше человеческого.

Компьютерная игра в шашки, написанная в 1952 году Артуром Самуэлем и усовершенствованная им в 1955 году (версия включала модуль машинного обучения), стала первой интеллектуальной программой, которая в будущем научится играть лучше своего создателя37. Программа "Чинук" (CHINOOK), созданная в 1989 году группой Джонатана Шеффера, сумела в 1994 году обыграть действующего чемпиона мира - первый случай, когда машина стала победителем в официальном чемпионате мира. Те же разработчики, использовав алгоритм поиска "альфа-бета отсечение" в базе данных для 39 трлн эндшпилей, представили в 2002 году оптимальную версию игры в шашки - это программа, всегда выбирающая лучший из ходов. Правильные ходы обеих сторон приводят к ничьей.

Нарды. Уровень интеллекта выше человеческого.

Компьютерная игра в нарды, созданная в 1970 году Хансом Берлинером и названная им BKG, в 1979 году стала первой интеллектуальной программой, обыгравшей чемпиона мира в показательном матче - хотя впоследствии сам Берлинер приписывал эту победу удачно брошенным костям. Созданная в 1991 году Джералдом Тезауро программа TD-Gammon уже в 1992 году достигла такого уровня мастерства, что могла сразиться на чемпионате мира. Ради самосовершенствования программа постоянно играла сама с собой, причем Тезауро использовал такую форму укрепляющего обучения, как метод временных различий. С тех пор программы для игры в нарды по своему уровню в значительной степени превосходили лучших игроков мира.

"Эвриско" в космической битве Traveller TCS. Уровень интеллекта выше человеческого в сотрудничестве с самим человеком.

Дугласом Ленатом в 1976 году была создана программа "Эвриско" (Eurisco), представлявшая собой набор эвристических, то есть логических, правил ("если - то"). В течение двух лет (1981, 1982) эта экспертная система выигрывала чемпионат США по фантастической игре Traveller TCS (межгалактическое сражение); организаторы даже меняли правила игры, но ничто не могло остановить победного шествия "Эвриско", в результате они приняли решение больше не допускать "Эвриско" к участию в чемпионате. Для построения своего космического флота и сражения с кораблями противника "Эвриско" использовала эвристические правила, которые - в процессе самообучения - корректировала и улучшала при помощи других эвристических правил.

Реверси ("Отелло "). Уровень интеллекта выше человеческого.

Программа для игры в реверси Logistello выиграла в 1997 году подряд шесть партий у чемпиона мира Такэси Мураками.

Шахматы. Уровень интеллекта выше человеческого.

Шахматный суперкомпьютер Deep Blue в 1997 году выиграл у чемпиона мира Гарри Каспарова, Каспаров, хотя и имел претензии к создателям машины, все-таки заметил в ее игре проблески истинного разума и творческого подхода. С тех пор игровые шахматные программы продолжают совершенствоваться.

Кроссворды. Профессиональный уровень.

Программа Proverb в 1999 году стала лучшей среди программ для решения кроссвордов среднего уровня. Созданная в 2012 году Мэттом Гинзбергом программа Dr. Fill вошла в группу лучших участников чемпионата США по кроссвордам. (Показатели программы не были стабильными. Dr. Fill идеально справилась с кроссвордами, считавшимися наиболее сложными среди участников-людей, но оказалась бессильна перед нестандартными, в которых встречались слова, написанные задом наперед, и вопросы, расположенные по диагонали.)

"Скрабл" ("Эрудит"). Уровень интеллекта выше человеческого.

По состоянию на 2002 год программы для игры в слова превосходят лучших игроков среди людей.

Бридж. Уровень интеллекта не уступает уровню лучших игроков

Программы для игры в бридж "Контракт" к 2005 году достигли уровня профессионализма лучших игроков среди людей.

Суперкомпьютер IBM Watson в телепередаче Jeopardy!. Уровень интеллекта выше человеческого.

IBM Watson, созданный в IBM суперкомпьютер с системой ИИ, в 2010 году обыграл Кена Дженнингса и Брэда Раттера - двух рекордсменов Jeopardy!

Jeopardy! - телевизионная игра-викторина с простыми вопросами из области истории, литературы, спорта, географии, массовой культуры, науки и проч. Вопросы задаются в виде подсказок, при этом часто используется игра слов.

Покер. Уровень разный. Игровые программы для покера на сегодняшний день несколько уступают лучшим игрокам в техасский холдем (популярная разновидность покера), но превосходят людей в некоторых других разновидностях игры.   Пасьянс "Свободная ячейка" ("Солитер ""). Уровень интеллекта выше человеческого.

Развитие эвристических алгоритмов привело к созданию программы для пасьянса "Свободная ячейка" (Free Cell), которая оказалась сильнее игроков самого высокого уровня. В своей обобщенной форме эта игровая программа является NP- полной задачей.

Го. Уровень сильного игрока-любителя.

По состоянию на 2012 год серия программ для игры в го 'Дзен' (Zen) - использовав дерево поиска методом Монте-Карло и технологии машинного обучения - получила шестой дан (разряд) в быстрых играх. Это уровень весьма сильного любителя. В последние годы игровые программы го совершенствуются со скоростью примерно один дан в год. Если этот темп развития сохранится, то, скорее всего, через десять лет они превзойдут чемпиона мира среди людей.


Ну вот, согласно этой таблицы ИИ уже превзошел интеллект человека!

И что-то никто никаких катастрофических сценариев по этому поводу не пишет, народ не пугает...

В чем дело? Когда начинать бояться?

Ответ вот здесь [3]: "Некоторые специалисты конца 1950-х годов считали: "Если когда-нибудь получится создать удачную машину для игры в шахматы, возможно, люди постигнут суть своих интеллектуальных усилий".

...Однако появление интеллектуальных шахматных систем не обернулось тем торжеством разума, на которое многие рассчитывали, - и это имело определенное объяснение. По мнению ученых того времени - мнению, наверное, небезосновательному, - компьютер станет играть в шахматы наравне с гроссмейстерами, только когда будет наделен высоким общим уровнем интеллектуального развития. Казалось бы, великий шахматист должен соответствовать немалым требованиям: иметь крепкую теоретическую подготовку; быть способным оперировать абстрактными понятиями; стратегически мыслить и разумно действовать; заранее выстраивать хитроумные комбинации; обладать дедуктивным мышлением и даже уметь моделировать ход мысли противника. Отнюдь.

Выяснилось, что достаточно разработать идеальную шахматную программу на основе алгоритма с узкоцелевым назначением. Если программу поставить на быстродействующий процессор - а скоростные компьютеры стали доступны уже в конце XX века, - то она демонстрирует весьма сильную игру. Однако подобный искусственный интеллект слишком однобок. Он ничего другого не умеет, кроме как играть в шахматы. В других случаях изучения и применения искусственного интеллекта выявились проблемы более сложного порядка, чем ожидалось, поэтому и развитие шло значительно медленнее."


О, как!

Оказывается, в шахматах-то особого интеллекта и нет, один алгоритм.

Тут в самое время вспомнить [3]: "В наше время все выглядит иначе. Остается лишь согласиться с Джоном Маккарти, когда-то посетовавшим, что "стоит системе нормально начать работать, как ее сразу перестают называть искусственным интеллектом"."


Но ведь так оно и есть! Пока, по крайней мере...

Пока люди лишь "постигают суть своих интеллектуальных усилий"! Своих! При чем тут ИИ?

Вычислительный ИИ по сути реальным ИИ не является, это человеческий интеллект в форме алгоритмов для решения разных задач по заданиям человека. Любой правильно работающий такой "узкоцелевой" алгоритм в конечном итоге всегда будет превышать уровень человека из-за различий функциональной системы мозга и машины. Мозг "заточен" под решение задач другого круга и уровня, не совпадающими с кругом задач компьютера.

Почему всё так получается?

Видимо потому, что наши желания всегда опережают наши возможности. Как в понимании, так и в технической реализации. Мы не знаем что-то очень важное, но не осознаем это, как было уже бесчисленное множество раз в истории науки. Для этого нужно время, а его всегда не хватает.

Именно по этой причине глобальные системы индивидуальной видеосвязи были невозможны пока мир не перешел на цифровой формат передачи информации. Но появление мобильной связи не смог предсказать ни один, даже самый гениальный писатель-фантаст второй половины прошлого века. Потому, что все их идеи на эту тему опирались лишь на то, что тогда знала наука. Взгляда за горизонт, как оказалось, здесь не получилось.

Примерно то же самое сегодня произошло с искусственным интеллектом. Он вроде бы есть, но его развитие пошло лишь вширь. Насколько позволяет существующая техническая база. Движения вверх нет. Оно будет и очень скоро, но пока что-то мы еще не понимаем, потому и топчемся на месте...

Пример? Да пожалуйста!

Если бы ученому, специалисту по разработке вычислительной техники второй половины прошлого века, гордящемуся количеством транзисторов в десятки тысяч шт. на одной машине с памятью на магнитных сердечниках, сказали, что в лучших образцах процессоров сегодня содержится чуть более 39 млрд транзисторов [4], то что бы с ним было?

Взрыв мозга! Да он бы просто вам не поверил.

Далее скорее всего было по Чехову: "Этого не может быть, потому, что этого не может быть никогда!" И всё.

С другой стороны, сегодня любой ученый из этой же области, знакомый с количественными характеристиками мозга, но не разбирающийся в тонкостях его понимания, сразу укажет на сопоставимость количества транзисторов в лучших процессорах и общим количеством нейронов головного мозга человека. Десяток, другой таких процессоров и... мозг соберем!

Да. Так ещё совсем недавно думали очень многие специалисты по вычислительной технике.

Сегодня понимание медленно меняется. Мы осознаем реальную сложность проблемы интеллекта, его понимания и реализации. В конце прошлого века выяснилось, что почти полвека мы двигались немного не туда и пришли в тупик.

Новый выбранный путь, через нейросети, уперся в стену технологического предела размерности элементов. Пусть это 7 или даже 5 нм, но далее уже все равно некуда двигаться. Мы на пути к размерности атома 100пм = 0,1нм! Размер элемента или зазора между элементами в 50-100 атомов! Когда-то это даже не снилось, а сегодня уже реальность. Но и этот путь почти завершен.

Сегодня специалисты вынуждены признать дальнейшую невозможность работы "закона Мура" [5]:

"Вместе с тем на прошедшей в рамках выставки CES 2019 пресс-конференции, глава компании NVIDIA Дженсен Хуанг (Jensen Huang) объявил закон Мура более невозможным. Об этом сообщило издание CNET.

Дженсен Хуанг заявил, следующее: "Закон Мура более невозможен". Как теперь отметил топ-менеджер NVIDIA на сессии вопросов и ответов перед небольшим количеством журналистов, прямо сейчас закон Мура выражается в росте на несколько процентов каждый год и удвоение можно ожидать только каждые десять лет. Интересно, что ещё в 2010 году вице-президент NVIDIA Билл Дэлли (Bill Dally) в своей колонке для журнала Forbes объявил о смерти так называемого закона Мура и отметил, что будущее за параллельными вычислениями." [5]


Вот так!

Видимо нужен другой путь реализации машинного интеллекта. Другая теория и другая философия...


## ИИ, это что?


Ученые, непосредственно связанные с разработками в области ИИ в один голос говорят примерно одинаково:

"Таким образом, мы можем говорить, что система тогда интеллектуальна, когда мы можем получить приращение знаний посредством реализации перечисленных выше способностей. И теперь мы можем подойти к определению, что такое искусственный интеллект.

ИИ - это научное направление, которое занимается имитацией и усилением познавательной деятельности и рационального поведения человека посредством компьютерных систем.

Еще одно важное следствие из определения ИИ - системы искусственного интеллекта, то есть компьютерные системы, применяющие какой-то метод.

Наконец, интеллектуальные системы. Такие системы имеют более сложную архитектуру: база фактов - база знаний - решатель задач - комфортный интерфейс.

Главная задача - порождение эмпирических закономерностей. Если мы этого добиваемся - значит, мы достигли некоторого приемлемого этапа своих исследований. Это есть сильный критерий демаркации научного и ненаучного знания в дополнение к попперовскому критерию возможности фальсификации (опровержению) той или иной теории." [9]


Вот так. Всё легко и просто...

"ИИ - это научное направление, которое занимается имитацией и усилением познавательной деятельности и рационального поведения человека посредством компьютерных систем".

"...главная задача систем искусственного интеллекта - создание партнерских человеко-машинных систем."[9]


И всё!

"- Итак, искусственный интеллект - не нейронная сеть и даже не машинное обучение. Тем не менее сеть Интернет может начать "соображать"? У нее может возникнуть собственная рефлексия?

- Нет, не может. Сеть может породить проблему, поставить много-много задач, поскольку она сама новая реальность.

- Но она же, Сеть, все время усложняется...

- И все время будет ставить новые задачи.'[10]


Сегодня опережающий рост начали прикладные направления ИИ, в основном, программного типа реализации как сети "дружественного интеллекта".

Понятно, что такая сеть реализована на суперкомпьютере, реальной сети нейронов нет, есть лишь их "математические" виртуальные аналоги. Суперкомпьютер превратился в сетевой суперкоммутатор, обрабатывающий миллиарды запросов на соединения в секунду. "Мозг" оказался программным, как и интеллект, работающий в нем.

Основным примером ИИ здесь стала программа-собеседник, "чат бот (англ. chatbot) - программа, которая выясняет потребности пользователей, а затем помогает удовлетворить их. Автоматическое общение с пользователем ведется с помощью текста или голоса. Чат бот ведет коммуникацию от лица компании или бренда с целью упростить онлайн-общение (предоставить актуальную информацию в наиболее оперативные сроки), используется как альтернатива переписке с живым оператором или звонку менеджеру компании." https://ru.wikipedia.org/?curid=188838&oldid=128262271


Программа работает как открывающееся приложение непосредственно в интернете, как чат-бот ChatGPT [5], так и в составе "умной колонки" или смарт-динамика, включающего и встроенный компьютер, например "Алиса" или ей подобная система. Программа "Алиса" использует многослойную нейросеть для реализации своей работы.

Где же находится эта нейросеть?

Естественно, на машинных мощностях обслуживающей компании. Только там есть машинная база для её реализации в массовом режиме работы.

"По данным Яндекса месячная аудитория Алисы по состоянию на декабрь 2019 года составила 45 млн человек при более миллиарда запросов за год." https://ru.wikipedia.org/?curid=7135537&oldid=128367985


Это примерно 15-20 обращений в секунду!

Не зря Билл Хиббард считает, "что первый ИИ может быть создан только мощными частными корпорациями (что Юдковски считает ложным), и эти транснациональные корпорации не будут иметь никаких побуждений реализовать дружественность."

https://ru.wikipedia.org/?curid=2364621&oldid=128737741


И здесь он прав уже потому, что у потребителя услуг этого ИИ есть лишь его малая программная часть, а основная программа и техническая часть находится на сервере поставщика услуг, что никак не влияет на "дружественность".

Мы же еще раз сделаем вывод, что для реализации сетевого ИИ сегодня нужны большие технические ресурсы, которые пока никак не размещаются в одном, даже очень хорошем домашнем компьютере. Сегодня реальный нейропроцессор включает в лучшем случае десяток тысяч ядер с распределенной памятью и по возможностям явно не тянет на "супермозг". Для реализации этого проекта нужны сотни миллионов таких процессоров в единой системе... и мегаватты энергии!

Это же очень дорого!

Конечно.

Реальный локальный сетевой ИИ работает лишь в некоторых разработках военной и гражданской техники. Массовый потребитель с таким ИИ пока практически не сталкивается и его мнение о возможностях ИИ никак не соответствует реальности.

А далее и совсем... "гладко было на бумаге, да забыли про овраги...":

"- Другими словами, вот этот вновь возникший мир Интернета, он не может воспринимать человека, как некий "аллерген"?

- Нет, этого не случится. Но, говоря об Интернете, надо понимать, что это действительно некая самостоятельная среда. В том числе там возникло и зло. Причем зло изощренное (хакерство и проч.).

- На некоторых итерациях все сводится к человеку...

- Разумеется. И никуда от этого не деться. Даже интернетовские 'безобразия' - это результат деятельности систем человек-машина.

Все дело в том, что сам искусственный интеллект как направление исследований еще не вполне состоялся. Не состоялся как научное направление, имеющее развитую систему понятий и методологических оснований." [10]


Как мы видим, здесь все проблемы пока создает только человек.

Он уж научил сетевой ИИ скрывать "неудобную для владельца ИИ" информацию, "корректировать" результаты поиска по запросу пользователя в "нужную" строну по разным политическим и др. соображениям "защиты свободы пользователя", а по сути врать и давать неверную информацию.

Проблемы возникают из-за человека, взаимодействующего с конечным потребителем в системе "человек-машина". Сам ИИ тут ни при чём.

Тогда надо исключить человека из тандема "человек-машина"?


## Умнеющий автомат.


Недавно в одной из работ по ИИ я прочитал ...

Сегодня направление Behavior-based robotics [6], "поведенческая робототехника (BBR) или поведенческая робототехника - это подход в робототехнике, который фокусируется на роботах, способных демонстрировать сложное поведение, несмотря на небольшое внутреннее изменчивое состояние, для моделирования своего непосредственного окружения, в основном постепенно корректируя свои действия с помощью сенсорно-моторных связей.

Школа поведенческих роботов многим обязана работе, проделанной в 1980-х годах в Массачусетском технологическом институте Родни Бруксом, который вместе со студентами и коллегами построил серию роботов на колесах и ногах, используя архитектуру subsumption. Статьи Брукса, часто написанные с беззаботными названиями, такими как "Планирование - это просто способ избежать выяснения, что делать дальше", антропоморфные качества его роботов и относительно низкая стоимость разработки таких роботов, популяризировали подход, основанный на поведении." https://en.wikipedia.org/wiki/Behavior-based_robotics


Что же тут такого, что мы обратили на это направление столь пристальное внимание?

Родни Брукс начал с новой точки, с понимания того, что для начала движения не нужно даже "внутреннего представления" о модели того, как двигаться [7], достаточно автомата и его минимального интеллекта самоуправления с возможностью постепенного развития. Самого простого автомата. Р.Брукс стал выпускать пылесосы на этом принципе. Так вложения стали окупаться и направление прижилось.

Исследования идут еще дальше.

"Довольно радикально мыслящим исследователем, разделяющим идею о необходимости построения автономных систем, является директор лаборатории искусственного интеллекта МТИ Родни Брукс (Rodney Brooks). Пытаясь построить одного из своих первых автономных роботов ("Allen"), Брукс столкнулся с неожиданной проблемой. Не смотря на тестирование всевозможных способов коммуникации (от полицейских раций до сотовых телефонов) между управляющим компьютером и собственно роботом, добиться нужного качества связи так и не удалось. Поместить же компьютер непосредственно на механическую часть робота не представлялось возможным в силу малых размеров последнего. Это натолкнуло Брукса на мысль о необходимости сделать управляющие схемы робота, его "мозг", настолько простыми и миниатюрными, чтобы робот мог носить их на себе. После удачного воплощение данной идеи в следующих роботах ("Tom" & "Jerry"), Брукс пришел к поразительному выводу о том, что их примитивные схемы работали даже лучше чем управляющий компьютер Аллена. Это заставило Брукса задаться вопросом: насколько вообще простым можно сделать мозг робота, чтобы он еще мог делать что-то полезное?

...Брукс заявлял, что:

Интеллектуальное поведение может быть достигнуто и без планирования в традиционном смысле этого слова.

В центральном представлении информации нет необходимости.

Понятие моделирования мира не практично и не является необходимым. Лучшей моделью мира является сам мир.

Биология и эволюция являются более удачными моделями в создании ИИ. Лобовой подход к построению интеллекта человеческого уровня, очевидно, сталкивается с непреодолимыми трудностями и не является единственно верным. Эволюция создала множество менее интеллектуальных прототипов, прежде чем последовательно, инкрементно создала человеческий интеллект.

Мы должны строить законченные системы, действующие в реальном мире, а не обманывать себя, избегая трудных проблем. Заметьте, мы не должны создавать роботов для упрощенного мира, последовательно наращивая его сложность. Вместо этого мы должны создавать простых роботов для таких сложных миров, какие только сможем представить, последовательно наращивая сложность самих роботов.

На основе этих взглядов Брукс разработал т.н. поглощающую архитектуру (subsumption architecture, в литературе часто "категориальная", "категоризирующая" архитектура). Поглощающая архитектура - это формализм параллельных распределенных вычислений для связи рецепторов и эффекторов робота.

У творений Брукса отсутствует модель мира в привычном понимании, а следовательно нет и механизма планирования. То чем они обладают можно назвать моделью действий. Предполагается, что разработчик робота, обладающий моделью мира, вместо того чтобы передать ее своему созданию пошел более простым путем - передал ему правильные ответы на вопрос что делать в той или иной ситуации, чтобы выжить в этом мире. Система полностью 'полагается' на компетентность своего создателя." [8]


Это же "просто автомат", хоть и сложный. Он может иметь и какие-то элементы интеллектуальности, но останется автоматом. Потому, что большего нам пока не нужно.

Одни ученые, как Родни Брукс, считают, что машине вообще не нужна "модель мира", не нужно "сознание", она вполне самостоятельна в своих действиях и без этих атрибутов.

Другие ученые требуют для машины копирования живых систем интеллекта и разума, как у животных и человека. Потому, что только это направление проверено временем и уже привело к их реальному возникновению у биологических организмов в процессе эволюции.

Стороны не сошлись на сравнении интеллектов.


## Что сегодня?


Пока ученые следуют по давно проложенному пути своего понимания развития ИИ. Основными направлениями развития ИИ давно выбраны:

1. Глобальная система ИИ на основе суперкомпьютера, интернета и центров Big data. Это и есть тот самый Супер ИИ, к которому стремится наука и которого так боятся философы.

2. Локальные системы ИИ в системе 'машина-человек'. Это робототехнические производственные и военные комплексы, работающие в полуавтоматическом режиме или в режиме телеприсутствия.

3. Индивидуальные комплексы ИИ, взаимодействующие с человеком. Сегодня это автоматы, окружающие человека со всех сторон. Это гаджеты в доме и агентские программы в интернете, помогающие в решении самых разнообразных задач нашей жизни.

4. Бионические системы с элементами ИИ, взаимодействующие с человеком в автоматическом режиме. Это самые разные биопротезы и автоматические комплексы, напрямую взаимодействующие с нервной системой человека.


По сути, это единая взаимоувязанная система подхода к машинному интеллекту на основе математической логики и вычислительной техники. Уже полвека мировая наука идет в этом направлении самостоятельно осмысливая новые вызовы, возникающие на этом сложном пути.

При этом, с точки зрения философии мы сегодня можем выделить три исторически установленных пути развития искусственного интеллекта:

1. Модель ИИ "ДРУГ" теоретически содержит "гиромат", имеющий машинное "сознание" и "модель мира" для адекватного решения на основе этических и моральных норма человеческого общества.

2. Модель ИИ "РАБ" - вычислительная система на основе нейронной сети и набора программ обработки информации для получения нужного знания или результата.

3. Модель ИИ - "Автомат" - система выбора и исполнения набора программ, с адекватным реагированием на возникающие препятствия.


Теперь отметим, что модель "ДРУГ" в реальности не существует. Есть только теоретические наработки.

Модель "РАБ" используется во всех направлениях программного ИИ, как основная .

Модель "Автомат" также активно разрабатывается и используется, как основа специальной робототехники, протезирования, систем автоматики в быту, в интернет-системах поиска и обмена информацией.

Только бионические системы с элементами ИИ не могут соотноситься с философской систематизацией. Тут только автоматы разного уровня.

Можно ли как-то совместить эту философскую классификацию с научной?

Давайте попробуем...


Может ли Глобальная система ИИ быть "Другом", "Рабом", "Автоматом"?

Конечно. Всё зависит от того, на каких принципах мы создаем эту глобальную систему.

Может ли локальная и индивидуальная системы ИИ быть "Другом", "Рабом", "Автоматом"?

Да, вопрос опять только в том, на каких принципах их строить.

Бионические системы с элементами ИИ рассматривать не имеет смысла. Это только "автомат".


Такое свободное взаимное соединение двух разных систем философской и научной классификации ИИ четко указывают на то, что они просто идут в разные стороны и какого либо соответствия между ними нет.

Реальная система есть только одна - научная.

Она никак не учитывает любые философские вариации и развивается только на основе своих теоретических разработок.

Получается прямо по И.А. Крылову: "А Васька слушает да ест..."?


г.Волгодонск

май 2023г


Литература:

1. Э.В. Евреинов, Ю.Г. Косарев Однородные универсальные вычислительные системы высокой производительности. // Новосибирск: Наука, 1966.

2. Никитин А.В., Искусственный нейрон // 'Академия Тринитаризма', М., Эл N 77-6567, публ.20230, 20.02.2015 http://www.trinitas.ru/rus/doc/0016/001d/00162430.htm

3. Бостром Н., Искусственный-интеллект. Этапы. Угрозы. Стратегии https://avmim.com/wp-content/uploads/2018/11/Бостром-Н.-Искусственный-интеллект.-Этапы.-Угрозы.-Стратегии-2014.pdf

4. Почти 40 млрд транзисторов. 64-ядерный процессор AMD продолжает впечатлять https://www.ixbt.com/news/2019/10/23/40-64-amd.html

5. Закон количества транзисторов в процессорах (закон Мура) в цифрах и графиках https://pro-spo.ru/vse-o-kompyuterax-i-noutbukax/5567-zakon-kolichestva-tranzistorov-v-proczessorax-zakon-mura-v-czifrax-i-grafikax

6. Робототехника, основанная на поведении - Behavior-based robotics https://ru.wikial.top/wiki/Behavior-based_robotics

7. Хайди Ледфорд Раненые роботы учатся хромать https://translated.turbopages.org/proxy_u/en-ru.ru.3d142ffa-640704d4-3edbbef1-74722d776562/https/www.nature.com/news/2006/061113/full/news061113-16.html

8. Эволюционный подход к искусственному интеллекту http://ailab.ho.ua/Brooks/Evolution_eys.htm

9. Роджер Пенроуз, Новый ум короля. О компьютерах, мышлении и законах физики. https://royallib.com/read/penrouz_rodger/noviy_um_korolya_o_kompyuterah_mishlenii_i_zakonah_fiziki.html#0

10. А. Ваганов, 13 признаков искусственного интеллекта https://www.ng.ru/nauka/2018-06-27/9_7253_intelligence.html