Конюшкова Елена Георгиевна : другие произведения.

Прорехи Искусственного Интеллекта

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:
Школа кожевенного мастерства: сумки, ремни своими руками
 Ваша оценка:
  • Аннотация:
    Искусственный Интеллект (ИИ) слишком хрупкое и несамостоятельное создание, чтобы можно было всерьез видеть в нем опору для поиска верного направления развития цивилизации. А сейчас очень многие пытаются делать именно это, и это крайне опасно для человечества. Об этом я и хочу поговорить.
  
  
  Искусственный Интеллект (ИИ) слишком хрупкое и несамостоятельное создание, чтобы можно было всерьез видеть в нем опору для поиска верного направления развития цивилизации. А сейчас очень многие пытаются делать именно это, и это крайне опасно для человечества. Об этом я и хочу поговорить.
  
  Наверное, очень многим, далеким от кухни подготовки Искусственного Интеллекта, кажется, что ИИ на самом деле разумен, после того как они ознакомились с рядом генерируемых им текстов. Потому что они воспринимают связанные в предложения слова и вроде бы видят смысл, но они не знают о том, как этот "смысл" готовится. Во многих случаях он случаен.
  
  Тексты ИИ есть лишь результат слепого подбора слов по заданным схемам. После длительного обучения ИИ на огромных массивах текстовых данных, у него вырабатывается алгоритм подстановки подходящих (т.е. соответствующих определенным критериям) слов в предложения. Людям кажется, что эти предложения осмысленны. Да, осмысленны, но ИИ, который их сформулировал, ничего про этот смысл не знает! Это трудно осознать людям, не имеющим возможности проникнуть в кухню приготовления этого продукта.
  
  Давняя мудрость о том, что если кто-то говорит разумно, то у него есть разум, утратила свой смысл в нынешних изменившихся обстоятельствах. Человечество научилось имитировать разум, но само попало в эту, изобретенную им ловушку.
  
  Доводилось читать в прессе, как толковые программисты говорят интервьюерам о том, что, мнения выдаваемые ИИ, есть лишь результат игры в слова. Что ИИ просто подставляет те слова, на которых его обучили, в форму предложения. Что смысла в этом нет никакого. Что это просто жонглирование словами. Что ИИ не занимается смыслами, у него нет мозга и сознания, чтобы понимать то, что он сформулировал. Дескать, это только словесный волейбол.
  
  И тут же какой-нибудь более-менее известный публицист, отдаленно причастный к теме компьютеризации в целом, но не понимающий деталей, высказывает противоположное мнение. Дескать, предыдущий автор высказал свое частное мнение, а мне кажется, что ИИ близок к самосознанию и к нему надо прислушиваться. И ведь прислушаются же! И грохнут этот мир, например, в безумие войны. Потому что публицисты говорят гладко и понятно, а программисты несут что-то свое, никто их толком не понимает. Однако, в данном случае правы программисты.
  
  Я подчеркиваю еще раз: ИИ только внешне говорит разумные слова, которых нахватался в предложенных ему базах данных, так, что у непрограммистов складывается впечатление, что он обладает реальным разумом, а то даже самосознанием.
  
  Это совершенно не так! Это иллюзия, мираж, если хотите. ИИ не знает наш мир, ему неоткуда его узнать! Его "разум" формируется на основании словесных, музыкальных, графических и т.п. фрагментов мира, т.е. обрывков, случайных кусочков. Это просто гора фрагментов, которую он обрабатывает определенным запрограммированным образом для формирования ответов по заданной форме или согласно поставленной задаче. Без всякого разума и без наличия мнения.
  
  Человеческий же разум принципиально отличается от этой программы. Он формируется комплексно, в течение всей жизни, воспринимая окружающий мир всеми имеющимися органами чувств, а не только разумом (поначалу зачаточным); переживая контакты с миром, порою очень болезненно переживая, потому что мир отвечает ему не так, как он ожидал; совершая ошибки, быть может, исправляя их. Это медленный и трудоемкий процесс. Разум человека это результат длительной адаптации к миру и его осмысления в целом. А вы хотите, чтобы просто переработав гору информации из интернета (или еще откуда-то, это совершенно неважно), не соприкоснувшись с реальным миром, ИИ откуда-то сформировал подлинный разум и понимание. И выдавал вам советы. Забудьте. Нет там разума.
  
  Неоднократно читала мнения специалистов в области нейробиологии, о том, что программные нейронные сети лишь на поверхностный взгляд соответствуют реальным нейросетям в мозге, реально же сильно отличаются по целому ряду параметров. Это тоже немаловажный факт. То есть, нынешние программные нейросети это совсем не копия мозга, а лишь отдаленное подобие.
  
  На данном этапе мы видим успехи ИИ в разных производственных, медицинских, образовательных и прочих сферах. В этих утилитарных сферах вроде все получается.
  Главное достоинство ИИ - в способности быстро переработать огромные массивы информации, что не под силу человеку, или даже группе людей. А наличие информации зачастую является ключом к решению, т.к. любые решения, как правило, рождаются не на пустом месте, а на базе уже проделанной другими работы. Именно в этом залог успешной эксплуатации ИИ в каких-то частных областях.
  
  Причина здесь в том, что научные и практические наработки по конкретным темам обычно идут в одном ключе, и потому преобладающие в базах данных знания в целом суммируются в одном направлении, что помогает ИИ в выработке правильных тематических решений.
  
  Опасность ИИ, однако, заключается в том, что свои решения он принимает на базе тех данных, которые ему предлагаются для обучения и работы. Если ограничить (случайно или намеренно) массивы данных некими особыми правилами, т.е. дать кособокую выборку, то и решения будут совершенно кособокими, т.е., в лучшем случае, непригодными для использования, а в худшем - губительными. Кроме того, есть еще нюансы программирования ИИ, тоже публике неведомые.
  
  Народ давно привык к системам автоматизации в самых разных сферах жизни. Все это давно с нами и прекрасно проявило себя в работе. Возможно, еще и поэтому очень многие склоны слепо доверять решениям и мнениям ИИ - это же тоже область программирования.
  
  Да, это тоже программы, но есть существенные различия. Алгоритмы АСУ (автоматизированных систем управления) прозрачны и понятны любым специалистам. Эти алгоритмы контролируются программистами полностью. Выявленные ошибки легко исправляются. Результаты, которые выдают АСУ, могут быть проверены специалистами. АСУ всегда решают конкретные задачи и никогда не претендуют на роль гуру по широкому кругу вопросов.
  
  Что касается ИИ, то тут ситуация другая. Да, ИИ тоже решают конкретные практические задачи в самых разных сферах производства в широком смысле слова. Я недостаточно хорошо знакома с практическим применением ИИ в этом плане, но склонна думать, что серьезных проблем с эксплуатацией ИИ такого рода не так уж много, и они, вероятно, решаемы.
  
  Другое дело - социальная жизнь, где все гораздо неопределеннее, сложнее и разнообразнее. Здесь найти определяющий вектор развития на основании баз данных - дело очень проблематичное. Но именно здесь заметно стремление, даже давление, придать ИИ роль гуру по самому широкому спектру вопросов, касающихся управления нашей жизнью в целом. То есть, "мнение" ИИ может стать доминирующим как в вопросах развития экономики, так и в политических вопросах.
  
  Почитав тексты по теме, я поняла так, что руководители многих стран в значительной степени не прочь переложить ответственность за принимаемые решения на ИИ. Доводилось читать, что даже НАТО стремится к цифровой трансформации в сфере принимаемых решений, желая переложить их на ИИ, о чем прямо заявляет. А сфера деятельности НАТО - это война и мир. Офигеть можно.
  
  И действительно, как удобно для руководства повернуть развитие в своих интересах, а всю ответственность свалить на безмозглого (в буквальном смысле) ИИ. А потом ищите виноватых. Ответственность же будет размыта - спросить не с кого. Все чудненько складывается, не правда ли?
  
  Обучение ИИ на гигантских данных в данном случае не приводит к "пониманию" реальных ситуаций. Там слишком много самых разнообразных данных и мнений, чтобы могла проявиться какая-то "правильная" линия. Для кого она будет правильной? Так что выбор ИИ может быть совершенно случайным.
  
  И, в связи с этим, хочу коснуться еще одного очень существенного аспекта, касающегося работы ИИ. Всем известно, что ИИ - это программа. Когда программа используется в каких-то утилитарных целях, то ее работу в большинстве случаев программисты подгоняют под нужные алгоритмы, т.е. направляют развитие. И контролируют таким образом.
  
  Но когда ИИ хотят использовать для решения широких социальных вопросов, то можно попасть в ловушку. Дело в том, что ИИ, работающий на одних и тех же массивах данных, может выдавать совершенно разные результаты в зависимости от незначительных изменений в самой программе. Бывают такие изменения, что невозможно сказать, как правильнее. Дело вкуса программиста. Особенно по теме ИИ. Никто кроме программистов понятия не будет иметь об этих мелких корректировках, а результаты могут пойти совершенно разные, даже взаимоисключающие. И вот судьбы мира оказались в зависимости от предпочтений программистов. А мало ли что или кто может влиять на эти предпочтения? Тоже вопрос занимательный. Думаю, очевидно, что возможны манипуляции "мнением" ИИ, невидимые со стороны. А в "кухню" вряд ли кого пустят, да и далеко не всякий разберется.
  
  Зависимость от корректировок - вещь совершенно очевидная для всех программ во все времена. Но все прежние программы никогда не использовались в качестве всезнающего гуру. Они решали конкретные задачи, а не определяли пути развития цивилизации, или даже отдельных стран. Программа не должна быть гуру и принимать решения за людей! Это очевиднейший момент. И только теперь человечество додумалось найти себе поводыря в виде ИИ, как бы забывая о том, что это всего лишь программа!
  
  То есть, ИИ, как капризная барышня, может сегодня вам сказать одно, а завтра - совершенно другое. А потом - третье. Мне представляется, что человечество само загоняет себя в полное безумие в масштабе цивилизации, если, конечно, не одумается и не остановится, используя ИИ только в ограниченных рамках.
  
 Ваша оценка:
Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список

Кожевенное мастерство | Сайт "Художники" | Доска об'явлений "Книги"