Аннотация: Все нынче трендят про Искусственный Интеллект. И я тоже. Уже вроде бы все изложила по теме в прежних статьях. Но тут назрел такой поворот в развитии, что мне стало не по себе от надвигающихся перспектив. Пришлось опять вернуться к теме.
Когда-то очень давно, когда я выбирала, где бы мне учиться и какую бы профессию приобрести, обстоятельства сложились в пользу профессии программиста. Кроме
склонности к математике имело значение и то обстоятельство, что я терпеть не могла любую общественную работу: кого-то там обучать, воспитывать, чего-то регулировать и тому подобное. А профессия программиста представлялась мне тихой, спокойной, интересной и далекой от общественных бурь. Тогда я и подумать не могла, что настанет время, когда только программисты смогут понять весь кошмар, надвигающийся на человечество, и только они в силах будут (быть может) его остановить. Потому что все остальное человечество будет лишь беспомощно хлопать глазами и разводить руками, ничего не понимая в происходящем. Приходится ввязаться в эту бучу.
Далее пойдет речь об Искусственном Интеллекте (ИИ), но лишь в одной его реализации: имитация человеческого языка. Все остальные программы ИИ носят специфический характер, весьма успешно развиваются и работают. О них здесь речи нет.
Поводом для данных заметок послужила конференция по ИИ, прошедшая в РФ в первой половине декабря. Меня заинтересовала речь президента РФ на этой самой конференции. Не вся речь, но лишь отдельные цитаты из нее. Если бы это сказал какой-то заурядный журналист, я бы не обратила на это никакого внимания: подобных перлов полно в СМИ и в интернете. Но, то, что это было сказано главой государства, меня изрядно напугало - последствия могут оказаться слишком серьезными.
Я прекрасно понимаю, что ни В.В. Путин, ни другие высокие чиновники ничего не понимают в программировании - не на программистов учились. У всех другие профессии, к тому же их нынешняя работа далека от этой профессии. Даже, если бы и учились на программистов, их нынешние занятия не оставляют им никакого времени разбираться в теме досконально. Естественно, они ссылаются на мнение неких консультантов, о чем прямо и сказал президент. Имена консультантов остались мне неизвестны.
Приведу ту самую цитату из речи президента РФ на конференции по ИИ 11.12.24:
"В чём принципиальная особенность того скачка, который сделали алгоритмы искусственного интеллекта? Сейчас только коллеги мне об этом рассказывали, они научились рассуждать, логически излагать свои мысли, то есть генеративный искусственный интеллект существенно улучшил свои именно когнитивные, мыслительные способности.
Напомню в этой связи знаменитое изречение математика Рене Декарта, которое стало символом научной революции Нового времени: "Мыслю, следовательно, существую". И это было ещё в XVI -XVII веке. До сих пор мышление, как и память, речь, умение понимать чувства других, считались основополагающими характеристиками homo sapiens, человека".
Конец цитаты. Согласно тексту, основные мои претензии именно к "коллегам", на которых ссылается президент.
В связи с тем, что мышление, согласно словарю Ожегова есть "способность рассуждать, представляющая собой процесс отражения объективной действительности...", никакого мышления у ИИ нет и быть не может, как минимум еще сотню лет или больше. Ибо никакая "объективная действительность" им просто недоступна.
Суть же дела в следующем. ИИ осваивает человеческий язык совсем не тем образом, как делали это мы с вами, т.е. познавая окружающий мир, постепенно именуя окружающие предметы и выстраивая их в композиции, присваивая им новые, ранее незаметные, качества. Нет, совсем не так.
ИИ не знает никакого окружающего мира. Он знает только те тексты, картинки и прочее, что ему подсовывают программисты. То есть, он (точнее, она - программа, хотя и обучаемая) существует в совершенно изолированной среде, где ему подсовывают для освоения разные материалы. Он понятия не имеет, что за закорючками, которые он фасует и запоминает, стоят какие-то реальные образы со всеми их взаимосвязями, какие-то реальные жизни, вообще цивилизация со всеми ее сложностями и проблемами. Уясните себе только это, и вам легко будет понять, что у ИИ не может быть никаких мыслей, решений касательно нашей с вами сложной жизни.
Ученые скопировали технологию мышления нашего мозга, но не наполнили ее главным - реальным содержанием нашей жизни! Они решали свои узкоспециальные задачи. Порою задачи классификации, порою задачи имитации и прочие. Многое из этого получилось. Получилось потому, что для решения этих задач ИИ достаточно тех наборов данных, которые ему были предоставлены, потому как задачи те сугубо локальны. Быстро перебирать, сортировать гигантские массивы данных - это он умеет. И прочее подобное тоже.
Беда подкралась тогда, когда ИИ стали обучать человеческому языку. Проблема в следующем. Мы все с вами говорим на этом языке. Но кроме этого мы являемся членами социума со всеми его законами, понятиями, потребностями, способностями, профессиями, городами, заводами, школами и прочее, и прочее. Мы существуем в этом антураже, в этой атмосфере. Мы худо-бедно научились понимать друг друга, как-то считаться друг с другом и т.д.
И вот ИИ, предположим, обучился правильно говорить и включается в наши разговоры. Но он не член сообщества, он лишь обучен жонглировать словами, не понимая их смысла. Ему неоткуда узнать о нашей жизни, он только читал тексты. Пусть даже картинки ему показывали - непринципиально. Его разговоры с нами могут быть лишь на первый взгляд разумны. Но они - безумны! За его словами нет понимания, они пусты. Это просто правильное жонглирование словами. Имитация разумной речи.
Большинство населения не понимает этого, потому как далеко от всех этих программирований. В этом - беда! Нельзя относиться к разговорам с ИИ всерьез.
Для того, чтобы обучить ИИ говорить по-человечески, ученые разбили язык на привычные нам формы речи "существительное", "глагол", "прилагательное" и всякое прочее. Они стали учить ИИ сортировать эти слова и размещать их по группам, а потом формировать из них новые предложения. Заметьте, о смысле всех этих слов, т.е. о соответствии слов реальным объектам мира ИИ не имеет ни малейшего представления! Это просто такая словесная игра в перекидывание слов (мячиков, воланов и т.п. - без разницы) согласно установленным правилам. Когда люди (не программисты!) читают или слушают полученные предложения, они не могут отрешиться от знакомого им наполнения этих слов, и, соответственно, начинают считать ИИ разумным. Ну, тогда, когда предложения получились удачными. Так возникает этот гигантский обман, гигантская иллюзия разумности ИИ.
Потом для обучения ИИ быстрому формулированию правильных предложений стали применять обучение на гигантских массивах данных, например, в интернете. Чем на большем количестве человеческой речи будет обучен ИИ, тем более похожим на человеческую речь языком он будет изъясняться. Просто потому что статистически чаще встречаются правильные предложения, из чего он и составляет свой язык.
Замечу, что характер данных для обучения тоже имеет первостепенное значение. Можно так подобрать массивы данных, что ИИ будет говорить только по используемым для обучения темам и только в нужном ключе. В общем, тут простор для разнообразных фантазий и эксплуатаций.
Это работает примерно так, начнем с букваря, как и положено. Там есть, например, фраза
"Мама мыла чашку". ИИ читает предложенные для обучения тексты. Расфасовывает слова по категориям. Много-много всяких слов. И в какой-то момент, зацепившись за какое-то слово из задания, создает новое предложение того же типа, что в букваре: "Тетя пила бражку". Такое вот творчество. Полное соответствие по грамматике и вполне наполненное смыслом предложение. При этом, заметьте, смысл, как первого предложения, так и второго ИИ совершенно неизвестен! Так что не надо обвинять его в асоциальном поведении! Я хочу, чтобы все уяснили - у ИИ нет никаких смыслов.
Надеюсь, понятно, что все прочие его сочинения и откровения покоятся на приблизительно таком же фундаменте? Он вам тут такого насоветует!
Когда-нибудь, лет через 100-200, когда ИИ научатся обучать на окружающей реальности, как и детей, он какой-никакой разум приобретет. И только тогда начнет хоть что-то говорить более-менее осознанно. И то для того нужны еще всякие условия. Но и тогда вряд ли его мнение по вопросам социального толка будет кому-то интересно, потому как пока он не является членом человеческого сообщества, у него нет никаких интересов в этом плане и нести он может все что угодно. И манипулировать им будет также довольно легко - стоит подсунуть заказные тексты для обучения и он сформулирует вам те идеи, которые требуются. А вы, ребята, слушайте, только не рекомендую головы при этом терять.
В связи с надвигающейся критической ситуацией в плане общения с ИИ, позволю себе обратиться к программистам страны, способным честно высказать именно свое (а не заказное) мнение по теме, неважно занимаетесь ли вы ИИ или нет. Если вы не новичок, имеете определенный, желательно разносторонний опыт программирования, пусть даже никогда не интересовались ИИ, найдите время разобраться в теме и высказать свое мнение в общественном пространстве. Уверяю вас, программы там совершенно обычные, не требующие каких-то особых способностей, недели плотного изучения вам точно хватит для того, чтобы понять, что именно делают эти алгоритмы.
Не знаю, есть ли сейчас в интернете тексты по ИИ, подробно излагающие суть темы, суть, так называемого "глубокого обучения" по теме изучения человеческого языка, изложения мыслей, общения на нем. Давно не искала. Но есть куча книг именно по этой теме. Книг с примерами реальных работающих программ, их можно купить, найти в библиотеках и т.д.
Прочитайте их и разберите программы. Никаких сомнений относительно "разума" у ИИ ни у кого не останется.
Насколько мне известно, принципы этих программ и тех, что используются в моделях ИИ с мировой известностью, не изменились. По крайней мере, я нигде и никогда не слышала о подобных революциях. А значит, это те же самые технологии, которые используются везде, естественно, с какими-то частными нюансами.
Повторяю, я говорю именно о моделях ИИ, занимающихся имитацией человеческого языка, потому как основная опасность именно в этой теме, потому как нельзя относиться к словесным играм ИИ серьезно. А такая опасность надвигается. Прочие узкоспециальные модели ИИ достойно делают свое дело, опасности для социума, насколько я понимаю, не представляют.