ИИ и девушка-савант. Ложка дёгтя в бочке мёда (И в этой ложке как раз всё дело)
Уже очень давно мне в голову пришло сравнение девушки-саванта, о которой я неоднократно писал раньше, с бочкой мёда, в которую попала ложка дёгтя.
Русскоязычному читателю эта метафора будет понятна с ходу, а вот в человеке из иной языковой среды это, возможно, вызовет затруднения и породит "различные интерпретации".
Наподобие того, как, вероятно, другую интерпретацию вызывает и у девушки-саванта, и вызвал бы у ИИ, мышление которых настолько однотипно (привет, психологи! Объясните, наконец, технарям, почему их нынешние попытки создать ИИ ведут в тупик), что и оправдывать свои провалы в мышлении они тоже должны одинаково.
Я так и слышу возражения девушки-саванта или её защитников (о них я писал в заметке "Белоснежка и семь гномов"): но ведь мёда-то больше, целая бочка! Зачем принимать во внимание такую мелочь, как чуть-чуть дёгтя?
Да затем, всего-навсего, что эта ложка приводит в полную негодность целую бочку ценного добра, а в других аналогичных ситуациях - перечёркивает весь "правильный" результат, полученный до этого, а то и вовсе обращает его во вред.
И аргумент, чего больше, а чего меньше, просто теряет смысл.
Напомню знаменитый, эпический эпизод из фильма "Человек дождя", где обычный, первый попавшийся на пути Чарли с его братом-савантом, врач навскидку задаёт этому саванту несколько вопросов.
Перемножение огромных чисел савант производит в уме с огромной скоростью, так что его брат поражён и восклицает: "Да ему надо работать в НАСА!"
Но следующие вопросы:
- Сколько стоит плитка шоколада?
- Примерно сто долларов...
- А сколько стоит автомобиль?
- Примерно сто долларов, -
- вызывает разочарованный вздох: какое уж тут НАСА!
Но примечательным здесь является не то, что брат Чарли савант НЕ ЗНАЕТ ничего о цене товаров в нашем мире, а в том, что он, даже не зная этого, всё равно ОТВЕЧАЕТ, хотя, может быть, не совсем уверенно.
Лакуны, белые пятна в своём сознании он с лёгкостью заполняет "чем-то похожим" на реальность, что в психиатрии вообще-то называется КОНФАБУЛЯЦИЕЙ или синдромом Корсакова. (В сериале "Доктор Хаус", кстати, есть серия, где показан такой случай).
На днях я прочитал, что если ИИ чего-то не знает, он придумывает (исходя из своих представлений) и выдаёт за достоверный "результат" операций со своими познаниями.
То же самое происходит в сознании девушки-саванта. Недавно я упоминал, что после первого употребления Россией нового вида opyжия, названного "Орешником", она разразилась на своём канале статьёй про... орехи. Ей казалось, что исчерпывающая информация про существующие виды орехов здесь очень кстати... Хотя об оружии и его технических характеристиках вообще-то пишет немало и кому-то, вероятно, уже кажется экспертом в данной области.
На самом деле она просто таким образом замаскировала пустоту в своих представлениях и её читатели ей на это не указали и её не остановили.
После победы Д. Трампа на президентских выборах год назад она выдала (на своём канале) статью про... японский театр кубуки. Систематично и достаточно подробно она описала, что это за тип театра (ну, её читатели-"гномы" привыкли на ура воспринимать её стряпню и прятать от себя своё недоумение поворотами её мысли), и всё это ради одной фразы... что Дональд Трамп может оказаться не тем, чем кажется.
Для неё ради такого вывода, безусловно, стоило "огород городить", а вот для беспристрастного читателя (каковых у неё кроме меня нет) это напоминает защитное поведение каракатицы, которая в случае опасности выпускает целую струю "чернил", которая маскирует её подлинное местоположение от хищников. Я вообще заметил, что Эль (как я назвал эту самую девушку-саванта) выпускает облако "пыли в глаза" своим читателям или собеседникам тем больше, чем беззащитней и беспомощной чувствует на том "поле", на котором протекает её (интерактивная! - подчеркну), - вдруг завязавшаяся беседа. Хотя обычно маскировать провалы в своём мышлении ей позволяет абсолютно произвольный выбор тем для своих публикаций. Тех, в которых в своих представлениях она думает, что сильна).
Я уже сравнивал, в публикации о ней, общение с ней с движением по болоту: вот стоишь вроде на твёрдой почве, но следующий шаг может быть провалом в такую глубину, что "по самое никуда", то есть полностью убивает её собеседника.
Аналогичную мысль я высказывал в другой своей публикации, где приводил свой, ещё в юности, ответ на вопрос: "Если дypak всё время говорит, может ли он однажды сказать что-нибудь умное? - Да, может. Только рядом должен стоять умный (по-научному: "эксперт"), который сможет определить, что именно из сказанного будет умным и точным: ценным наблюдением или выводом о нашей реальности.
(Мой знакомый, слывущий "дypak"ом выдал однажды, про меня, что если большинство людей вокруг нас (наших студентов) избалованы материально, то я зато избалован духовно. - Ни один умный вокруг не догадался так точно сформулировать суть!)
Но как понять (или: как доказать), что современный ИИ - это не что иное, как (подобно девушке-саванту) "умный идиот"? И "развивать" его - дело бесперспективное?
А вот в том эпизоде "Человека дождя" я уже ткнул пальцем в единственно верный способ. И сам я назвал бы его ШИББОЛЕТ.
Шибболет - это контрольное слово, которые настоящие, прирождённые носители каких-либо знаний задают предполагаемому "шпиону", чужаку, чтобы вывести его на чистую воду.
Человек может сколько угодно врать соотечественникам, что он блестяще, в совершенстве владеет другим языком, но подлинные, прирождённые носители этого языка мигом выведут его на чистую воду. И не помогут никакие огромные облака пыли, пущенной в глаза кому-то иному, всем остальным, кроме этих исконных носителей языка.
И это вовсе не "закон Тьюринга", который будто бы сможет доказать, что ИИ достиг уровня "настоящести" и подлинности (вернее - "показать - когда" это произойдёт).
Недавно я читал что какой-то ИИ уже смог пройти этот "Тьюринг-контроль", но кто этому обрадовался - всего лишь жестоко обманулся. Разве никто из читателей не видел (множащиеся день ото дня) изображения, сгенерированные ИИ, не читал тексты, написанные им, не слышал даже им сочинённую музыку?
Вопрос всегда упирается в то, сколько времени у нас уходит, чтобы начать подозревать, что мы имеем дело с фальшивкой.
Ведь "тестируя" ИИ его продукты таким длинным эмпирическим путём, мы потратим огромную уйму времени (поди, приставь к каждому "дypak"у эксперта!)
Так что тьюринговский метод может тихо отдыхать в сторонке. Отдать себя "на волю волн", в надежде, что провалы в мышлении машины когда-нибудь да выплывут, мы не можем. Такой провал может оказаться критически опасным для нас и нашего существования.
Нужен именно "шибболет" - целенаправленный поиск лакун в мышлении данной модели ИИ - быстрый и чёткий.
Я не помню, какой народ древнего Ближнего Востока употребляли слово "шибболет" (ставшего с тех пор нарицательным) для выявления чужаков, которые не могли это слово правильно произнести, но хорошо помню близкий и понятный нам, русским пример: во время Великой Отечественной всех подозреваемых в шпионаже заставляли произносить слово "дорога". Некоренные "русские" (то есть даже очень хорошо натасканные немцы) никак не могли произнести его правильно. Как ни старались, но у них в результате получалась "тарока".
Поэтому прежде чем "нестись вперёд" в развитии нынешних форм ИИ, я бы озаботился созданием точных и исчерпывающих тестов (то есть совокупности "контрольных вопросов") для определения того, пригодны ли они для "работы" с теми или иными явлениями или процессами окружающего нас реального мира.
Это как создание тестов для "пеленгации" свойств личности психологами: создают эти своды контрольных вопросов они не на основе глубоких теоретических познаний, а на основе обобщения эмпирических данных, т. е. методом проб и ошибок. - Но всё же прикладывание этой эталонной матрицы ко всем субъектам позволяет довольно быстро и довольно-таки точно выявить все девиации (отклонения) любой личности, так же, как и провалы в её представлениях (то есть "знаниях").
Прости, Тьюринг, твой метод "длительного наблюдения" здесь не подходит. ЧТО нужно проверять у свежеиспечённого ИИ, мы должны знать изначально правильно и ухватывать его точно и цепко.