Аннотация: Скрестив знания о нейросетях и о человеке, можно узнать много интересного.
Развитие технологий машинного обучения привело к появлению теории нейронных сетей.
Если попытаться объяснить её популярно, то нейронные сети - схемы, состоящие из соединенных между собой нейронов.
Нейрон в теории нейросетей - условный элемент, имеющий некоторое количество входов и один выход и принимающий определенные состояния. Входы имеют название “синапс”, значение функции состояния нейрона зависит от параметров на входах и удельных весов каждого входа.
Рис. 1 Нейрон.
Рис. 2 Функция нейрона (пример)
Ключевой особенностью нейрона, что и привела эту модель к использованию в машинном обучении, является то, что нейрон может быть обучен.
Обучением нейрона называется процесс расстановки удельных весов синапсов нейрона. Это происходит в режиме обучения нейрона - т.е при подаче на входе нейронов некоторого набора данных, для которых заранее известно положительное значение функции нейрона. При этом после каждого значения из набора изменяются удельные веса синапсов.
После обучения нейрона его можно использовать для, например, распознавания образов - значение функции нейрона будет тем выше, чем ближе данные на входе к обучающим данным.
В случае с нейросетью, состоящей из многих нейронов, обучение и применение отличаются незначительно. Стоит упомянуть только наличие в этом случае скрытых слоёв между входным и выходным нейронными слоями.
Рис. 3 Нейросеть из трёх слоёв со скрытым слоем.
Более подробно и популярно работа и применение искусственных нейронных сетей показано в статьях[1-4].
Человек как нейронная сеть
Мозг человека, как и нервная система любого животного, является нейронной сетью, состоящей из аналоговых нейронов.
Рис. 4. Нейрон человеческого мозга
Аналогично нейронам искусственным, нейроны естественного происхождения имеют функцию состояния, входы и выход, могут обучаться, но есть ряд характерных особенностей, которые кардинально изменяют задачу обучения.
Первая - у естественных нейронов нет выделенного режима обучения. Режим обучения и режим работы у естественных нейронов слиты воедино, и поэтому можно даже сказать о сравнении естественных нейросетей с квантовыми объектами - любое измерение/воздействие изменяет состояние (обученности нейрона).
Вторая - сейчас нет инструментов, позволяющих напрямую считать состояния и удельные веса синапсов нейронов естественной нейросети. Значения на входах и выходах естественных нейросетей вводятся и выводятся через промежуточные нейросети органов чувств и исполнительных механизмов, в частности, речевого и опорно-двигательного аппаратов.
Третья - обучение естественной нейросети оказывается связанным с поощрением и наказанием, точнее, положительными и отрицательными стимуляциями - а именно обозначением верных и неверных обучающих данных соответственно.
Четвертая - сложность естественной нейросети человеческого мозга значительно больше активно применяющихся сейчас искусственных нейросетей - более 500 миллиардов нейронов против единиц-сотен-тысяч.
Пятая - в отличие от обычно жёстко заданных структурно искусственных нейросетей, естественные нейросети умеют изменять собственную конфигурацию - в некоторых пределах. В частности через соединение близких нейронов дендритными выростами.
Эти отличия приводят к ряду интересных следствий.
Поговорим об этих следствиях.
Первое следствие. ЦНС человека и его мозг в частности имеет смысл рассматривать как набор разнообразных нейросетей, по-разному обученных и с разнообразными целевыми задачами - а так же отличающихся исходной структурой, чьё развитие зависит от генетики и эпигенетических факторов, т.н. врожденные особенности.
Второе следствие. Воспитание, образование и обучение ребёнка есть лишь различные наборы данных. Обучение ребёнка при нейропедагогическом подходе совпадает практически с определением обучения нейросети. Отдельно сформулировать это можно следующим образом:
Обучение естественной нейросети есть ввод известных наборов данных с практически однозначно соответствующими и известными значениями функций состояния нейросетей, при котором близость получаемого значения функции состояния к заранее известному стимулируется положительно, а удаление - отрицательно.
Воспитание есть обучение нейросетей ребёнка на всей поступающей извне информации.
Образование есть обучение ребёнка конкретными наборами данных, направленное на получение им знаний, умений и навыков.
И стоит ещё раз повторить тот факт, что измерение обученности нейросети возможно только через отклик самой нейросети, и сам факт измерения чего-либо изменяет нейросеть.
Из этого же вытекает особенность памяти нейросети, памяти человека. Можно провести параллели с т.н. DRAM - динамической памятью современных компьютеров, а именно - в памяти типа DRAM значения в ячейках памяти постоянно обновляются. Аналогия же в том, что память нейросетей так же обновляется - но не периодическим синхросигналом, а при повторных обращениях к одному и тому участку нейросети. Без такого обновления информация в памяти понемногу теряется, для компьютерной памяти DRAM это наносекунды, для памяти живых нейросетей это может составлять год и более, но тем не менее.
Выражаясь простым языком, вывод формулируется простой - что ты делаешь, тому и учишься; чему учишься, то и помнишь.
Настоящее состояние
Нейропедагогика как наука только начинает развиваться, и выделяют отдельно нейрообучение[5], нейропедагогику[6], нейродидактику[7], и вариант, описанный здесь, лишь один из списка частных подходов.
Но осознанно понимать принципы обучения живых нейросетей необходимо каждому, поскольку обучающиеся нейросети - это все вокруг нас, в том числе и мы сами.
Список литературы
1. Нейронные сети для начинающих. Часть 1 https://habrahabr.ru/post/312450/
2. Нейронные сети для начинающих. Часть 2 https://habrahabr.ru/post/313216/
3. Нейросети для чайников. Начало https://habrahabr.ru/post/143129/
4. Нейросети для чайников. Часть 2 - Перцептрон https://habrahabr.ru/post/144881/
