исходило объединение менее сходных образов. В случае, если модель не распознавала очередной образ, она присваивала ему новый подкрепляющий и распознающий элемент матрицы R.
Алгоритмы построенной нами модели позволяют безошибочно распознавать все предлагаемые символы в количестве, равном числу НЭ в подкрепляющей подсистеме, в том числе символы очень сходные, почти «взаимнопоглощенные». Минимальное время обучения системы для запоминания одного символа при оптимальных условиях работы сети составляло четыре такта времени. Для правильного опознания при этом требовалось три такта счета (рис. 39).
Рис. 39. Обучение сети и распознание буквенных символов «В» и «Б» при оптимальных параметрах работы модели.
«I» – активность нейроноподобных элементов (НЭ) системы А в последовательные такты счета. Числа вверху означают номера тактов в режиме обучения (двоеточие) и в режиме распознания (двоеточие и звездочка.). I – момент «импульсного разряда» данного НЭ, – момент его отсутствия. «II» – активность НЭ подкрепляющей и распознающей системы R в эти же такты счета. «III» – активность системы памяти в тот же период времени, (по Шульгина, Муравьев, 2000).
Для реализации опознания и для повышения надежности в процессе опознания образов оказалось необходимым использовать три вида торможения, известных в нейрофизиологии:
Предвозбудительное торможение. В опытах с моделью обнаружилось, что для повышения надежности в распознании очередного символа необходима установка НЭ и контактов между ними перед подачей очередного образа в исходное состояние. Это действие имитировало нейрофизиологический процесс предвозбудительного торможения (см. Evarts, 1974; Шульгина, 1978). При отсутствии предвозбудительного торможения происходило наложение последующего образа на предыдущий (рис. 40).
Рис. 40. Аномалии в работе программы, поскольку не было имитации предвозбудительного торможения. Следы предыдущего образа (К) ухудшают опознание нового (Б). Обозначения как на рис. 39. (по: Бардычев и Шульгина, 2006).
Доминантное торможение. Эксперименты с моделью обнаружили также, что, поскольку сходные образы возбуждают одни и те же элементы матрицы С и далее А, с небольшими отличиями в их расположении и количестве, то в процессе распознания обычно активируется не один, а несколько элементов матрицы R, что приводит к аномалиям в работе программы (рис. 41).
Рис. 41. Наложение при распознании двух ранее выученных сходных образов вертолета и самолета в случае предъявления одного из них вследствие одновременной активации соответствующих им элементов матрицы R. (по: Бардычев и Шульгина, 2006).
Попытка использовать латеральное торможение в матрице R не дала надежного решения этой проблемы. Чтобы при распознании сходных образов активировался только один элемент R, оказалось необходимым использовать имитацию такого системного процесса, как доминантное торможение, которое обеспечивает устранение всех функций головного мозга, которые несовместимы с выполнением данной функции (Ухтомский, 1966). Для реализации этого вида торможения ввели операцию сравнения потенциалов, полученных от очередного символа ко всем элементам матрицы R. Надежное распознание обеспечивалось при условии, если активным элементом становился только тот, сумма влияний на который был больше, чем у всех остальных.
Нарушение процесса обучения при наличии периодической активности, чередования активации и торможения между матрицей памяти Р и ассоциативной матрицей А. Если в период обучения торможение между матрицами восприятия А и памяти Р было включено, то обе взаимодействующие системы переходили на режим периодической активации, чередования импульсной активности и ее торможения. Таким образом, наблюдалась имитация фазной активности нейронов, чередование их активации и торможения, какой она регистрируется на фоне суммарных медленных колебаний потенциала в ЦНС в состоянии глубокого угасательного торможения или дремоты. В режиме опознания выявляется, что при вмешательстве торможения в процесс обучения сила связей между соответствующими элементами не повышается настолько, чтобы они могли возбуждаться в ответ на применение образа без подкрепления. Обучения не происходит, и предъявленные символы оказываются нераспознанными (рис. 42).
Этот результат хорошо согласуется с фактом необходимости ослабления гиперполяризационного торможения при выработке различных форм активного поведения и с известными данными о затруднении умственной деятельности и активных форм поведения на фоне повышения амплитуды медленно-волновых колебаний потенциала и усиления фазности в работе нейронов, например, в состоянии дремоты и, тем более, сна.
Роль торможения в разделении символов. Наряду с фактами о необходимости ослабления гиперполяризационного торможения при обучении известно также, что реализация выработанных форм поведения, особенно доведенных до автоматизма, не требует этого в такой мере, как это необходимо на ранних стадиях обучения (Шульгина, 1978).
Для имитации роли процесса торможения в этих условиях мы провели исследование влияния гиперполяризационного торможения в нашей модели посредством включения тормозящих влияний от подсистемы памяти Р на подсистему А только в режиме распознания уже «выученных» символов. При обучении обратные тормозящие связи были выключены.
Рис. 42. Нарушение процесса обучения нейросети вследствие возникновения периодической активации матриц А и Р при включении торможения в период обучения. Обозначения как на рис. 39. (по Шульгина, Муравьев, 2000).
Было обнаружено, что при опознании гиперполяризационное торможение выполняет функцию разделения последовательно опознаваемых символов. Возможно, именно эту роль – разделение циклов реализации разного рода актов восприятия и поведения, гиперполяризационное торможение играет и в реальной нервной системе. Этот вид торможения условно можно назвать разделительным. Известно, что, если результат совершаемого действия согласуется с ожидаемым, то нервная система завершает поведенческий акт и переходит к другому действию, если же не согласуется, то возникает ориентировочный рефлекс, который определяет фиксацию изменений в ситуации и выработку нового действия для достижения желаемого результата (Анохин, 1968). В нашей модели, как уже говорилось, эта операция была реализована тем, что образ, возникающий при распознании в матрице памяти P, затормаживал образ, подаваемый извне с матрицы С на матрицу А. Если они совпадали, то модель переходила на обработку следующего образа. Если же совпадения не было, то образ считался незнакомым, для его запоминания выделялся следующий элемент матрицы R.
Таким образом, эксперименты на проекционно-ассоциативной модели показали, что для надежности в работе сети необходимо использование приемов, имитирующих предвозбудительное и доминантное торможение. Наличие в нейросети в период обучения тормозных гиперполяризационных процессов нарушает его. В то же время при условии обучения, доведенного до уровня автоматизации, торможение в период распознания может играть и позитивную роль, обеспечивая разделение образов, последовательно поступающих на сенсорные входы.
Задачей следующего раздела работы было построение сети, состоящей из нескольких вышеописанных модулей из возбудительных и тормозных нейроноподобных элементов с целью анализа возможностей реализации на ней более сложных функций головного мозга и решения прикладных задач, а также продолжение изучения роли разных видов тормозных процессов для обеспечения надежности в ее работе. Предполагалось изучение на модели сети не только распознавания отдельных образов, но и обобщения сходных и несходных образов и их называния.
В соответствии с поставленной задачей данный вариант модели имел три взаимосвязанных модуля: 1 – распознающий, 2 – обозначающий, Р3 – обобщающий и проверяющий обобщение (рис. 38). Модули 1 и 2 имели одинаковую архитектуру. Модуль Р3 был необходим для проверки правильности распознания обобщенных образов. Матрица P3 была связана с R1 по принципу «один к одному», а с R2 по принципу «все со всеми», т. е. для нее R1 выступала как внутрисетевая «рецептивная» матрица, а R2 как распознающая и подкрепляющая. Обозначение предъявляемых образов в нашей модели было реализовано посредством присвоения каждому номеру элементов матриц R1 и R2 названия этих образов.
Основными направлениями в работе с моделью были следующие. 1. Обучение и распознавание образов, аналогично вышеописанному способу. 2. Обобщение сходных и несходных образов. Возможность обобщения образов, как сходных, так и несходных, осуществлялась посредством введения в архитектуру модели дополнительного второго модуля (рис. 38). Его особенность заключается в том, что в период обучения один из элементов подкрепляющей и распознающей матрицы R2 находился в состоянии активации каждый раз, когда на вход модели подавался образ, который относился к определенному классу. Для этой операции не имело значения, существует ли какое-то внешнее сходство между образами одного класса. Они обобщались по принципу совпадения во времени с активацией одного и того же элемента обобщающей матрицы. Таким образом имитировалось свойство нервной системы вначале анализировать, а затем классифицировать и объединять самые разные впечатления, любые изменения внешней и внутренней среды и определенные действия, в том числе речедвигательную активность и словесное обозначение фиксируемых образов не по принципу сходства, а по принципу совпадения их во времени.
Во время проведения экспериментов построенная нейросеть доказала свою надежность при распознавании, назывании и обобщении образов (Бардычев и Шульгина, 2006).
В технологии ЭВМ нового поколения, основанной на использовании сведений о принципах работы головного мозга, очевидно, следует учитывать особенности взаимодействия возбудительных и разного рода тормозных процессов при необходимости имитации сложных функций головного мозга для повышения надежности, быстродействия и расширения функций технических систем.