Когнитивная наука. Основы психологии познания. В 2-х томах. Том I

1980-х годов было показано, что добавление по крайней мере одного «скрытого» слоя нейроноподобных элементов снимает эту проблему, позволяя осуществлять на базе параллельных архитектур весь спектр логических операций. В 1986 году Румелхарт и Макклелланд опублико­вали двухтомную «библию» коннекционизма (McClelland & Rumelhart, 1986; Rumelhart & McClelland, 1986), содержащую, наряду с описанием формального аппарата моделирования, многочисленные примеры пси­хологических и нейрофизиологических применений этого подхода.

Главное преимущество коннекционистских моделей по сравнению с традиционными когнитивными моделями — это возможность ассоци­ативного (контентно-адресованного) и распределенного хранения инфор­мации, а также, что особенно важно, адаптивного обучения. Первая осо­бенность означает, что любой фрагмент первоначальной ситуации или любое сопутствующее обстоятельство способны ассоциативно поддер­жать припоминание. «Распределенным» хранение является потому, что его субстратом является в каждом конкретном случае не какой-то от­дельный элемент, а сеть в целом, то есть состояния всех ее узлов и весо­вые коэффициенты их связей. Наконец, коннекционизм позволяет есте­ственно описывать некоторые элементарные формы обучения. Процессы обучения в искусственных нейронных сетях имеют известную специфи­ку, которая должна стать понятной из нижеследующих примеров. Про­стейшая, сугубо ассоциативная процедура обучения в нейронных сетях

активация на выходе

скрытый слой

входной слой

О О О

активация на входе

136

Рис. 2.10. Однонаправленная (feedforward) коннекционистская сеть, включающая скры­тый слой элементов

восходит к классическим идеям проторения путей павловской физиоло­гии и клеточных ансамблей Дональда Хэбба (см. 1.4.2).

В «Организации поведения» Хэбб (Hebb, 1949) предположил, что по­вторная стимуляция тех же рецепторов постепенно ведет к функцио­нальному объединению нейронов ассоциативных областей мозга, так что этот клеточный ансамбль может сохранять активацию после окон­чания стимуляции и вновь возбуждаться при возникновении похожего узора стимуляции. В нейроинформатике используется следующее прави­ло Хэбба: между всеми одновременно (синхронно) активированными ней­ронами (то есть элементами сети) снижаются пороги синаптических связей (повышаются весовые коэффициенты активационных связей). В результате многократных повторений распространение активации при возникновении на входе той же ситуации происходит быстрее, группа элементов, «ансамбль», активируется как целое, и, что важно, эта активация происходит даже при изменениях ситуации, например, выпадении каких-то компонентов изображения, а равно «отмирании» части «нейронов» самой сети. Тем самым удается моделировать особен­ности целостного восприятия, описанного гештальтпсихологией (см. 1.3.1). Подобная терпимость (graceful degradation) к искажениям на вхо­де и к нарушениям механизма обработки информации разительно кон­трастирует с хрупкостью обычных символьных программ, где лишний пропуск или неправильно поставленная запятая способны остановить работу программы и даже самого компьютера. Кроме того, пластичность синаптических связей, лежащая в основе формирования ансамблей, по­зволяет дать физиологическое объяснение процессам обобщения (кате­горизации) отдельных стимульных ситуаций.