Одна из попыток выхода из создавшейся ситуации была связана с использованием концепции о «системности» в работе мозга. Формирование отдельных условных рефлексов не обеспечивало возникновения целесообразного поведения. Может быть, эти явления проявятся как результат построения и функционирования сложных агрегатов, объединяющих в единой конструкции большое число условных рефлексов? Была выдвинута гипотеза, что условные рефлексы объединяются в более сложные организации, в которых возникают новые в качественном отношении явления. Именно эти явления и становятся основой функционирования сложных механизмов работы мозга. Трудности, встречающиеся при использовании учения И. П. Павлова для раскрытия механизмов формирования сложных форм поведения, могут быть преодолены в результате перехода от исследования отдельных условных рефлексов к анализу закономерностей формирования и функционирования сложных систем.
Стало очевидным, что если принять эту гипотезу, то неизбежно придется решать ряд новых проблем. Каким образом вырабатываются более сложные системы условных рефлексов, как они объединяются в целостные организации, как эти организации взаимодействуют друг с другом, какую роль такие «агрегаты» играют в жизни человека и животных и, наконец, можно ли объяснить сложные формы работы мозга с точки зрения формирования систем условных рефлексов различных типов и их взаимодействия?
Проведенные исследования показали, что при изучении систем рефлексов выявляются специфические комплексы правил, которые не проявляются при выработке одиночных условных рефлексов. Такие результаты как будто бы открывали возможности для анализа механизмов формирования более сложного поведения человека и животных.
И. П. Павловым был открыт принцип подкрепления условных рефлексов безусловными как фактор, определяющий формирование нового поведения человека и животных. При изучении систем условных рефлексов было показано, что само подкрепление носит более сложный характер. Оно не только имеет «безусловный» характер, может быть не только врожденным (пища, исчезновение болевого раздражения), но и вырабатывается в процессе жизни человека и животных. Удалось показать, что в определенных условиях возникают такие сигналы, которые могут служить базой для выработки новых условных рефлексов и цепей условных рефлексов в условиях, когда отсутствует безусловное подкрепление {например, пища). Выяснилось также, что эти новые подкрепляющие раздражители объединяются в целостные организации, в которых наблюдается определенное соподчинение компонентов (иерархия). Одни сигналы играют роль «ориентиров», их включение приводит только к временной фиксации в памяти новой информации и к возникновению определенной последовательности пробных воздействий на внешнюю среду. Другие сигналы, так называемые сигналы «фиксирующего подкрепления», приводят к выработке и закреплению новых систем условных рефлексов в ситуации, когда отсутствует безусловное подкрепление (например, подкрепление пищей или исчезновение болевого раздражителя). В частности, было обнаружено, что подкрепляющими сигналами фиксирующего типа становятся компоненты рефлекса на комплексный раздражитель.
Этот вывод также содержал в себе определенные элементы новизны. Дело в том, что формирование рефлекса на комплексный раздражитель было детально изучено в работах И. П. Павлова и его учеников. Как известно, условия эксперимента предусматривали предъявление животному одновременного комплекса сигналов. Если предъявлялся комплекс, например звонок и свет, то животное получало пищу. Если предъявлялся только один раздражитель, например звонок, и не предъявлялся свет, то пища не давалась. При этом возникала способность «различения» всего комплекса от отдельных компонентов. Реакции осуществлялись только в ответ на комплексный раздражитель. В элементах, которые соответствовали компонентам комплекса, например компоненту, соответствующему включению одного звонка, возникало внутреннее торможение. Такой сигнал приобретал тормозное значение, предотвращающее возникновение рефлекторной реакции.
Экспериментальные данные, полученные при изучении систем рефлексов, в какой-то степени изменяли эту систему представлений. Было показано, что наряду с тормозным значением элемента рефлекса на комплексный раздражитель, которое проявлялось по отношению к осуществлению рефлекторной реакции, данный сигнал выполнял и активную роль, что было связано с возникновением специфического процесса возбуждения. Сигнал становился достаточной основой для формирования новых рефлекторных реакций, которые никогда непосредственно не подкреплялись пищей и в то же время не исчезали.
Детальное рассмотрение этой проблемы привело к выявлению целого комплекса правил (закономерности взаимодействия среды и организма), определяющих формирование таких систем подкрепляющих раздражителей. Наряду с этим был выявлен комплекс правил, лежащий в основе использования системы подкреплений при выработке новых систем рефлексов.
