Непреодолимые трудности, с которыми столкнулось моделирование нейронов, и теоретические ограничения, выявленные Пейпертом и Минским, привели к тому, что в 60-х и 70-х годах этот подход был практически оставлен. Именно в это время оценка будущих перспектив искусственного интеллекта, проведенная при финансовой поддержке британского правительства, показала, что они были сильно преувеличены, и объем таких работ был значительно сокращен [18].
Однако в конце 80-х годов интерес к этой области опять пробудился в связи с появлением совершенно новых возможностей. Компьютеры первых поколений были, по существу, последовательными процессорами, т. е. в каждый данный момент осуществляли только одну операцию; переработка информации носила линейный характер, хотя и шла с невероятно большой скоростью. Однако сам принцип линейных операций накладывал ограничение на скорость работы машины, так как сигналы из одной части компьютера в другую не могут передаваться быстрее, чем со скоростью света. Этот предел получил название ограничения фон Неймана. Когда новые поколения супермашин приблизились вплотную к этому пределу, разработчики компьютерных моделей обратили, наконец, внимание на то, что настоящий мозг работает совсем иначе. Он производит множество операций одновременно, причем в осуществлении какой-то одной функции участвуют разные части нейронной сети, а каждая отдельная клетка может выполнять разные функции. Ограничение, накладываемое скоростью передачи сигналов, можно бьию бы преодолеть, если бы удалось создать компьютеры, более сходные с мозгом, т. е. способные осуществлять различные операции не только последовательно, но и параллельно.
Результатом был взрыв интереса к новым конструктивным решениям, основанным на принципе параллельной и распределенной обработки информации (ПРО). Появилось новое перспективное поколение машин, заинтересовавшее и военных, и промышленность, и разработчиков искусственного интеллекта, хотя, разумеется, только два первых члена этой триады несли расходы по их созданию. Вот один из показателей масштабов этого интереса: в конце 80-х годов Директорат Европейского сообщества по научным исследованиям посчитал, что Европа отстает от США и Японии в эксплуатации этих новых систем, и выделил 50 млн. экю (около 50 млн. долларов США) на работы по моделированию нервной функции на основе ПРО. Когда в 1986 году Дэвид Румелхарт и Джеймс Клелланд с их коллегами из Массачусетского технологического института выпустили большой двухтомник статей по перспективам применения ПРО для моделирования мозга, в день поступления его в продажу, говорят, было продано 6000 экземпляров [19].
Новый подход к моделированию известен под названием «коннекционизма». Подобно прежнему подходу, он основан на предположении, что мозг состоит из ансамблей нейронов с многочисленными связями между ними. Надлежащим образом' соединенные группы нейронов могут обучаться таким образом, что они будут сортировать и классифицировать входные сигналы и постепенно изменять свои свойства по мере поступления новой информации. Однако в отличие от моделей прежнего, персептронного типа каждый элемент «памяти» не заключен здесь в одной-единственной клетке или паре связанных клеток: вместо этого функция памяти является свойством нейронной сети как целого. Кроме того, если в персептронных моделях отдельные функциональные единицы сети должны были получать сигналы прямо из внешнего мира и соответственно изменять свои свойства, то в новых коннекционистских моделях нейронные сети более сложны — они включают слои «клеток», расположенных между входными и выходными элементами (разработчики называют их «скрытыми слоями»). Это резко повышает эффективность системы. Первые поколения моделей искусственного интеллекта были организованы таким образом, будто мозг — это простой телефонный коммутатор с прямыми связями между органами чувств, например глазами и ушами, и исполнительными органами, такими как мышцы. Эти модели фактически игнорировали тот факт, что большинство нейронов в достаточно сложном мозгу не связано непосредственно с внешним миром через сенсорные входы и двигательные выходы; такие нейроны соединены лишь между собой: они получают сигналы от других нейронов и отвечают на них. Иными словами, обычно происходит сложнейшая внутренняя переработка любых поступающих извне сообщений при участии промежуточных нейронов, и только после этого могут приниматься решения о внешних реакциях. «Скрытые слои» в моделях ПРО действуют наподобие промежуточных нейронов, и это намного повышает способность системы к обучению, обобщению и прогнозированию.