В своей статье в Journal of Nervous and Mental Disease три психиатра не просто предложили, чтобы «Элиза» служила заменой реальному доктору. Они начали по очереди, утверждать что психотерапевт по сути представляет собой разновидность компьютера: «Терапевт может рассматриваться как устройство принятия решения и информационный процессор, действующий на основании набора правил, чётко связанных как с краткосрочными, так и с долгосрочными целями».
Даже неуклюжее имитирование человека «Элизой» заставило людей думать о себе как об имитации компьютера. Такая реакция на программу встревожила Вейценбаума. Ему пришлось задать себе вопрос, который подспудно занимал его на протяжении многих лет: «Что есть в компьютере такого, что заставляет человека думать о себе, как о машине?»
В 1976 году, спустя десять лет после дебюта «Элизы», он дал ответ на этот вопрос в книге «Возможности вычислительных машин и человеческий разум». Вейценбаум полагал, что для понимания эффектов, связанных с компьютером, необходимо смотреть на машину в контексте интеллектуальных технологий прошлого, длинной последовательности таких инструментов, как карта и часы, трансформировавших природу и изменивших «восприятие человеком реальности». Подобные технологии стали частью «всего того, из чего человек строит свой мир». Приняв их на вооружение, мы уже не можем отказаться от них без того, чтобы не ввергнуть общество «в великие потрясения или даже в хаос».
Он писал, что интеллектуальная технология «становится настолько неотъемлемым компонентом любой структуры... и интегрируется с ней, перемешиваясь с различными ключевыми подструктурами, что становится невозможно вычленить её, не разрушив саму структуру».
Этот факт, почти «тавтологический»27, помогает понять, каким образом стабильно и неотвратимо росла наша зависимость от цифровых компьютеров после того, как они были изобретены в конце Второй мировой войны. «Наличие компьютера было совершенно необязательно для выживания современного общества в послевоенный период и далее, - полагал Вейцен- баум, - но энтузиазм и недостаточно критическое отношение со стороны наиболее "прогрессивных" представителей американского правительства, бизнеса и компьютерной отрасли превратило его в необходимый для выживания ресурс, придав обществу (с помощью самих же компьютеров) новую форму». Он занимался сетями, работавшими по принципу распределённого времени, и по собственному опыту знал, что роль компьютеров будет расширяться куда дальше, чем автоматизация процессов на производстве и в государственном управлении.
Компьютеры со временем должны были превратиться в посредников практически во всех разновидностях человеческой деятельности: в обучении, мышлении и общении между собой. Вейценбаум предупреждал, что вся история интеллектуальных технологий свидетельствует: «Внедрение компьютеров в некоторые особенно сложные виды человеческой деятельности может означать, что мы берём на себя необратимые обязательства». Наша интеллектуальная и социальная жизнь может, подобно производственным процессам, меняться и приобретать новую форму, навязанную нам компьютерами.
Вейценбаум верил, что людьми нас делает именно то, что не поддаётся вычислениям: связи между нашими мыслями и нашим телом, опыт, который придаёт форму нашей памяти и мышлению, наша способность испытывать эмоции и сострадание. Наше более интимное общение с компьютером несёт в себе огромную угрозу. Чем большую часть жизни мы посвящаем изучению бестелесных символов на наших экранах, тем сильнее теряем свою человечность и жертвуем именно теми качествами, которые отличают нас от машин.
По мнению Вейценбаума, единственный способ избежать этой судьбы состоит в том, чтобы с достаточным осознанием и смелостью отказаться от передачи компьютеру наиболее человеческих из наших видов умственной и интеллектуальной деятельности, в особенности «задач, требующих мудрости».
Книга Вейценбаума оказалась не только трактатом о работе компьютеров и написании программ - она превратилась в настоящий крик души, страстный и порой болезненно точный рассказ программиста об ограничениях его профессии. Книга не понравилась коллегам Вейценбаума. После её выхода он получил ярлык «еретика» от ведущих компьютерных учёных, в особенности от тех, кто занимался разработкой искусственного интеллекта. Джон Маккарти, один из организаторов первой Дармутской конференции, от имени множества технологов в издевательской форме отозвался о «Возможностях вычислительных машин и человеческом разуме» как о «необоснованной» книге и упрекнул Вейценбаума в ненаучном «морализаторстве».