Minds, brains, and programs (1980) [pdf]
Джон Сёрль в статье "Разумы, мозги и программы" критикует концепцию "сильного ИИ", утверждающего, что правильно запрограммированный компьютер действительно обладает сознанием и пониманием. Он выдвигает два ключевых тезиса: во-первых, интенциональность (направленность сознания на объекты) возникает исключительно из причинных свойств мозга; во-вторых, выполнение компьючтерной программы само по себе никогда не является достаточным условием для интенциональности. Сёрль приводит знаменитый мысленный эксперимент "китайская комната": человек, не знающий китайского, следует инструкциям на английском, манипулируя китайскими символами, и успешно отвечает на вопросы на китайском, не понимая их смысла. Это доказывает, что система может симулировать понимание, не обладая им.
Из этого следует, что объяснение работы сознания не может сводиться к выполнению компьютерной программы, а создание искусственного сознания потребует воспроизведения именно причинных свойств мозга, а не просто написания кода. Сёрль подчеркивает, что сильный ИИ фокусируется на программах, а не на машинах, и никакая программа сама по себе не может обеспечить мышление или понимание.