일부 인공지능주의자는 인간의 뇌와 마음을 하드웨어와 소프트웨어에 비유하고, 인간과 마찬가지로 생각할 수 있는 컴퓨터를 만들 수 있다고 주장한다. 미국의 철학자 서얼은 그런 견해에 반대하는, ‘중국인의 방’이라고 알려진 사고실험을 제시한다. “중국어를 구경도 못해본 영어사용자를 방에 가두고, 중국어 책과 중국어 규칙이 담긴 책, 그리고 영어로 된 지시문을 함께 넣어준다. 그는 영어지시문을 통해 중국어 내용과 규칙을 연결시킴으로써, 중국어로 제시된 질문에 답변하게 된다.
얼마간 시간이 흐른 뒤 방에 갇힌 사람의 답변은 중국어사용자의 답변만큼이나 정확해진다.” 서얼은 이런 답변과정이 주어진 요소들을 단순히 연산하는 컴퓨터의 처리과정과 동일하다고 말한다. 그는 영어사용자의 영어 이해와 중국어 이해, 즉 인간의 이해와 컴퓨터의 이해에는 분명한 차이가 있다고 본다. 영어사용자가 영어를 이해한다는 것은 문장 형식은 물론이고 의미도 이해하는 것임에 반해, 중국어를 이해한다는 것은 문장의 형식만을 이해하는 것이다. 따라서 서얼은 컴퓨터는 생각할 수 없다는 결론을 내린다.
과학이 더 발전하여 데이빗과 같이 사고와 감정을 가진 로봇을 만드는 일이 실현된다면, 로봇을 사람으로 간주하고 법적 권리마저 부여해야 하는가, 아니면 서얼의 견해처럼 그런 로봇과 사람을 구분하는 어떤 특징이 여전히 남아있는가?
