인지과학과 인공지능 윤리: 튜링 테스트, 중국어 방 논증, 기능주의

개요

본 강의는 인지과학의 철학적 기반과 인공지능(AI)의 핵심 개념들을 탐구한다. 주요 주제는 튜링 테스트, 존 설(John Searle)의 중국어 방 논증, 힐러리 퍼트넘(Hilary Putnam)의 기계 기능주의와 이에 대한 비판이다. 각 개념을 이해함으로써 AI가 인간 지능을 모방하거나 실제로 “생각”할 수 있는지, 그리고 AI 개발과 활용에 대한 윤리적·철학적 쟁점을 파악할 수 있다.

핵심 개념

상세 노트

1. 인지과학

• 정의: 인간 마음 연구를 위해 철학·심리학·언어학·인공지능·신경과학·인류학·교육학 등 다학제적으로 수행되는 학문.
• 역사
  • 17세기 데카르트: 이원론(물질·정신 분리).
  • 1800년대 말: 헬름홀츠·분트가 과학적 연구 시작.
  • 1950년대: AI 연구가 본격화.
  • 1977년: 인지과학 잡지 창간, 1979년 인지과학회 설립.

2. 튜링 테스트

• 모방 게임:
  • A(인간/기계), B(인간), C(인간 평가자) 세 방, 전신 통신.
  • A가 C를 속여 ‘인간’이라고 인식하게 하면 테스트 통과.
• 조작적 정의: ‘생각’의 조건을 실험적으로 정의해 측정 가능하도록 함.
• 비판
  • 높은 기준: 기계가 인간을 속일 수 없다고 보는 입장.
  • 낮은 기준: ‘지능’이 아닌 ‘정서’가 필요하다고 보는 입장.
• 현실
  • ELIZA, GPT 등 실제 대화 모델이 테스트를 통과한 사례 존재.

3. 중국어 방 논증 (John Searle)

• 전제: 기계는 구문 처리(형식적 체계)만 수행하고 의미(심리적 내용)를 갖지 못함.
• 결론: 강한 AI(정신적 상태를 갖는 AI)는 불가능.
• 비판
  • 한국어 방 논증 (Rapaport) – 인간과 기계를 동일시하는 논리적 오류.
  • 시스템 반박 (Systems Reply) – 기계 전체를 대체해야 한다는 주장이 결함이 있음.

4. 기계 기능주의 (Hilary Putnam)

• 핵심 주제
  • 다수 실현 가능성(Multiple Realizability): 같은 정신적 과정이 다양한 물리적 구조에서도 실현 가능.
  • 기능적 동형성: 동일한 기계표를 가진 서로 다른 튜링 기계는 기능적으로 동등.
• 비판
  • 감각질(qualia) 문제: 기능적으로 동일하지만 감각적 경험이 없는 ‘철학적 좀비’가 가능하다는 사고 실험.
  • 대답: 기능주의자들은 ‘가능성’의 정의를 경험적·논리적·형이상학적 차원에서 명확히 해야 한다는 점을 강조.
• 결과
  • 인간·컴퓨터는 물리적 구조가 다르지만 기능적으로 동형.
  • 따라서 “마음”을 튜링 기계로 모델링해도 충분하다는 입장.

5. AI 윤리와 과학·인간중심주의

• 바이젠바움(Joseph Weizenbaum)
  • 주장: 인간 정서·존경·이해를 기계로 대체할 수 없으며, 예측 불가능한 부작용이 존재.
  • 윤리적 제한: 정서적 영역과 불확실성에 대한 규제 필요.
• 비판
  • 단백질주의: 인간중심주의적 과다 해석.
  • 양극단 회피: 과학주의·인간중심주의 양극단을 피하며 균형 잡힌 평가 필요.

결론

• 인지과학은 인간 마음을 과학적으로 탐구하기 위해 여러 학문을 통합하고 있다.
• 튜링 테스트와 중국어 방 논증은 AI가 인간 지능을 실제로 모방하거나 ‘생각’할 수 있는지에 대한 논의의 토대이다.
• 퍼트넘의 기계 기능주의는 AI와 인간 마음을 동일한 기능적 체계로 이해하려는 시도이며, 감각질 문제와 같은 비판에도 여전히 활발한 논쟁이 존재한다.
• AI 개발과 활용은 과학적 가능성과 윤리적 책임을 함께 고려해야 하며, 과학주의와 인간중심주의의 양극단을 넘어 균형 잡힌 접근이 필요하다.