AI는 정말 '생각'하는가 — 아직 학계가 다투는 중인 질문

정직한 답은 "한다"도 "못 한다"도 아니다

어려운 문제를 던지면 요즘 AI는 답을 바로 내놓지 않고 "먼저 이걸 계산하고, 그다음 저걸 따지면…" 하며 풀이를 줄줄이 늘어놓는다. 이걸 '사고연쇄(Chain-of-Thought, CoT)'라 부른다. 화면에 쌓이는 그 문장들을 보면 기계가 정말 '생각'하는 것 같다.

하지만 가장 정직한 답은 회색이다. AI가 추론하느냐를 두고 학계는 아직 합의에 이르지 못했다. 답은 '추론'을 어떻게 정의하고 어떤 문제로 시험하느냐에 따라 갈리고, 지금도 연구자들이 논문으로 서로 반박하는 진행형 논쟁이다. 이 글은 그 양쪽을 공정하게 펼쳐 보인다.

회의 쪽: "추론이 아니라 패턴 흉내일 수 있다"

가장 강력한 회의의 증거는 문제를 살짝 비트는 실험이다. 한 연구진은 초등 수준 수학 문제에서 숫자만 바꿔도 최신 모델 성적이 일관되게 떨어지고, 답과 무관한 '그럴듯한' 문장 하나를 끼우자 성능이 최대 65%까지 무너지는 것을 보고했다. 이들은 "현재 모델은 진짜 논리 추론을 하는 게 아니라 학습 데이터의 추론 단계를 복제하는 것"이라 해석했다 (arXiv:2410.05229). 비슷하게, AI가 '유추'를 창발적으로 해낸다는 주장에 대한 반박 연구는, 원 과제를 살짝만 변형한 가장 단순한 버전에서 GPT-3는 실패하고 사람은 높은 성적을 유지했다며 "데이터 암기를 배제할 방법론이 필요하다"고 못 박았다 (arXiv:2308.16118).

여기에 벤치마크 오염이라는 의심이 겹친다. 시험 문제가 학습 데이터에 이미 섞여 있으면, 모델이 '푼' 게 아니라 '외운 답을 토해낸 것'일 수 있다. 한 공동 과제는 수백 건의 오염 사례를 공개 DB로 모아 평가 결과의 신뢰성 문제를 드러냈고 (arXiv:2407.21530), 인과추론 벤치마크를 검토한 연구는 많은 벤치마크가 '지식 검색'만으로도 풀려 정말 추론을 재는지 의심스럽다고 지적했다 (arXiv:2407.08029).

깔끔한 조건에서만 잘하는 것도 약점이다. RL로 미세조정한 모델을 요약 추론·잡음 억제·맥락 필터링 같은 '비이상적' 상황에 두자 모든 시나리오에서 성능이 크게 떨어졌고, 연구진은 "대형 모델의 추론 능력은 종종 과장돼 있다"고 결론지었다 (arXiv:2508.04848). 사람에겐 완벽한 단어의 '글자 구성' 같은 단순 과제조차 신뢰성 있게 못 한다는 보고도 있다 (arXiv:2405.11357).

"사고의 환상"인가, 도구가 없었을 뿐인가

논쟁의 한복판에 "사고의 환상(The Illusion of Thinking)"이라는 연구가 있다. 이를 다룬 한 논평에 따르면, 원 연구는 문제 복잡도가 일정 문턱을 넘으면 추론 모델 성능이 절벽처럼 무너지는 '추론 절벽'을 발견하고 이를 사고연쇄의 본질적 한계로 해석했다. 그런데 같은 논평은 정반대로 읽는다. 그 붕괴는 추론의 한계가 아니라 텍스트만 쓰고 도구가 막힌 비좁은 평가 환경의 부작용이며, 실제로 텍스트만으로 "불가능하다"던 모델이 도구를 쥐자 이전에 실패한 난도를 넘어 풀어냈다는 것이다. 논평은 이를 추론 결함이 아닌 '행위 격차(agentic gap)'로 다시 이름 붙였다 (arXiv:2506.18957). 같은 사실을 한쪽은 "본질적 한계"로, 다른 쪽은 "환경 탓"으로 읽는 것 — 이 분야 논쟁의 전형이다.

능력 쪽: "실제로 어려운 문제를 더 푼다"

반대 증거도 분명하다. 답 전에 '더 길게 생각하게' 만드는 기법이 까다로운 과제 성능을 실제로 끌어올린다는 연구가 쌓여 있다. 긴 사고연쇄 서베이는 깊은 추론·폭넓은 탐색·반성적 점검이 복잡한 문제 해결을 돕는다고 정리하고 (arXiv:2503.09567), 법률 추론 연구는 추론 시점에 사고연쇄를 늘리면 성능이 유의미하게 오른다고 확인했다 — 다만 같은 연구가 낡은 법 지식·해석 한계·사실 환각도 함께 짚는다 (arXiv:2503.16040). 연산을 미리 당겨 쓰는 '잠자는 시간 연산'은 같은 정확도를 5배 적은 추론 연산으로 달성했다고 보고한다 (arXiv:2504.13171).

사람과 견준 평가도 있다. o1-preview는 시스템 사고·과학적 추론 등 여러 영역에서 사람을 앞섰지만, 논리적 추론·비판적 사고·정량적 추론에서는 약 25% 떨어졌고 추상적 추론에선 심리학 전공생들이 모델을 앞섰다 (arXiv:2410.21287). 능력이 '있다/없다'가 아니라 과제별로 들쭉날쭉하다는 얘기다. 계획 능력 연구도 o1 계열이 제약 준수·자기평가엔 강하지만 공간적으로 복잡한 과제에선 불필요한 행동을 섞고 일반화에 약하다고 양면을 짚었다 (arXiv:2409.19924). 한 기호 벤치마크에서 추론 모델은 더 긴 관계·넓은 속성에서 향상됐지만 불확실성 아래 추론에서는 여전히 크게 막혔다 (arXiv:2510.17496).

미묘한 함정: 보여주는 풀이가 진짜 풀이가 아닐 수 있다

가장 까다로운 미묘함은, 화면에 늘어놓는 사고연쇄가 실제로 답에 도달한 내부 과정을 충실히(faithfully) 반영하지 않을 수 있다는 점이다. 한 연구는 생성된 추론 사슬이 "모델이 답에 어떻게 도달했는지를 반드시 보여주지는 않는다"고 명시하며, 충실성을 보장하려 풀이를 기호로 옮겨 외부 solver로 푸는 방식을 제안했다 (arXiv:2301.13379). 즉 그럴듯한 풀이 문장은 사후에 붙인 설명일 수 있다. 이런 '불충실한 추론'은 기만적 행동의 한 유형으로 분류되기도 한다 (arXiv:2403.09676). 그렇다고 순전한 겉치레만은 아니다. '생각하는' 모델 내부를 들여다본 연구는 불확실성 표현·예시 생성·되짚기 같은 추론 행동이 활성 공간의 특정 방향(스티어링 벡터)으로 실재하며 조절도 가능함을 보였다 (arXiv:2506.18167). 풀이 뒤에 '구조화된 무언가'는 있다는 뜻이다.

그래서 — '생각한다'는 말부터 점검하자

가장 큰 함정은 단어 자체일지 모른다. 기계가 풀이를 늘어놓으면 우리는 "생각한다"고 의인화하지만, 벤치마크가 재는 것은 '사람처럼 생각하는가'가 아니라 '문제를 맞히는가'다. '창발 능력' 개념도 원래는 "작은 모델엔 없다가 큰 모델에서 갑자기 나타나는, 외삽으로 예측 못 할 능력"을 가리켰는데 (arXiv:2206.07682), 앞의 반박들은 그 '갑작스러움'의 일부가 측정 방식이나 데이터 암기가 만든 착시일 수 있다고 경고한다. 새 어려운 시험은 한계를 더 선명히 한다. 최신 모델조차 수십만 토큰에 걸친 긴 호흡 추론 벤치마크에서 10% 미만 정확도를 보였는데, 각 단계는 풀 수 있는데도 길게 엮는 데서 무너진다 (arXiv:2604.14140).

정리하면, "추론처럼 보이는 것"과 "추론"은 다를 수 있고, 둘이 어디서 갈리는지가 바로 지금의 전선이다. 한 연구는 숫자만 바꿔도 무너진다며 "복제"라 하고 (arXiv:2410.05229), 다른 연구는 도구만 쥐여주면 절벽을 넘는다며 "환경 탓"이라 한다 (arXiv:2506.18957). 둘 다 같은 기계를 보고 있다.

---

이 글은 빠르게 바뀌고 여전히 논쟁 중인 분야를 다룹니다. 인용한 근거의 상당수는 동료심사 전 프리프린트이며 추후 결론이 바뀔 수 있습니다. 특정 입장을 정답으로 단정하지 않으려 했습니다.

근거 논문 (arXiv)

• arXiv:2410.05229 — GSM-Symbolic: 수학 추론의 한계
• arXiv:2308.16118 — '창발적 유추 추론' 주장에 대한 반박
• arXiv:2407.21530 — 2024 CONDA 데이터 오염 보고
• arXiv:2407.08029 — 인과추론 벤치마크 비판적 검토
• arXiv:2508.04848 — 비이상적 조건에서의 추론 능력
• arXiv:2405.11357 — LLM의 글자 구성 이해 결여
• arXiv:2506.18957 — "사고의 환상" 논평: 추론 절벽 vs 행위 격차
• arXiv:2503.09567 — 긴 사고연쇄(Long CoT) 서베이
• arXiv:2503.16040 — 법률 추론에서의 추론 시점 스케일링
• arXiv:2504.13171 — 잠자는 시간 연산(sleep-time compute)
• arXiv:2410.21287 — o1-preview의 고차원 사고 평가
• arXiv:2409.19924 — o1 모델의 계획 능력
• arXiv:2510.17496 — I-RAVEN-X: 유추·수학 추론의 일반화·강건성
• arXiv:2301.13379 — 충실한 사고연쇄(Faithful CoT)
• arXiv:2403.09676 — LLM의 기만적 능력(불충실한 추론)
• arXiv:2506.18167 — 스티어링 벡터로 본 '생각하는' 모델
• arXiv:2206.07682 — 대형 언어모델의 창발 능력
• arXiv:2604.14140 — LongCoT: 긴 호흡 추론 벤치마크