AI가 코드를 짜고, 보고서를 쓰고, 데이터를 분석한다. 그렇다면 인간은 무엇을 해야 하는가. 이 질문에 많은 사람들이 불안을 느끼지만, 답은 생각보다 명확하다. 문제 해결 능력을 가진 사람의 가치는 AI 시대에 오히려 높아진다. AI가 빠르게 만들어낸 퍼즐 조각들을 맞추고, 완성도를 끌어올리는 조율자 — 그것이 지금 우리가 개발해야 할 역할이다.
이 글에서는 LLM의 구조적 한계를 먼저 짚고, 그 한계가 왜 인간의 문제 해결 능력을 더욱 핵심 자산으로 만드는지를 설명한다. AMD CEO 리사 수의 메시지, 앤스로픽 교육 총괄 드류 벤트의 발언을 통해 AI 네이티브 인재가 갖춰야 할 것이 무엇인지 구체적으로 풀어본다.
LLM은 왜 “다음 단어”만 고르는가 — 확률론적 구조의 본질
LLM(대형 언어 모델)은 수조 개의 단어 간 상관관계를 학습한 뒤, 주어진 문맥 다음에 올 확률이 가장 높은 단어를 선택하는 방식으로 작동한다. 대단히 정교해 보이지만, 본질은 확률론적 프로세스다.
이 구조가 가진 치명적인 약점이 있다. AI는 왜 그 결과가 도출됐는지를 설명하지 못한다. 인과관계를 이해하는 것이 아니라, 패턴의 상관관계를 흉내 낼 뿐이다. 물리적 세계의 실제 법칙 — 중력, 열역학, 전자기 현상 — 을 AI는 수식으로 외울 수 있어도, 그 본질을 이해한 채 추론하지는 못한다.
쉽게 말하면, LLM은 엄청나게 빠른 문서 완성기다. 그리고 그 한계는 구조에서 비롯된다.
AI가 넘지 못하는 벽 — 인과관계, 물리적 추론, 오감
AI의 한계를 구체적으로 세 가지로 정리할 수 있다.
첫째, 인과관계와 상관관계를 구별하지 못한다.
인과관계와 상관관계는 데이터 분석에서 가장 자주 혼동되는 개념이다. 아이스크림 판매량과 익사 사고 건수는 함께 올라간다. 하지만 아이스크림이 익사를 유발하지는 않는다. 둘 다 여름이라는 공통 원인에서 비롯된다. AI는 이 두 수치 사이의 상관관계를 학습하지만, “왜 함께 움직이는가”라는 인과적 물음에는 답하지 못한다.
둘째, 느리고 신중한 논리적 추론이 부족하다.
AI는 빠르다. 하지만 복잡한 엔지니어링 문제를 다룰 때 필요한 건 속도가 아니라 단계별로 가설을 세우고, 검증하고, 폐기하는 신중한 사고 과정이다. 이 과정에서 AI는 그럴듯한 답을 먼저 제시하는 경향이 있다. 할루시네이션이 발생하는 이유이기도 하다.
셋째, 수치화되지 않은 정보를 처리하지 못한다.
숙련된 의사가 환자를 진단할 때 오감을 사용한다. 피부 색깔, 목소리 톤, 걸음걸이, 표정 — 어느 것도 데이터로 입력되지 않는다. AI는 수치화·데이터화된 정보에만 의존한다. 현장 엔지니어가 장비 소리 하나로 이상을 감지하는 능력, 이것이 AI가 모방하지 못하는 영역이다.
| AI의 강점 | AI의 한계 |
|---|---|
| 방대한 데이터 처리 속도 | 인과관계 이해 불가 |
| 패턴 인식·분류 | 물리적 추론 부재 |
| 반복 작업 자동화 | 오감·비정형 정보 처리 불가 |
| 텍스트·코드 생성 | 느리고 신중한 논리 추론 부족 |
AI 시대 인간의 역할 — 퍼즐 조각을 조율하는 사람
그렇다면 인간은 무엇을 해야 하는가.
AI는 빠르고 고도화된 결과물을 쏟아낸다. 하지만 그 결과물들은 퍼즐 조각이다. 맥락을 이해하고, 조각들을 올바른 자리에 배치하고, 빠진 조각을 찾아내고, 전체 완성도를 끌어올리는 것 — 이것이 AI 시대 인간의 역할이다.
데이터 설계가 AI 분석을 결정한다는 포스팅에서도 강조했지만, AI에게 어떤 데이터를 어떻게 입력할지를 결정하는 건 결국 사람이다. 도메인 지식을 가진 사람이 문제를 정의하고, AI의 결과를 검증하고, 최종 판단을 내린다. 이 흐름에서 문제 해결 능력은 사라지지 않는다. 오히려 더 핵심적인 자리를 차지한다.
엔지니어링의 본질도 같다. 기술 하나를 익히는 것이 아니라, 문제를 정의하고, 원인을 추적하고, 해결책을 설계하는 능력 — 이것이 현장 엔지니어가 수십 년간 쌓아온 진짜 자산이다.
문제 해결 능력을 기르는 법 — 질문의 가치를 높여라
AMD CEO 리사 수는 이런 메시지를 남겼다.
“AI에게 지시할 수 있는 질문의 가치를 높여라.”
단순한 명령을 잘 내리는 사람이 아니라, 좋은 질문을 만들 수 있는 사람이 AI를 진짜로 활용한다는 뜻이다. 좋은 질문은 문제를 제대로 정의한 데서 나온다. 문제 해결 능력이 없으면 좋은 질문도 없다.
앤스로픽 교육 총괄 드류 벤트는 이렇게 말했다.
“개방적인 문제를 통해 AI와 함께 고민하고 풀어나가는 과정 속에서 진정한 AI 네이티브 인재가 될 수 있다.”
단순 기술을 익히는 것과 문제 해결 능력을 기르는 것은 다르다. 전자는 AI가 대체할 수 있고, 후자는 AI와 함께 더 강해진다.
문제 해결 능력을 기르는 방향은 세 가지로 요약된다.
1. 정의부터 시작하라 문제를 명확히 정의하지 않으면 AI의 결과물도 방향이 없다. 프롬프트 엔지니어링의 핵심도 결국 문제를 먼저 구조화하는 데 있다.
2. 도메인 지식을 버리지 마라 AI가 분석하는 데이터의 의미를 아는 건 현장 경험에서 나온다. 측정 지점이 맞는지, 변수 설정이 타당한지를 판단하는 건 기계가 아니라 사람이다.
3. AI와 함께 개방형 문제를 풀어라 정답이 정해진 문제만 풀면 문제 해결 능력은 늘지 않는다. AI를 파트너로 두고 불확실한 문제를 함께 풀어나가는 경험을 쌓아야 한다.
이것이 사실 엔지니어링의 기본 자세이기도 하다. 현장 엔지니어는 늘 정답이 없는 문제를 다뤄왔다.
핵심 요약
- LLM은 확률론적 프로세스 기반 — 인과관계를 이해하는 게 아니라 패턴을 흉내 낸다
- AI는 물리적 추론, 느리고 신중한 논리, 오감 기반 판단에서 한계를 가진다
- AI 시대 인간의 역할은 AI가 만든 퍼즐 조각을 조율하고 완성도를 끌어올리는 것
- 리사 수: 질문의 가치를 높여라 / 드류 벤트: 개방형 문제로 AI와 함께 풀어라
- 문제 해결 능력은 AI가 대체할 수 없는, 오히려 AI 시대에 더 빛나는 핵심 역량이다
[링크 제안]
AI의 한계를 이해했다면, 다음 질문은 “그 한계를 어떻게 프롬프트로 보완할 것인가”다.
도메인 지식이 왜 AI 분석의 출발점인지 더 깊이 보고 싶다면 이 글을 이어서 읽어라.
AI의 구조적 한계와 인과관계에 대해 더 알고 싶다면 Wikipedia — Causality에서 개념의 뿌리를 확인할 수 있다.
