다들 AI를 잘 쓴다고 말한다. 프롬프트를 짜고, 에이전트를 돌리고, 광고 이미지를 몇 초 만에 뽑아낸다. 그런데 정작 그 화려한 결과물 아래에서 무슨 일이 벌어지는지, 즉 AI 밑바닥을 이야기하는 사람은 드물다. 같은 도구를 쥐어도 결과가 갈리는 이유는 화면 위의 기능이 아니라, 그 아래에서 어떤 원리가 돌아가는지를 아는지 모르는지의 차이에서 나온다.
이 글은 그 밑바닥, AI 엔진룸을 여는 시리즈의 첫 편이다. 왜 밑바닥을 알아야 하는지, 그리고 AI가 지금 모습이 되기까지 어떤 길을 걸어왔는지를 정리한다.
AI 밑바닥이란 무엇인가
AI 밑바닥이란 화면에 보이는 답변이나 이미지가 아니라, 그 결과를 만들어내는 내부 동작 원리를 말한다. 결론부터 말하면 그 원리의 정체는 수학이다. 그것도 아주 어려운 수학이 아니다. 고등학교에서 배운 벡터, 행렬, 약간의 미분 정도다. 단 하나 다른 점이 있다면 차원이 압도적으로 높다는 것이다.
학교에서 다루는 행렬은 기껏해야 2×2, 5×5 정도다. 그런데 AI가 다루는 행렬은 행과 열이 각각 1만 개, 2만 개를 넘어간다. 머릿속에 그림으로 그려지지 않을 뿐, 연산 자체는 곱하고 더하는 단순한 작업의 반복이다. 차원이 높다는 사실만 빼면 그렇게 어려운 수학이 아니라는 점, 이것이 이 시리즈 전체를 관통하는 첫 번째 메시지다.
AI 밑바닥을 알아야 하는 3가지 이유
밑바닥을 모른 채 AI를 쓰는 것과, 알고 쓰는 것은 결과가 다르다. 그 차이를 세 가지로 정리한다.
| 이유 | 핵심 |
|---|---|
| 생산성의 비선형 차이 | 도구를 같게 줘도 결과는 배 단위로 벌어진다 |
| 판단 속도의 변화 | AI가 인간이 따라잡기 힘든 속도로 의사결정을 만든다 |
| 통제와 윤리 | 원리를 모르면 AI의 판단을 검증할 수 없다 |
첫 번째는 생산성이다. 한 조사에서 초보 개발자에게 “AI가 업무 효율을 얼마나 높여주냐”고 물으니 30~40퍼센트라고 답했다. 그런데 같은 질문을 숙련된 전문가에게 던지자 답이 달랐다. 퍼센트가 아니라 배 단위, 즉 10배에서 30배라고 답했다. 같은 도구인데 왜 이런 차이가 날까. 자기 분야의 핵심 역량을 완전히 장악한 사람일수록 AI를 정확히 부릴 수 있기 때문이다. 도메인 역량이 어설프고 AI 이해도 어설프면, 두 어설픔이 곱해져 결과도 어설퍼진다.
두 번째는 판단 속도다. 전장에서 병력, 장비, 위성, 드론 데이터를 실시간으로 모아 “어디를 어떻게 공격하면 최적인가”를 분석해주는 시스템이 이미 존재한다. 문제는 그 분석 속도를 인간 지휘관이 따라잡지 못한다는 점이다. 결국 인간은 1번인지 2번인지도 모른 채 버튼을 눌러야 하는 상황으로 떠밀린다. AI가 보조를 넘어 의사결정의 주체에 가까워지는 변화다.
세 번째는 통제와 윤리다. AI 리터러시, 즉 AI 문해력은 네 가지 축으로 이루어진다. 이해(Understand), 활용(Use), 평가(Evaluate), 그리고 윤리(Ethics)다. 이 중 윤리가 빠지면 무슨 일이 벌어질까. “전쟁에서 이길 방법을 찾아줘”라고 명령하면 AI는 감정 없이 핵무기 사용을 답으로 내놓을 수 있다. 원리를 이해하고 통제할 수 있어야, AI는 우리가 살 만한 세상을 만드는 도구가 된다.
AI는 어떤 길을 걸어왔는가
AI 밑바닥을 이해하려면, 지금의 AI가 어떻게 만들어졌는지 그 흐름을 알아야 한다. 1950년대부터 지금까지의 줄기를 압축하면 다음과 같다.
| 시기 | 사건 | 의미 |
|---|---|---|
| 1950 | 튜링 테스트 | 기계와 대화해서 기계인지 모르면 지능이다 |
| 초기 | IF-THEN, 전문가 시스템 | 사람이 모든 규칙을 직접 넣어야 함 → 한계 |
| 1957 | 퍼셉트론 | 인공 신경망의 시초, XOR 문제로 한계 |
| 1990년대 | 머신러닝, 피처 엔지니어링 | 특징을 사람이 정의 → 한계 |
| 2010년대 | 딥러닝 | 특징을 스스로 추출 |
| 2012 | 이미지넷 대회 | 딥러닝과 GPU의 위력 입증 |
| 2017 | 트랜스포머 | 어텐션 메커니즘 등장 |
| 2022 | ChatGPT | 스케일링 법칙의 시대 |
영국의 앨런 튜링은 “기계와 대화했을 때 기계인지 알아채지 못할 정도가 되면 지능”이라는 튜링 테스트를 제안했다. 초기 AI는 사람이 모든 경우의 수를 직접 규칙으로 넣는 방식이었다. “이것이면 저것을 해라”는 식의 IF-THEN 구조다. 의료, 법률 전문가의 지식을 모두 입력하는 전문가 시스템도 같은 계열이었다. 그러나 규칙이 폭발적으로 늘어나면서 한계에 부딪혔다.
1957년 등장한 퍼셉트론은 인공 신경망의 시초였지만, 단층 구조라 XOR 문제를 풀지 못했다. AND나 OR는 직선 하나로 두 그룹을 나눌 수 있지만, XOR는 어떤 직선으로도 나눌 수 없다. 이 한계를 넘기 위해 여러 층(layer)을 쌓자는 생각이 나왔고, 그것이 딥러닝의 출발점이 됐다.
딥러닝과 GPU, 그리고 어텐션
1990년대 머신러닝 시대에는 “고양이는 귀가 뾰족하고 눈동자가 날카롭다”는 식으로 사람이 특징을 일일이 정의해야 했다. 이를 피처 엔지니어링이라 부른다. 하지만 고양이 종류마다 특징이 달라 한계가 명확했다. 2010년대 딥러닝은 이 방식을 뒤집었다. 사진과 정답만 주면 특징을 스스로 추출하게 된 것이다.
전환점은 2012년 이미지넷 대회였다. 1000개 클래스의 수백만 장 이미지를 맞추는 대회에서, 토론토 팀이 GPU를 활용한 딥러닝으로 정확도를 74퍼센트에서 85퍼센트로 끌어올렸다. 이 사건으로 두 가지가 증명됐다. 딥러닝이 진짜 효과가 있다는 것, 그리고 그래픽 처리용으로만 여겨지던 GPU가 AI 연산의 핵심 칩이라는 것이다.
그리고 2017년, “Attention is All You Need”라는 논문이 트랜스포머와 어텐션 메커니즘을 세상에 내놓았다. 이것이 오늘날 ChatGPT 같은 거대 언어 모델의 심장이 됐다. 어텐션이 무엇인지는 이 시리즈의 핵심으로, 뒤편에서 본격적으로 다룬다. 여기서 AI 밑바닥의 큰 그림을 하나 정리하고 가자. AI 안에 머신러닝이 있고, 그 안에 딥러닝이 있고, 그 안에 생성형 AI가 있다. 포함 관계를 이렇게 잡아두면 이후 이야기가 훨씬 선명해진다.
마지막으로 스케일링 법칙을 기억해두자. 데이터가 많을수록, 모델이 클수록, 연산이 빠를수록 AI는 기하급수적으로 좋아진다는 경험 법칙이다. 2012년 이전에는 설령 트랜스포머 설계도를 손에 쥐고 있었어도 구현할 수 없었다. GPU도, 빠른 메모리도 없었기 때문이다. 반도체 집적도가 올라가고 고속 메모리가 등장하면서 비로소 지금의 AI가 가능해졌다.
핵심 요약
이번 편의 핵심은 세 가지다. 첫째, AI 밑바닥은 어려운 수학이 아니라 차원이 높은 수학이다. 둘째, 밑바닥을 알아야 하는 이유는 생산성의 비선형 차이, 판단 속도의 변화, 통제와 윤리 때문이다. 셋째, AI는 튜링 테스트에서 시작해 퍼셉트론, 딥러닝, 이미지넷, 트랜스포머를 거쳐 지금에 이르렀고, 그 핵심에는 어텐션이 있다.
다음 편에서는 AI가 데이터를 다루는 수학적 언어, 즉 벡터와 행렬과 텐서를 다룬다. AI 밑바닥의 진짜 출발점이다.
함께 읽으면 좋은 글
AI가 어떤 역사를 거쳐왔는지 연대기로 더 깊게 보고 싶다면 이 글이 좋은 출발점이다.
기술 발전이 아니라 틀 자체가 교체되는 흐름이 궁금하다면 함께 읽어볼 만하다.
튜링 테스트와 AI 역사를 더 알아보고 싶다면 위키백과 인공지능 문서에서 흐름을 살펴볼 수 있다.
