Ch.02 · AI가 나를 모르면 답이 평범해진다 | 맥락(Context)
AI가 실행을 잘해도 나에 대해 모르면 결국 평범한 답만 나옵니다. 매번 맥락을 줄 수 없으니 저장해야 하고, 그게 PKM입니다.
Overview
Ch.01에서 AI를 실행하는 존재로 다시 봤습니다. 그런데 막상 일을 맡겨보면, 같은 작업이라도 결과가 천차만별이라는 점을 곧 깨닫게 됩니다. 같은 회의록을 정리해도 어떤 때는 핵심을 정확히 짚고 우리끼리 쓰는 전문용어까지 제대로 풀어 정리하는데, 어떤 때는 그 용어를 엉뚱하게 해석해 핀트가 어긋난 요약을 내놓습니다. 무엇이 이 차이를 가르는 걸까요?
이번 챕터는 그 답으로 맥락(Context)을 다룹니다. 왜 맥락이 결정적인지 짚고, 매번 맥락을 일일이 줄 수 없으니 한곳에 저장해 자동으로 참고하는 환경이 왜 필요한지까지 이어갑니다.
학습 목표
- AI가 맥락 없이 일할 때 왜 평범한 답이 나오는지 이해합니다
- 채팅창 하나로 맥락을 주는 방식의 두 가지 한계를 설명할 수 있습니다
- PKM이 무엇인지, 왜 필요한지 알게 됩니다
맥락의 힘: 같은 질문도 답이 달라진다
새로 들어온 직원에게 일을 맡기는 장면을 떠올려 보세요. 우리 팀이 작년에 뭘 했고 지금 뭐가 문제인지 다 아는 직원과, 오늘 첫 출근한 직원에게 같은 일을 맡기면 결과물이 같을 리 없습니다. 능력의 차이가 아닙니다. 우리 상황을 아느냐 모르느냐의 차이죠.
AI도 똑같습니다. "Q2 OKR 어떻게 설정하면 좋을까?" — 같은 질문을 두 사람이 AI에게 했습니다. 한 명은 자기 회사 상황을 충분히 설명했고, 다른 한 명은 질문만 던졌습니다.
| 맥락 없이 | 맥락 있게 | |
|---|---|---|
| AI 답변 | "OKR은 Objective와 3-5개의 Key Results로 구성합니다. 측정 가능한 지표를 선택하고..." | "신규 유입이 늘었는데 재방문이 안 따라온 게 작년 가장 큰 문제였으니, Q2 OKR은 'D7 재방문율 25%'를 Key Result로 잡는 게 어떨까요?" |
| 결과 | 누구에게나 해당되는 범용 답변 | 내 상황에 맞는 구체적인 제안 |
같은 질문인데 답변의 질이 이렇게 달라집니다. 차이는 AI 능력이 아니라 AI가 가진 맥락의 양입니다. ChatGPT·Claude 같은 AI 서비스는 입력된 정보를 바탕으로 확률이 가장 높은 답을 생성합니다. 정보가 부족하면 가장 일반적이고 평균적인 답이 가장 가능성 높은 답이 됩니다. 의도적으로 무난하게 가는 게 아니라, 주어진 정보로 낼 수 있는 최선이기 때문입니다.
좋은 답 = AI 능력 × 내 맥락
AI 능력이 아무리 높아도 내 맥락이 0에 가까우면, 곱한 결과도 평범해집니다. Ch.01에서 본 강력한 실행 능력이 빛을 발하려면, 맥락이라는 또 다른 축이 채워져야 합니다.
채팅창의 한계: 맥락을 다 담지 못한다
지금 대부분의 사람이 쓰는 방식은 하나의 채팅창을 계속 켜두고 같은 대화 안에서 작업을 이어가는 방식입니다. 작업을 맡길 때마다 필요한 배경을 함께 설명합니다.
채팅이 길어질수록 AI가 그동안의 맥락을 알아가니까, 어느 정도는 됩니다. 하지만 이 방법에는 두 가지 한계가 있습니다.
한계 1: 한 채팅창의 기억에는 한계가 있다
한 시간 넘게 이어진 회의를 떠올려 보세요. 초반에 정한 안건과 마지막 결론은 또렷한데, 중간에 오간 얘기는 흐릿합니다. "그건 언제 정한 거였지?" 싶은 대목이 꼭 하나씩 생깁니다.
채팅창도 똑같습니다. 대화가 길어지면 Claude 같은 챗봇은 그동안의 대화를 자동으로 요약·압축해서 기억합니다. 어느 시점부터는 처음에 한 이야기를 정확히 기억하지 못하고, 결정적인 순간에 내 의도를 잘못 이해하는 일이 생깁니다. 한 채팅창이 한 번에 붙들 수 있는 맥락의 양에는 한계가 있는 셈입니다.
AI가 한 번에 올려두고 일하는 정보를 책상에 비유하면 쉽습니다. 책상이 넓어도 자료가 쌓이면 처음에 올려둔 건 구석으로 밀려 잘 안 보입니다. 한 채팅창도 똑같이, 한 번에 올려둘 수 있는 맥락의 양이 정해져 있습니다.
한계 2: 한 채팅창은 한 번에 한 가지 일밖에 못 한다
맥락 품질 문제와는 별개로, 채팅창 하나로 일하는 방식엔 또 다른 한계가 있습니다.
직원 한 명에게 일을 맡길 때를 생각해 보세요. 아무리 유능해도 한 사람은 한 번에 한 가지 일을 합니다. 오늘 처리할 일이 5개면, 5개를 한 줄로 세워 차례로 끝낼 때까지 기다려야 합니다.
채팅창 하나도 똑같습니다. 그런데 AI의 진짜 가치는 여러 일을 동시에 빠르게 처리하는 것입니다. 오늘 할 일이 5개라면 AI 5명과 동시에 작업해야 진짜 효율이 납니다. 채팅창 하나로는 그 가치를 절반도 못 씁니다.
여러 채팅창: 그래도 안 되는 이유
채팅창을 여러 개 쓰면 앞의 두 한계는 각자 풀립니다. 일을 나눠 맡길 AI가 5명 생기는 셈이니까요. 그런데 막상 그렇게 하면 새로운 문제가 생깁니다.
직원이 5명으로 늘었는데 모두 오늘 첫 출근이라고 생각해 보세요. 한 명 한 명에게 우리 팀이 뭘 하는 곳인지 처음부터 다시 설명해야 합니다.
채팅창마다 내 맥락을 매번 새로 설명해야 합니다.
프로젝트가 바뀔 때마다, 업무가 달라질 때마다, AI에게 처음부터 다시 설명해야 합니다. 우리 팀 구조가 어떤지, 지난 분기에 어떤 결정을 했는지, 내가 어떤 방식으로 일하는지 — 매번 반복입니다.
첫 번째 채팅에게: "우리 회사는 ○○이고, 지난 분기에는 △△ 했고..." 두 번째 채팅에게: "(또 다시) 우리 회사는 ○○이고, 지난 분기에는..."
배경 설명이 짧다면 모를까, 팀 구조·의사결정 히스토리·내 업무 방식까지 포함하면 그 분량이 만만치 않습니다. 매번 같은 내용을 다시 쓰거나 복붙하는 것도 결국 번거롭고, 채팅마다 조금씩 다르게 설명하다 보면 AI가 채팅마다 다른 기준으로 일하기 시작합니다.
해답: 맥락을 한곳에 저장한다
두 문제의 공통점은 하나입니다. 맥락이 어디에도 저장되어 있지 않다는 것입니다. 이 문제를 해결하려면 맥락이 한곳에 저장되어 있어야 합니다. 그 환경을 PKM(Personal Knowledge Management, 개인 지식 관리) — 나의 지식과 판단을 쌓아두는 두 번째 뇌, 세컨드 브레인이라고 부릅니다.
PKM이 갖춰지면, 어떤 채팅창을 열든 AI는 매번 설명하지 않아도 동일한 맥락을 참고해서 실행합니다. 이 시리즈의 목표는 그 환경을 직접 만드는 것입니다.
- PKM은 AI가 일할 때 참고하는 내 지식·맥락·판단의 모음
- PKM이 아닌 것: 정리도 안 된 메모 더미. 내 판단이나 맥락 없이 뒤섞인 자료
- 핵심은 AI가 자동으로 참고할 수 있는 형태로 쌓는 것
핵심 포인트 정리
- 맥락 없는 AI = 평범한 답: 실행 능력이 있어도 결과물이 어디서나 들을 수 있는 수준
- 한 채팅창의 한계: 기억 압축 + 한 번에 한 일 + 매번 설명 불가
- 답은 PKM(세컨드 브레인): 맥락을 한곳에 쌓아두면 매번 설명 없이 AI가 맥락을 참고해서 일함
FAQ
Q: 매번 채팅창에 맥락을 잘 설명하면 되지 않나요? A: 짧은 작업 한두 번이면 그게 더 빠릅니다. 하지만 팀 구조·의사결정 히스토리·내 업무 방식까지 매 채팅창에 다시 쓰는 건 금방 한계에 부딪힙니다. 반복 설명이 번거로운 순간부터 저장해두는 편이 이득입니다.
Q: 맥락을 많이 주면 줄수록 항상 답이 좋아지나요? A: 관련 있는 맥락일 때만 그렇습니다. 지금 작업과 무관한 정보까지 잔뜩 넣으면 오히려 핵심이 묻혀 답이 흐려집니다. 그래서 다음 챕터부터 "지금 필요한 맥락만 골라 참고하게 하는" 구조를 다룹니다.
Q: ChatGPT 메모리 기능이랑 같은 건가요? A: 비슷한 문제를 푸는 도구지만, PKM은 내가 직접 들여다보고 고칠 수 있는 내 폴더라는 점이 다릅니다. 무엇이 저장됐는지 투명하게 보이고, 여러 AI 도구에서 같은 자료를 참고하게 만들 수 있습니다.
이어서 배울 내용
맥락을 한곳에 저장해야 한다는 점은 확인했습니다. 하지만 또 다른 질문이 남습니다. "한곳에 저장한다"는 게 정확히 무엇일까요? 폴더 하나 만들고 파일을 모아두기만 하면 되는 걸까요? 다음 챕터에서 PKM이 정확히 무엇이고 어떻게 생겼는지 다룹니다.
- PKM을 한 문장으로 정의하기
- 정리 없이 쌓기만 하면 실패하는 이유
- AI가 헤매지 않게 하는 폴더 분류(PARA)