AI에게 ’투자자에게 보여 줄 슬라이드 자료를 만들어 줘’라고만 쓰면 결과물은 대개 밋밋합니다. AI는 내가 누구인지, 어떤 형식을 좋아하는지, 투자자가 누구인지 모르기 때문입니다. 지난 몇 년 동안은 이 빈칸을 메우려고 작업마다 데이터베이스 연결과 전용 도구를 붙인 AI agent(스스로 도구를 써서 일을 처리하는 AI 프로그램)를 따로 만들었습니다. 다른 길은 반대로, 작업 방식과 나에 대한 정보, 대상 정보를 폴더와 텍스트 파일로 정리해 두고 범용 AI 하나가 그 폴더를 읽게 하는 것입니다. 전용 agent를 늘리는 방식보다 유연하고 관리하기 쉬운 대안으로 보입니다.
요청 한 문장에 빠진 세 가지 정보
’투자자에게 보여 줄 슬라이드 자료를 만들어 줘’라는 요청을 쪼개 보면, AI가 제대로 답하려면 세 가지 정보가 필요합니다.
| 요청의 부분 | AI가 알아야 할 것 | 담아 둘 곳 |
|---|---|---|
| 만들어 줘 | 나는 누구이고 어떤 말투와 이력을 가졌는지 | 나에 대한 폴더 |
| 슬라이드 자료 | 슬라이드를 어떤 구성과 디자인 규칙으로 만드는지 | 제작 방식 폴더 |
| 내 투자자 | 투자자가 누구이고 어떤 배경을 가졌는지 | 투자자 하위 폴더 |
기본 상태의 AI는 이 셋 가운데 어느 것도 알지 못합니다. 데이터와 맥락, 도구가 함께 주어지지 않으면 결과물의 품질이 떨어지거나 엉뚱한 답이 나오기 쉽습니다. 2~3년 전 이런 맥락 없이 같은 요청을 했을 때 결과물이 일반적이고 쓸모없었던 이유도 여기에 있습니다.
지난 방식: 작업마다 agent 하나씩
그동안 엔지니어들이 이 문제를 푼 방식은 AI 모델 주위에 부품을 하나씩 붙이는 것이었습니다.
- 데이터 연결: AI 모델은 개인이나 회사의 비공개 데이터로 학습하지 않았으므로 SQL 데이터베이스, Google Drive, SharePoint, JSON·YAML 저장소에 연결했습니다.
- API gateway와 연결 코드: 데이터베이스에 접근하려면 질의 형식과 매개변수를 정한 API gateway를 만들고, Python이나 C#으로 모델과 데이터베이스를 잇는 연결 코드를 따로 짰습니다.
- 문서 생성 도구: 슬라이드를 만들려면 PowerPoint를 다루는 도구가 필요했습니다. AI가 PowerPoint를 직접 조작하기 어려워 초기 Microsoft Copilot이 만든 슬라이드의 품질은 매우 낮았던 것으로 보입니다. 그래서 AI가 슬라이드를 HTML 코드로 쓰고 외부 스크립트가 PowerPoint나 PDF로 바꾸거나, 웹 페이지를 만들어 화면을 캡처한 뒤 슬라이드에 붙이는 우회로를 썼습니다.
- 웹 수집 도구: 투자자 정보를 찾으려고 Python이나 C#으로 웹 scraper(웹 페이지에서 정보를 모아 오는 프로그램)를 만들고, 엉뚱한 사람을 찾지 않도록 오류 처리 로직까지 넣었습니다.
모델에 데이터를 직접 학습시키는 fine-tuning(이미 학습한 모델을 특정 데이터로 더 학습시키는 방법)도 가능하지만, 필요한 데이터를 그때그때 넣어 주는 쪽이 훨씬 믿을 만한 경우가 많습니다.
문제는 이 구조가 쉽게 깨진다는 점입니다. 요청에서 ’슬라이드’를 ’PDF’로 한 단어만 바꿔도 슬라이드 도구만 가진 첫 번째 agent는 일을 하지 못합니다. PDF 생성 경로를 갖춘 두 번째 agent를 새로 만들어야 하고, 이런 일이 쌓이면 조직은 좁은 용도의 agent 수십 개를 계속 관리해야 합니다.
▲ 작업마다 늘어나는 전용 agent
뒤집은 설계: 폴더가 agent가 된다
대안은 구조를 거꾸로 세우는 것입니다. 1969~1970년 Ken Thompson과 Dennis Ritchie가 만든 Unix의 핵심 생각은 데이터를 계층형 파일 트리로 정리하면 텍스트만으로 찾아가고 실행할 수 있다는 것이었습니다. 폴더와 파일은 지금도 수많은 기업이 그 위에서 돌아갈 만큼 기본적인 장치이고, 이제는 AI가 그 장치를 쓰는 새 사용자가 되었습니다.
이 방식에서 AI에 붙이는 도구는 최소한으로 줄어듭니다. 거의 모든 작업에 두루 쓰는 도구 묶음, 곧 AI harness(모델에 기본 도구를 붙여 주는 실행 틀)는 다음 세 가지면 충분하다고 봅니다.
- 폴더 안의 파일 읽기
- 폴더에 파일 쓰기
- 웹 검색
Google, Anthropic, OpenAI 같은 주요 AI 기업도 도구 사용 방식을 단순하게 만드는 데 힘을 쏟고 있습니다. Claude, Codex, Gemini에서는 슬라이드 제작 같은 skill(특정 작업 방법을 묶은 기능 모듈)을 내려받거나 직접 만들어 쓸 수 있습니다. 슬라이드 제작 skill은 보통 HTML로 화면 구성을 만든 뒤 PDF나 PowerPoint 파일로 바꿉니다.
폴더 구성 예시
앞의 요청을 처리하는 폴더는 이렇게 짤 수 있습니다.
- 제작 방식 폴더: 슬라이드 구성과 디자인 규칙을 적은 Markdown·텍스트 파일, 그래픽과 이미지 같은 자료
- 나에 대한 폴더: 브랜드 말투, 지역 배경, 경력과 회사 이력을 적은 문서
- 투자자(또는 고객) 하위 폴더: 투자자마다 배경을 적은 텍스트 파일과 관련 웹사이트 주소
AI가 이 폴더에 접근할 수 있으면 요청의 각 부분을 해당 폴더에 연결합니다. ’만들어 줘’는 나의 선호와 배경 파일을, ’슬라이드 자료’는 제작 지시와 자료를, ’내 투자자’는 투자자 기록을 찾아 읽습니다.
지시, 의견, 데이터로 나누기
폴더 안의 파일은 지시(어떻게 만들지), 의견(무엇을 좋아하고 어떤 관점인지), 데이터(원자료) 세 갈래로 나눠 두면 AI가 참고할 범위가 분명해집니다. 같은 범용 AI가 어떤 폴더를 읽느냐에 따라 PDF agent도 되고 슬라이드 agent도, 마케팅 agent도 됩니다. 새 작업이 필요하면 프로그램 구조를 다시 짤 필요 없이 하위 폴더와 지시 파일 하나를 더하면 됩니다.
이 방식의 장점은 사람이 판단의 중심에 남는다는 점으로 보입니다. 어떤 맥락을 줄지 사람이 정하므로 AI는 속을 알 수 없는 자율 시스템이 아니라 사람의 생각을 넓혀 주는 도구가 됩니다. 반대로 AI가 사람의 감독 없이 완전히 스스로 반복해서 돌게 하는 구조는 경계할 필요가 있습니다.
맥락이 결과를 바꾸는 원리
폴더가 왜 효과가 있는지는 언어 모델이 작동하는 방식에서 드러납니다. 1950년대 인공지능이라는 말이 생긴 뒤 1980~1990년대 신경망 연구를 거쳐, 2017년 Google 연구진의 논문 ’Attention Is All You Need’가 transformer 구조를 내놓았습니다. transformer 모델은 다음에 올 token(모델이 글을 처리하는 단위)의 확률을 계산하는 일을 수천 번 되풀이하며 글을 만듭니다.
’하늘은 ___’이라는 문장을 예로 들면 다음과 같습니다.
| 앞에 붙은 맥락 | 확률이 높아지는 단어 |
|---|---|
| 맥락 없음 | 파란(60%), 아름다운(50%), 흐린(40%) 순 |
| 영국의 하늘, 밤하늘 | 분포가 바뀜. 영국이면 흐린 쪽으로 |
| 맑은 봄날을 맞은 에든버러의 학생 | 아름다운 |
앞에 어떤 맥락이 붙느냐에 따라 다음 단어의 확률 분포가 통째로 바뀝니다. 폴더에 담은 지시와 의견, 데이터가 바로 이 맥락 역할을 합니다. 이런 점에서 AI를 ’단어 예측기일 뿐’이라고 깎아내리는 시각은 수십 년의 수학 연구와 노력을 지나치게 단순하게 보는 것일 수 있습니다. 물론 AI도 실수를 하고 결과가 나쁠 때가 있습니다.
▲ 폴더를 읽는 범용 AI 하나
영어 문장이 새 프로그래밍 언어가 되기까지
Python에서 화면에 글자를 띄우는 한 줄짜리 명령은 결과가 정해진 지시입니다. 단순해 보여도 그 아래에는 40년 넘게 쌓인 소프트웨어와 하드웨어 기술, 수천 줄의 코드가 깔려 있습니다. 컴퓨터의 역사는 복잡한 절차를 더 짧은 표현으로 감싸는 과정이었습니다.
- 1800년대 초 Jacquard 직조기: 구멍 뚫린 카드로 직물 무늬를 자동으로 짰습니다. 구멍이 있고 없음이 곧 명령이었습니다.
- 1830~1840년대 Analytical Engine: Ada Lovelace는 Charles Babbage의 기계식 계산기에 관한 120쪽 분량의 글을 번역하며 470쪽에 이르는 주석을 붙였고, 기계가 음악을 작곡할 수 있는지, 생각할 수 있는지 물었습니다.
- 1940~1950년대: Alan Turing은 기계 지능을 판정하는 Turing Test를 내놓았고, Claude Shannon은 정보 이론의 바탕을 놓았습니다. Anthropic의 AI Claude라는 이름도 Claude Shannon에서 따왔습니다.
- Grace Hopper의 compiler: 영어에 가까운 명령어를 기계어 묶음으로 바꾸는 compiler(사람이 쓴 코드를 기계가 실행할 명령으로 바꾸는 프로그램)를 만들었습니다. 당시 많은 엔지니어는 컴퓨터는 계산만 해야 한다며 외면했지만, 이 기술은 FORTRAN 같은 언어로 이어졌습니다.
- C, 객체 지향 프로그래밍, Python: 한 낱말이 수백 단계의 하위 명령을 대신하는 추상화가 계속 쌓였습니다.
이 흐름에서 보면 ‘투자자에게 보여 줄 PDF를 만들어 줘’ 같은 자연어 요청은 가장 새로운 단계의 코드라고 할 수 있습니다. 다만 결과가 하나로 정해진 코드와 달리, AI는 사람의 의도와 품질 기준을 스스로 알지 못합니다. 폴더 구조는 이 의도를 정해진 형식으로 꾸려 AI에 건네는 방법입니다.
내 작업에 적용하는 순서
agent를 새로 만들기 전에 폴더부터 정리해 보는 것이 출발점입니다.
- 작업 폴더 하나를 만들고 그 안에 제작 방식 폴더와 나에 대한 폴더를 둡니다.
- 제작 방식 폴더에는 자주 만드는 결과물(슬라이드, PDF, 마케팅 문안)의 구성과 디자인 규칙을 Markdown이나 텍스트 파일로 적고, 쓸 이미지와 자료를 함께 넣습니다.
- 나에 대한 폴더에는 말투, 배경, 회사 이력을 적고, 투자자나 고객처럼 자주 상대하는 대상은 하위 폴더에 한 사람씩 정리합니다.
- 파일은 지시, 의견, 데이터로 나눠 AI가 참고할 범위를 분명히 합니다.
- AI에는 파일 읽기, 쓰기, 웹 검색 정도의 기본 도구만 주고 요청합니다.
- 새 작업이 생기면 하위 폴더와 지시 파일을 더하고, 결과물 형식을 AI가 직접 만들기 어려우면 HTML로 먼저 만들게 한 뒤 PDF나 슬라이드로 바꿉니다.
AI가 무엇을 잘할지는 모델만큼이나 사람이 건네는 맥락에 달려 있습니다. 어떤 맥락을 어떤 구조로 줄지 정하는 일은 여전히 사람의 몫입니다.