[카테고리:] AI에이전트

벡터 DB와 임베딩 파이프라인을 한 번이라도 직접 굴려 본 사람이라면 안다. 지식관리 인프라는 한번 들이면 운영 비용이 의외로 크다. 4월 3일 Andrej Karpathy가 GitHub 깃스트로 공개한 짧은 설계 노트가 그 부담을 정면으로 비웃는다. 제목은 ‘LLM Knowledge Bases’. RAG도, 파인튜닝도, 벡터 DB도 없이 마크다운 파일만으로 LLM이 스스로 가꾸는 지식 위키를 만든다는 발상이다.

공개 12시간 만에 GitHub 스타 2,100개. Karpathy 본인이 단 한 단어도 직접 쓰지 않은 채 100개 문서, 40만 단어 규모의 연구 위키를 만들었다고 밝혔다. 발상이 단순하면서도 무게감이 있다.

RAG와 정확히 어디가 다른가

기존 RAG는 질문이 들어올 때마다 원본 문서를 검색해 즉석에서 답을 만든다. 빠르고 효과적이지만 한 가지 본질적 한계가 있다. 지식이 누적되지 않는다. 매번 처음부터 검색하고, 문서 사이 관계는 기억하지 못하며, 별도 인프라(벡터 DB, 임베딩 파이프라인)를 운영해야 한다.

LLM Wiki는 이 전제를 뒤집는다. 원본을 읽은 LLM이 한 번 지식을 컴파일해 마크다운 파일로 떨궈 둔다. 이후 질문은 이미 정리된 위키를 읽어 합성한다. 백과사전 편집자가 자료를 읽고 항목을 미리 작성해 두는 것과 같은 구조다.

3계층 디렉토리 — 단순하지만 정교한 구조

전체 구조는 세 폴더로 끝난다.

raw/       ← 원본 자료 (불변. LLM은 읽기만)
wiki/      ← LLM이 생성·관리하는 마크다운
  index.md   (전체 페이지 목록 + 카테고리)
  log.md     (시간순 작업 기록)
  [개념].md  (개념 페이지, 비교 분석, 엔티티 페이지)
schema/    ← LLM에게 역할과 규칙을 정의하는 설정 레이어

raw/는 읽기 전용이다. LLM은 이 폴더에서 자료를 읽어 wiki/에 정리한다. schema/가 핵심 설계 포인트다. CLAUDE.md와 비슷한 역할로, 위키의 페이지 형식·인덱싱·명명 규칙·작업 절차를 LLM에게 가르치는 설정 레이어다. 이게 있기에 사람이 매번 지시하지 않아도 일관된 위키가 누적된다.

세 가지 동작 — Ingest, Query, Lint

LLM Wiki는 세 가지 명령으로 운영된다. 첫 번째는 Ingest. raw/에 새 자료(PDF, 아티클, 메모)를 추가하면 LLM이 요약 페이지를 만들고, 기존 관련 페이지를 업데이트하고, 이미 있는 개념 페이지에 새 자료의 역링크를 걸고, index.md와 log.md를 갱신한다. 한 번 명령으로 전체 위키가 알아서 자라난다.

두 번째는 Query. 질문을 던지면 LLM이 위키 페이지를 조회해 합성 답을 만든다. 흥미로운 점은 그 유용한 답변 자체가 새 페이지로 저장된다는 것이다. 질문이 곧 위키 확장의 입력이 된다.

세 번째는 Lint. 위키가 커지면 모순과 누락이 생긴다. Lint는 주기적으로 페이지 간 모순을 탐지하고, 역링크가 없는 고아 페이지를 찾고, 누락된 교차참조를 식별하고, 오래된 정보에 플래그를 단다. 이게 운영 비용을 결정적으로 낮추는 부분이다. 사람이 안 하면 시스템이 망가지는 일을 LLM이 자기 일로 처리한다.

실제로 시작하려면

Karpathy가 추천한 도구 조합은 군더더기 없이 단순하다. 위키 열람·편집은 Obsidian(역링크 그래프 시각화 포함), 웹 자료 수집은 Obsidian Web Clipper, 명령 실행은 Claude Code 또는 Cursor, 변경 이력 관리는 git. 워크플로 자체는 한 줄이다. raw/에 PDF나 아티클을 떨구고 Claude Code에 “Ingest new files”라고 시키면 끝이다.

한국 커뮤니티에서도 Claude Code 스킬로 구현한 사례(github.com/Astro-Han/karpathy-llm-wiki)가 이미 나왔다. Karpathy가 직접 칭찬한 Farzapedia는 개인 일기·메모 2,500개를 400개 문서 위키로 전환한 사례다.

한 가지 주의 — 모두에게 맞는 패턴은 아니다

위키 규모가 커질수록 모델의 컨텍스트 일관성 유지가 어려워진다는 점은 실제 한계다. HackerNews 토론에서 가장 흥미로운 비판 한 줄은 “위키를 직접 작성하는 과정에서 학습이 일어나는데, 그걸 AI에 맡기면 그 학습 기회를 잃는다”는 것이다. 일리가 있다. 개인 지식관리에는 그래서 양면이 있고, 오히려 효과가 더 큰 곳은 팀 단위 도메인 위키일 가능성이 높다. 사내 운영 매뉴얼, 트러블슈팅 노트, 고객 도메인 지식 — 한 사람이 다 못 읽는 자료가 쌓이는 영역이다.

그래서

RAG 기반 사내 지식 시스템을 구축하려다가 임베딩 파이프라인과 벡터 DB 운영 비용에 멈칫한 팀이 있다면, LLM Wiki는 그 첫 번째 대안이 된다. 인프라 부담이 사실상 0에 가까우면서도 위키가 누적되는 구조다. 도입 전에 작은 도메인(예: 사내 트러블슈팅 노트 50개) 하나로 한 번 굴려 보면 효과 가늠이 빠르다.

지금 할 일

가장 빠른 경험은 Karpathy 원본 깃스트(gist.github.com/karpathy/442a6bf555914893e9891c11519de94f)를 한 번 정독하고, 본인이 가장 자주 참고하는 자료(논문 PDF 10개 정도면 충분)를 모아 raw 폴더에 떨구는 것이다. Claude Code에 Ingest 명령을 한 번 던져 보면 위키 구조가 30분 안에 잡힌다. Obsidian으로 그 폴더를 열면 역링크 그래프가 시각적으로 드러나고, 이 패턴이 본인 작업에 맞는지 한눈에 판단된다.

관련 글

• Claude Code 처음 시작하는 법: 설치부터 실전까지 2026 완전 가이드
• 코딩 에이전트 샌드박스란 무엇인가: Freestyle로 보는 AI 개발 환경의 진화
• MCP 완전 입문 가이드: 9,700만 다운로드 AI 에이전트 표준

출처

• Karpathy GitHub Gist — LLM Knowledge Bases
• VentureBeat — Karpathy’s LLM Knowledge Base Architecture
• HackerNews 토론

AI 코딩 에이전트가 내 컴퓨터에서 코드를 마음대로 실행한다는 게 어떤 의미인지, 처음 한 번이라도 곤란을 겪어 본 사람이라면 알 것이다. 잘못된 패키지가 설치되거나, 실수로 파일이 덮여 쓰이거나, 가상환경이 꼬여 버리는 사건. 이 문제를 정면으로 다루는 카테고리가 있다. 코딩 에이전트 샌드박스다. 4월 7일 HackerNews에 186점으로 올라온 Freestyle이 이 분야의 신선한 신규 진입자다.

왜 샌드박스가 필요한가

Claude Code, Cursor, Kiro 같은 코딩 에이전트는 자율성이 점점 커지고 있다. 코드를 쓰고, 테스트를 돌리고, 파일을 수정하는 행위를 사람의 확인 없이 줄줄이 처리한다. 편리함의 반대편에 늘 있는 위험은 분명하다.

• 예상치 못한 패키지 설치로 로컬 환경이 오염되는 일
• 실수로 중요한 파일을 지우거나 덮어쓰는 일
• 여러 에이전트가 동시에 같은 환경에서 돌면서 충돌하는 일
• 보안상 격리가 필요한 실험적 코드를 그대로 로컬에서 돌리는 일

이 중 마지막 두 항목이 특히 운영 관점에서 무겁다. 멀티 에이전트 시대로 넘어가면서 격리는 더 이상 선택이 아니라 전제가 된다.

Freestyle이 들고 온 차별점

Freestyle은 AI 코딩 에이전트 전용 클라우드 VM 플랫폼이다. 핵심은 단순히 컨테이너를 띄우는 게 아니라, 에이전트의 작업 흐름에 맞춰 설계됐다는 점이다. 네 가지 기능이 그 차이를 보여 준다.

• 800ms 이내 VM 생성 — 에이전트가 필요할 때 거의 즉시 격리 환경 확보
• VM 포킹 — 동일한 상태에서 여러 코드 경로를 병렬로 탐색. AI가 ‘A 방법’과 ‘B 방법’을 동시에 시험할 수 있다는 뜻
• VM 하이버네이션 — 작업 중단 후 정확히 같은 상태로 재개, 대기 중에는 비용 미발생
• 완전한 Linux 환경 — root 권한, 중첩 가상화 지원. Docker를 포함한 모든 도구 사용 가능

이 중 VM 포킹과 하이버네이션이 특히 흥미롭다. 에이전트가 한 작업의 두 가지 해법을 동시에 탐색하고 결과를 비교해 더 나은 쪽을 선택하는 패턴이 가능해진다. 멀티 에이전트 오케스트레이션과 결합하면 그 효과가 배가된다.

요금

무료 플랜이 동시 VM 10개, 월 500회 실행을 제공한다는 점이 중요하다. 개인 개발자가 부담 없이 손에 익히기에 충분하다.

비슷한 서비스와의 위치

코딩 에이전트 샌드박스 영역에 이미 몇 개의 선수가 있다. E2B가 가장 널리 쓰이는 옵션으로, 유료 중심 시장을 선점했다. Daytona는 개발 환경 자동화 쪽에 더 가까운 색깔을 갖고 있고, Modal은 서버리스 GPU·CPU 실행 환경으로 분류된다. Freestyle은 그 사이에 VM 포킹·하이버네이션이라는 차별점과 무료 플랜을 들고 들어왔다. 어느 한 도구가 모든 영역을 잡을 분야는 아니다.

아직 일반 개발자보다 빠르게 효과를 보는 건

지금 시점에서 코딩 에이전트 샌드박스가 가장 즉각적인 효과를 내는 건 ‘AI 에이전트를 만드는 팀’이다. 자기 에이전트의 안전한 실행 환경이 필요한 단계에서 샌드박스는 사실상 필수 인프라다. 일반 개발자에게는 아직 약간 이른 도구일 수 있지만, AI 에이전트가 일상 도구로 자리 잡을수록 격리 환경의 중요성은 빠르게 커진다. 지금 관심을 갖기 좋은 타이밍이라는 게 그래서다.

지금 할 일

가장 가벼운 시작은 freestyle.sh에서 무료 플랜에 가입하고 동시 VM 10개를 한 번 띄워 보는 것이다. TypeScript SDK가 있어서 Claude Code와 연동해 에이전트 실행을 격리시키는 실험을 30분 안에 돌릴 수 있다. 이미 E2B를 쓰고 있다면 Freestyle 무료 플랜과 본인 사용 패턴을 비교해 보는 것도 의미 있다. 두 도구의 강점이 다른 만큼 직접 굴려 봐야 결론이 빨리 나온다.

관련 글

• Kiro AI IDE 완전 정리: Amazon의 새 AI 코딩툴
• Claude Code 처음 시작하는 법: 2026 완전 가이드
• MCP 완전 입문 가이드: 9,700만 다운로드 AI 에이전트 표준

출처

• HackerNews — Freestyle Launch HN
• Freestyle 공식 사이트
• Northflank — 코딩 에이전트 샌드박스 비교

대표이미지 출처: Freestyle 공식 사이트