옵시디언과 LLM 위키로 구축하는 AI 지식 관리 시스템

 옵시디언과 LLM을 결합한 'LLM 위키(LLM Wiki)' 업무 시스템에 대해 더 깊이 있게 분석해 드립니다.

1. 기존 지식 관리의 한계와 LLM 위키의 등장 배경 과거부터 사람들은 업무 자료나 인사이트를 모아두는 '두 번째 뇌'를 원했지만, 대부분의 노트 앱은 결국 **'지식 무덤'**으로 전락하고 말았습니다. 그 이유는 자료를 직접 입력하고 정리하는 입력 비용, 필요할 때 과거 자료를 찾는 검색 비용, 그리고 새로운 자료가 생길 때마다 기존 내용과 연결하고 중복을 없애는 유지 비용이 너무 컸기 때문입니다. 그러나 AI가 등장하면서 이 구조가 바뀌고 있습니다. 오픈 AI 창립 멤버였던 안드레 카파시(Andrej Karpathy)가 소개한 LLM 위키는 AI가 사람을 대신해 자료를 읽고, 요약하고, 분류하며, 기존 위키 문서와 연결해 지속적으로 업데이트하는 시스템입니다.

2. 왜 노션이나 에버노트가 아닌 '옵시디언(Obsidian)'인가? AI가 자료를 원활하게 활용하려면 지식이 기계가 읽기 쉬운 형식으로 저장되어야 하는데, 이에 가장 적합한 것이 사람과 AI 모두 직관적으로 이해할 수 있는 마크다운(Markdown) 형식입니다. 노션이나 에버노트 같은 일반적인 메모 앱은 화면은 예쁘지만 내부 구조가 해당 앱 자체에 크게 의존합니다. 반면 옵시디언은 철저히 로컬 폴더와 텍스트 파일 기반으로 작동합니다. 이 단순하고 개방적인 구조 덕분에 AI 에이전트나 LLM이 폴더를 직접 읽고, 파일을 수정하고, 새 문서를 만들거나 문서 간 링크를 연결하는 작업이 훨씬 수월합니다. 즉, 옵시디언은 단순한 예쁜 정리함이 아니라 사람과 AI가 함께 작업할 수 있는 '지식 작업장' 역할을 완벽히 수행합니다.

3. LLM 위키 시스템 구축을 위한 4대 폴더 구조 LLM 위키를 제대로 작동시키기 위해서는 옵시디언 볼트(Vault) 내에 명확한 역할을 가진 4개의 폴더를 세팅해야 합니다.

• 소스(Source) 폴더: 회의록, 리서치 자료, 기획 초안, PDF 등 가공되지 않은 원본 자료를 모아두는 곳입니다. 여기서 가장 중요한 핵심 원칙은 **"원본 자료는 절대 수정하지 않는다"**는 것입니다. 원본이 바뀌게 되면 나중에 AI가 어떤 근거를 바탕으로 지식을 정리했는지 추적하기 어려워지기 때문입니다.
• 위키(Wiki) 폴더: AI가 소스 폴더의 자료들을 읽고 주제별로 정리한 결과물(지식 백과사전)이 저장되는 곳입니다.
• 에이전트 MD(Agent MD): 일종의 프롬프트 파일로, AI가 문서를 작성할 때 반드시 지켜야 할 정리 방식, 출처 기록 방식, 업데이트 규칙 등을 명시해 둡니다. 이 규칙이 있어야 AI가 항상 일관성 있는 형태의 결과물을 출력합니다.
• 아웃풋(Output) 폴더: 위키 폴더에 체계적으로 쌓인 지식을 바탕으로 AI에게 요청하여 만들어낸 최종 업무 결과물(예: 임원 보고용 1페이지 요약본, 회의 공유용 문서 등)이 저장되는 곳입니다.

4. 실무 적용 프로세스와 인간/AI의 역할 분담 신규 프로젝트 기획 업무를 예로 들면 실무 적용 과정은 다음과 같습니다. 처음에는 회의록이나 조사 자료 등을 소스 폴더에 던져 넣은 뒤, AI에게 "소스 자료를 읽고 위키 폴더에 프로젝트 개요, 문제 정의, 경쟁사 비교 등의 문서를 만들어 줘"라고 요청합니다. 이후 새로운 자료가 생길 때마다 AI에게 **"새 자료를 읽고 기존 위키 문서 중 업데이트가 필요한 부분을 수정하고, 새 개념은 링크로 연결해 줘"**라고 지시하여 지식을 최신화합니다. 지식이 쌓인 후에는 AI에게 "위키 폴더 내용을 참고해 보고서 초안을 만들어 줘"라고 요청하면 끝납니다. AI가 이미 내가 쌓아둔 지식 구조와 업무 맥락을 참고하고 있기 때문에, 이전처럼 매번 맥락을 처음부터 설명할 필요가 없습니다.

이 시스템에서 인간과 AI의 역할은 철저히 분업화됩니다.

• AI의 역할: 수많은 자료를 반복적으로 정리하고 문서들을 유기적으로 연결하는 작업.
• 인간의 역할: 전체적인 기획의 방향을 정하고, AI가 도출한 결과를 검토하며, 핵심적인 판단과 편집을 수행.

5. 시사점 이러한 구조를 갖추면 옵시디언에 대충 저장해 둔 메모와 자료들이 단순한 텍스트 쪼가리로 남지 않고, 실제 업무 결과물을 찍어내는 훌륭한 재료로 거듭나게 됩니다. 향후 AI 시대에 일을 잘하는 사람은 단순히 챗봇에 일회성 질문을 잘하는 사람이 아니라, AI가 지속적으로 참고할 수 있는 '자기만의 강력한 지식 시스템(LLM 위키)'을 갖춘 사람이 될 것입니다.