DocsGPT 설치하기

DocsGPT 설치하기

최근 로컬 AI와 RAG(Retrieval-Augmented Generation)에 대한 관심이 높아지면서 사내 문서나 개인 문서를 AI에게 학습시켜 질문할 수 있는 솔루션들이 많이 등장하고 있습니다.

그중에서도 이번에 설치해본 것은 DocsGPT입니다.

https://github.com/arc53/docsgpt

GitHub - arc53/DocsGPT: Private AI platform for agents, assistants and enterprise search. Built-in Agent Builder, Deep research,

문서를 업로드하고 AI가 해당 문서를 기반으로 답변하는 오픈소스 RAG 플랫폼입니다.

이번 글에서는 DocsGPT가 무엇인지부터 Windows 11 환경에서 Ollama GPU와 함께 설치하면서 겪었던 시행착오와 해결 방법까지 정리해보겠습니다.

 

DocsGPT란?

DocsGPT는 오픈소스 기반의 AI 문서 검색 플랫폼입니다.

쉽게 말하면 "내 문서를 AI가 읽고 ChatGPT처럼 답변해주는 시스템" 입니다.

https://docs.docsgpt.cloud/

Home - DocsGPT Documentation

 

DocsGPT가 필요한 이유

일반적인 ChatGPT는 사용자가 업로드한 문서를 항상 기억하지 않습니다.

예를 들어

• 사내 업무 매뉴얼
• API 문서
• 개발 가이드
• PDF 계약서
• 기술 문서
• GitHub 소스코드

등을 매번 읽고 답변해야 합니다.

하지만 DocsGPT는 이러한 문서를 미리 저장해 두고 AI가 문서를 기반으로 답변합니다.

로그인 API는 어디에 있나요?
Redis 설정 방법 알려줘
이 PDF 계약서의 핵심 내용을 요약해줘
이 프로젝트의 Docker 실행 방법은?

위와 같은 질문을 할 수 있습니다.

 

DocsGPT 내부 동작 구조

DocsGPT는 RAG 구조를 사용하며 동작 순서는 다음과 같습니다.

문서 업로드
    ↓
문서 분할(Chunking)
    ↓
Embedding 생성
    ↓
Vector DB 저장
    ↓
사용자 질문
    ↓
관련 문서 검색
    ↓
LLM 답변 생성

즉 AI가 문서를 외워서 답하는 것이 아니라

검색 → 관련 문서 찾기 → 답변 생성

방식으로 동작합니다.

 

DocsGPT의 장점

1. 전한 로컬 구축 가능

문서를 외부로 보내지 않아도 됩니다.

• 회사 내부 서버
• 개인 PC
• NAS
• GPU 서버

등에서 운영 가능합니다.

2. 다양한 LLM 지원

DocsGPT는 여러 모델을 사용할 수 있습니다.

• OpenAI GPT
• Claude
• Gemini
• Ollama
• Llama
• Qwen
• Mistral

이번 구축에서는 Ollama를 사용했습니다.

3. PDF OCR 지원

스캔본 PDF도 처리 가능합니다.

PARSE_PDF_AS_IMAGE=true
DOCLING_OCR_ENABLED=true

설정 시 OCR 기반 문서 분석이 가능합니다.

4. GitHub 및 외부 연동

• GitHub Repository
• Google Drive
• URL 크롤링
• 파일 업로드

 

설치 환경

• Windows 11
• RTX 3090
• Docker Desktop

 

1차 문제 - PowerShell 버전 오류

설치 시작

PowerShell -ExecutionPolicy Bypass -File .\setup.ps1

설치 도중 오류 발생

RandomNumberGenerator::Fill
메서드가 없습니다.

원인 : Windows 기본 PowerShell 5.1에서는 지원하지 않는 메서드 사용.

해결 : PowerShell 7 설치

winget install --id Microsoft.PowerShell --source winget

실행

pwsh -ExecutionPolicy Bypass -File .\setup.ps1

 

2차 문제 - Advanced Settings 무한 반복

설치 과정 중

Advanced Settings

메뉴에서

s) Save and Continue

를 눌러도 계속 반복

원인 : setup.ps1 스크립트 버그 또는 Windows 환경 호환성 문제.

해결 : 고급 설정 진입하지 않음.

Would you like to configure advanced settings? (y/N)

에서 Enter 입력.

 

3차 문제 - .env 파일 오염

반복 메뉴 때문에

VECTOR_STORE=faiss
VECTOR_STORE=faiss
VECTOR_STORE=faiss

처럼 동일한 설정이 계속 추가됨.

해결 : 중복 제거.

최종 설정

API_KEY=xxxx
LLM_PROVIDER=openai
LLM_NAME=gpt-oss:20b
OPENAI_BASE_URL=http://ollama:11434/v1
VECTOR_STORE=faiss
PARSE_PDF_AS_IMAGE=true
DOCLING_OCR_ENABLED=true

 

4차 문제 - PostgreSQL 포트 충돌

Docker 실행 시

5432 failed: port is already allocated

원인 : 기존 PostgreSQL 사용 중.

해결 : docker-compose.yaml  파일에서 포트 변경 

5432:5432 > 55432:5432 으로 변경

 

5차 문제 - Frontend 포트 충돌

다음 오류 발생:

5173 bind failed

원인 : 5173 포트가 이미 사용 중.

해결 : docker-compose.yaml  파일에서 포트 변경 

5173:5173 > 15173:5173 으로 변경

 

최종 Docker 실행

docker compose --env-file .env -f deployment/docker-compose.yaml -f deployment/optional/docker-compose.optional.ollama-gpu.yaml `
up -d

최종 실행 컨테이너

docsgpt-oss-frontend-1
docsgpt-oss-worker-1
docsgpt-oss-backend-1
docsgpt-oss-postgres-1
docsgpt-oss-ollama-1
docsgpt-oss-redis-1

정상 실행 확인

docker ps

 

Ollama 모델 확인

docker exec -it docsgpt-oss-ollama-1 ollama list

모델 다운로드

docker exec -it docsgpt-oss-ollama-1 ollama pull gpt-oss:20b

 

 

접속 주소

포트를 변경했기 때문에 http://localhost:15173/ 으로 접속

테스트

마무리

DocsGPT는 단순한 챗봇이 아닙니다.

문서를 저장하고 검색하며, AI가 해당 문서를 기반으로 답변하는 강력한 오픈소스 RAG 플랫폼입니다.

특히 Ollama와 결합하면

• 완전 로컬 운영
• 개인정보 보호
• GPU 가속
• PDF OCR
• 사내 문서 검색
• GitHub 코드 분석

등이 가능해집니다.

설치 과정에서 PowerShell, Docker, 포트 충돌 등 여러 문제를 겪었지만 해결 후에는 상당히 만족스러운 로컬 AI 문서 검색 환경을 구축할 수 있었습니다.

로컬 AI와 RAG에 관심 있는 개발자라면 한 번쯤 구축해 볼 만한 프로젝트라고 생각합니다.