NETWORK SYSTEM DEPLOYMENT
🌐

로컬 SLM 서버 구축 및 일반 사원 초고속 연결 가이드

"전산실 서버 구축 후 1초 만에 전사 사원 서비스 개시!"

본 프레젠테이션은 바이어사의 IT 책임자 및 비개발직 실무진에게 전산실 내 로컬 서버 구동 후, 사내 네트워크망(인트라넷)을 통해 전 직원들이 즉시 AI를 활용하는 연동 절차를 직관적으로 브리핑합니다.

PAGE 1 / 6
STEP 1: HOST BINDING

1단계: 외부 접속 활성화 (Host Binding)

127.0.0.1 ➔ 0.0.0.0 전환

  • 로컬 보안망 봉인 해제: 포터블 패키지 설정 파일인 config.py 파일만 간단히 열어 줍니다.
  • 외부인 접속 문 개방: 기본값인 host = "127.0.0.1"(서버 내부에서만 접속)을 **`host = "0.0.0.0"`**으로 단 1초 만에 변경합니다.
  • 완벽한 보안 격리: 사내망(인트라넷) 밖의 외부 공용 인터넷망 접속은 전산실 하드웨어 방화벽으로 차단되므로 철통같은 격리는 유지됩니다.
config.py
# --- [BEFORE] 오직 서버 컴퓨터 내부에서만 접속 ---
host: str = "127.0.0.1" # Localhost only

# 🚀 [AFTER] 사내 네트워크(LAN망) 내 모든 컴퓨터 접속 허용
host: str = "0.0.0.0" # Bind to all network adapters
PAGE 2 / 6
STEP 2: RUN SERVER

2단계: 사내 방화벽 예외 등록 & 런처 가동

4대 관제탑 포트 개방: 8000(SLM Bridge), 7860(Builder), 7861(RAG), 7862(Healer)

  • 윈도우 방화벽 인바운드 허용: 전산실 서버의 방화벽 설정에서 7860번(Gradio 화면) 및 8000번(API 서버) 포트의 인바운드 연결 허용 규칙을 등록합니다.
  • 서버 기동배치 실행 (따닥!): 폴더 루트에 위치한 **`SLM_Launcher.bat`** 배치 파일을 더블클릭하여 임베디드 파이썬 런타임과 로컬 Ollama SLM 브릿지 서버를 원클릭 가동합니다.
  • 서버 상시 대기: 서버 콘솔에 기동이 완료되면, 전산실 서버는 사원들의 접속 요청을 24시간 무중단 대기 상태로 유지하게 됩니다.
Windows Defender Firewall
⬇️ 4대 관제탑 포트 오픈 (8000, 7860, 7861, 7862)
Double-Click: KODARI_RAG_OS_Launcher.bat
⬇️ 1초 만에 기동 완료
[KODARI 4-Tower Grid Running at 8000 / 7860 / 7861 / 7862]
PAGE 3 / 6
ACCESS A: WEB INTRANET

방법 A: 별도 설치 없는 웹 브라우저 직통 접속

무설치 에어갭 포터블 브라우저 라이브 채팅

  • 사원 체감 난이도 0%: 일반 임직원 PC에는 파이썬이나 Ollama 등 소프트웨어를 단 1Byte도 새로 설치할 필요가 없습니다.
  • 브라우저 주소창 입력 끝: 사원들은 개인 자리에 앉아 크롬(Chrome)이나 엣지(Edge) 웹 브라우저 주소창에 **`http://[서버IP]:7861`**만 입력하면 끝입니다! (예: http://192.168.0.50:7861)
  • 크로스 플랫폼 지원: 윈도우 PC뿐만 아니라 사내에서 쓰는 맥북, 리눅스, 모바일 태블릿, 스마트폰 브라우저에서도 사내 무선 Wi-Fi를 타고 완벽히 대화 및 파싱 기능을 이용할 수 있습니다.

❌ 과거의 설치 방식

- 사원 컴퓨터 50대에 일일이 수작업 설치
- 파이썬, 쿠다 버전 충돌로 수시로 에러 발생
- 라이브러리 용량만 대당 20GB 이상 낭비

✅ 혁신적인 1초 접속

- 전산실 서버 1대만 켜두면 끝!
- 사원들은 웹 브라우저 주소창 접속으로 끝!
- 디바이스 용량 낭비 0% / 충돌 에러 0%

PAGE 4 / 6
ACCESS B: MESSENGER API

방법 B: 쓰던 사내 협업 툴(메신저/ERP) 연동

OpenAI 호환 8000포트 백엔드 API 활용

  • 사내 그룹웨어 통합 연동: 사내에서 기존에 전 직원들이 사용하고 있는 잔디(Jandi), 슬랙(Slack), 카카오워크(Kakao Work) 또는 인트라넷 게시판에 AI 챗봇으로 붙여 씁니다.
  • OpenAI 표준 API 규격: 저희 백엔드 서버(`api_server.py`)는 OpenAI 통신 규격을 100% 동일하게 흉내 냅니다.
  • IT 담당자 기쁨의 눈물: 사내 챗봇 연동 모듈에서 API 호출 주소를 외부 OpenAI 유료 서버 대신 **`http://[서버IP]:8000/v1`**로 링크만 돌려주면, 사원들이 매일 수십만 건을 질문해도 비용 결제 없이 완전 무상 무중단 서비스가 가동됩니다!
사내 메신저 (슬랙/잔디/자체앱)
⬇️ API Request (포트 8000번 호출)
로컬 전산실 API 브릿지 서버
⬇️ 즉시 비식별화 마스킹 후 로컬 추론
이중 PII 마스킹 + 로컬 SLM 답변
PAGE 5 / 6
EXECUTIVE SUMMARY

사내망 연결 구축이 가져올 놀라운 비즈니스 TCO

관리 소요 공수 0원, 보안 신뢰도 200% 달성

  • 인당 과금 스트레스 종결: 클라우드 API를 쓰면 매달 사원 머릿수대로 수만 원씩 지출되지만, 본 로컬 서버 연결망은 사원이 50명이든 1,000명이든 추가 요금이 영원히 0원입니다.
  • 그림자 AI 보안 보안망: 사원들이 기밀 문서를 올리거나 주민번호를 실수로 대화창에 넣어도 **'이중 PII 마스킹 쉴드'**가 알아서 작동하여 마스킹 처리 후 서버에 가두므로, CISO 및 전산팀이 가장 안심합니다.
  • 초간단 인프라 유지보수: 자율 지역 정화 알고리즘(`self_healer.py`)이 매일 모순된 문서 데이터베이스를 알아서 정제해 주기 때문에, IT 전담 유지보수 엔지니어를 채용할 필요가 없어 연간 억대의 인건비가 자동 세이브됩니다.

🛡️ 대표님 세일즈 클로징 팁

"전산실 서버 딱 한 대에 이 압축파일 하나 풀고 더블클릭하십시오. 내일부터 사원들은 자기 자리에서 주소창만 치고 들어와 대기업용 샌드박스 AI를 비용 결제 없이 매일 무제한으로 사용하게 될 것입니다!"

PAGE 6 / 6