노력도 한걸음부터: 대한민국 Sovereign AI 클러스터, 어디까지 왔나?

― 2025년 기준 공공 AI 인프라 구축 현황과 핵심 기업 분석

Sovereign AI(국가 주권형 인공지능)는 이제 더 이상 미래의 개념이 아닙니다.
한국에서도 정부 주도 하에 AI 인프라를 물리적으로 직접 구축하려는 움직임이 가시화되고 있습니다.
이번 글에서는 국내 Sovereign AI 클러스터 구축 현황을 중심으로, 프로젝트별 진척도와 참여 기업, 투자 포인트까지 한 번에 정리합니다.

💡 Sovereign AI 클러스터란?

AI 모델을 학습·운영·배포할 수 있는 물리적 기반 시설.
GPU 서버, 스토리지, 폐쇄망 네트워크, 보안 시스템 등을 갖춘 국가 단위의 AI 연산 거점입니다.

국가가 AI를 직접 운용하려면 단순한 클라우드 임대가 아니라, 물리적 주권을 보장하는 독립형 클러스터가 필요합니다.

🔎 왜 ‘자체 클러스터’가 필요한가?

이유	설명
☑️ 보안성	정부·국방·수사·의료 등 민감 데이터는 폐쇄망 전용 클러스터에서만 처리 가능
☑️ 비용 절감	LLM 학습 시 외부 클라우드 사용 대비 연산 단가 절감 (장기적으로 수천억 원 규모 차이)
☑️ 기술 자립	GPU 도입 이후 운영·관제·SW 스택까지 국산화 가능
☑️ 산업 생태계 형성	국산 반도체, AI 솔루션, 스토리지, OS 기업들에게 직접적인 수요 창출

🇰🇷 국내 Sovereign AI 클러스터 현황 (2025년 기준)

기관/사업명	내용	진척도
과학기술정보통신부	2023년부터 'AI 데이터센터 국산화 사업' 추진	시범지구 2곳 지정 완료
NIA (한국지능정보사회진흥원)	공공 AI 플랫폼·인프라 지원 사업 주관	GPU 클러스터 6곳 확대 예정
KISTI (한국과학기술정보연구원)	슈퍼컴퓨터 누리온 기반 AI 클러스터 확장 중	GPU 노드 증설 중
국방부·한컴MDS	군용 AI 폐쇄망 클러스터 구축 시범 사업 진행	기초 설계 완료
NAVER x 퓨리오사AI	공공기관 대상 LLM 추론 전용 클러스터 협업	2025년 상반기 납품 예정

🏗 주요 기술 스택 및 인프라 구성 예시

연산 장비: NVIDIA H100 / AMD MI300 / 국산 AI 가속기 (퓨리오사AI, 리벨리온)
스토리지: 올플래시 고속 NAS / 고신뢰 백업 시스템
네트워크: 폐쇄망 전용 스위치 / 방화벽 / 망연계 시스템
SW 플랫폼: 텐서플로우 / 파이토치 / LLM 학습 관리 솔루션
보안: ISMS-P 인증 / AI 사용 이력 추적 시스템 / 개인정보 비식별화 모듈

💼 관련 기업별 참여 사례 및 수혜 포인트

기업명	역할	주목 포인트
한글과컴퓨터	공공기관용 AI 오피스·LLM 플랫폼	시범지구 통합 UI 공급사
한컴MDS	군 AI 클러스터 설계 및 망연계 시스템	국방망 최적화 경험 보유
NHN Cloud	공공 클라우드 인프라 → 폐쇄형 클러스터 확장 중	정부조달 납품 경험 다수
퓨리오사AI	추론 전용 AI 칩 기반 클러스터 납품 예정	클라우드보다 낮은 전력 소비가 강점
리벨리온	학습용 고성능 AI 반도체 ‘Ion’ 공급 후보	SKT·ETRI 등과 협력 중