오픈소스 AI는 더 이상 대안이 아니다
2 views
# 대안의 자리에서 프론티어로: 오픈소스 AI의 구조적 전환
## 공개된 설계도가 시장을 흔들 때
값비싼 제품의 설계도가 어느 날 무료로 풀리면 무슨 일이 벌어질까. 리눅스는 유료 운영체제의 아성을 무너뜨렸고, 웹 서버 시장은 아파치와 엔진엑스가 차지했다. 소프트웨어의 가치가 희소성이 아니라 생태계에서 나온다는 사실을 오픈소스 진영은 오래전에 보여줬다.
AI에서는 사정이 달랐다. 최첨단 모델을 만들려면 수천억 원의 학습 비용과 방대한 데이터, 최고 수준의 연구 인력이 필요했고, 이 장벽 앞에서 공개 모델은 늘 한두 세대 뒤처진 모방자였다. OpenAI나 Anthropic이 프론티어를 열면 공개 진영이 뒤따라가며 저렴한 대체재를 내놓는 구도. 쓸 만하지만 최고는 아닌 것, 오픈소스 AI에 오래 붙어 있던 꼬리표다.
DeepSeek-R1이 이 구도를 깼다. 중국의 한 연구 조직이 OpenAI의 추론 모델 o1에 필적하는 모델을 96% 낮은 토큰 비용으로 공개하자 실리콘밸리가 흔들렸다. 수천억 원이 당연시되던 학습 비용의 전제 자체가 무너졌기 때문이다. 일회성 이변도 아니었다. 오픈소스 AI가 대안의 자리를 벗어나 프론티어를 재정의하기 시작했다는 신호였다.

## 격차의 소멸과 비용의 붕괴
Stanford AI Index 2025에 따르면 독점 모델과 오픈웨이트 모델의 Chatbot Arena Elo 격차는 2024년 초 8%에서 2025년 초 1.7%로 좁혀졌다. 종합 지식 평가인 MMLU에서는 0.3%. 사실상 없는 셈이다. 오픈웨이트 모델은 소스코드 전체가 아니라 학습된 신경망의 가중치, 그러니까 모델의 두뇌를 내려받아 쓸 수 있게 공개한 모델을 말한다. 벤치마크만 보면 독점과 공개를 가르는 성능의 벽은 이미 무의미하다.
비용 쪽은 더 파괴적이다. DeepSeek-V3는 약 550만 달러의 학습 비용으로 GPT-4급 성능에 도달했다. 비디오 생성의 Open-Sora 2.0은 20만 달러로 30B급 독점 모델과 동등한 수준을 냈다. 프론티어 모델 하나에 수억 달러를 쏟던 상식에서 보면 두 자릿수 이상 낮다. 추론 비용도 GPT-4o 대비 95% 이상 싼 API 지형이 만들어졌다.

핵심은 가격 인하가 아니라 프론티어 진입 장벽 자체의 해체다. 최첨단 모델이 소수 기업의 자본력으로만 만들어진다는 전제가 무너지면, 기술의 발전 경로는 폐쇄된 연구소가 아니라 공개 생태계 위에 그려진다. MMLU, GSM8K, HumanEval 같은 기존 벤치마크는 포화됐고, GPQA-Diamond 같은 차세대 프론티어 벤치마크에서도 오픈 모델이 추론 성과를 내고 있다. 추격이 끝나고 병주가 시작된 것이다.
지금 지형은 네 개의 패밀리가 끌고 간다. 초장기 컨텍스트와 네이티브 멀티모달의 Meta Llama, 비용 효율과 강화학습 기반 추론 혁신의 DeepSeek, 하이브리드 추론과 에이전틱 코딩에 특화한 Alibaba Qwen, 소형화·전문화와 이원 라이선스 전략의 Mistral. 그 곁에서 Google Gemma, Microsoft Phi, IBM Granite, Allen AI OLMo, OpenAI의 gpt-oss까지 비중국 진영 모델들이 사양과 용도별로 갈라지며 생태계의 밀도를 높이고 있다.
## 기술 표준을 주도하는 아키텍처 혁신
오픈 진영은 이제 독점 모델의 설계를 베끼는 쪽이 아니라 프론티어의 기술 표준을 먼저 내놓는 쪽이다.
MoE(Mixture-of-Experts)의 표준화가 그렇다. 모델 전체를 매번 가동하는 대신 입력에 따라 필요한 전문가 신경망만 켜는 구조로, Dense 모델 대비 3배에서 5배의 연산 효율이 나온다. DeepSeek와 Llama 4가 이를 프론티어의 기본 설계로 굳혔다. 앞의 비용 붕괴는 우연이 아니라 이 구조적 효율에서 나온 결과다.
증류(Distillation)도 있다. 거대 모델의 능력을 소형 모델에 압축해 옮기는 기법인데, R1의 능력을 이식받은 Distill-Qwen 계열이 대표 사례다. 소형 모델의 능력이 전반적으로 올라갔고, SmolLM, Phi-4, Apple의 AFM 같은 온디바이스 소형 모델의 실용화로 이어졌다. Hugging Face 허브의 모델이 212만 개를 넘겼는데 누적 다운로드의 92% 이상이 1B 미만 경량 모델이다. 생태계의 무게중심은 거대함이 아니라, 거대함에서 증류된 작고 쓸모 있는 지능에 있다.
여기에 일반 응답과 깊은 추론 모드를 상황에 따라 오가는 하이브리드 추론이 더해지면서 쓰임새는 챗봇을 넘어간다. 비전과 언어를 처음부터 하나의 구조로 학습하는 네이티브 멀티모달 MoE로의 전환, Flux.1과 HunyuanVideo, Wan 2.1 등 Diffusion Transformer 백본의 비디오 생성 오픈화, SWE-Agent와 CrewAI로 대표되는 자율 에이전트 스택의 성숙이 동시에 진행 중이다. 오픈소스 AI는 모델 하나가 아니라 실세계 작업을 자동화하는 스택 전체로 커지고 있다.
## '오픈'이라는 말의 양극화
다만 '오픈'이라는 말 자체가 갈라지고 있다.
2024년 10월, 오픈소스의 정의를 관장해 온 OSI가 OSAID v1.0을 제정하면서 선이 그어졌다. 가중치만 공개하는 오픈웨이트와, 학습 데이터와 전체 제작 레시피까지 공개하는 오픈소스는 다르다는 선언이다. 이 기준으로 보면 지금 '오픈소스'로 불리는 주요 모델의 상당수는 오픈웨이트에 머문다. 완성된 요리는 나눠 주되 조리법은 감추는 셈이다. 재현과 검증, 완전한 개작의 자유라는 오픈소스 본연의 가치에서 보면 절반의 개방이다.

라이선스와 규제도 얹힌다. Llama의 커뮤니티 라이선스는 월간 활성 사용자 7억 명을 넘는 기업에 별도 조건을 건다. 2024년 8월 발효된 EU AI Act는 10²⁵ FLOPs를 시스템 리스크 기준선으로 잡아 대형 모델을 규제한다. 무료로 내려받을 수 있다는 것과 법적으로 자유롭게 쓸 수 있다는 것은 별개고, 이 간극이 기업의 라이선스 리스크 관리라는 새 실무 영역을 만들었다.
한국 시장의 움직임도 이 지형에 층을 하나 더한다. HyperCLOVA X, EXAONE 4.0, Kanana-2, A.X 3.1 등 국산 모델이 성과를 내고, KMMLU와 LogicKor 같은 한국어 특화 평가 인프라가 자리 잡았다. 언어와 문화의 맥락을 외부 모델에 통째로 맡기지 않겠다는 주권 AI 전략이다. 글로벌 오픈 생태계에 올라타되 평가와 검증의 기준은 스스로 세운다는 것.
## 남은 것은 성능이 아니라 거버넌스다
오픈소스 AI는 성능 격차를 사실상 지웠고, 비용의 기존 질서를 무너뜨렸고, MoE와 증류라는 아키텍처 표준을 주도하는 단계까지 왔다. '대안'이라는 수식어는 더 이상 사실에 맞지 않는다.
기업의 과제도 달라진다. 독점 API에 전적으로 기대던 전략은 최적화된 오픈웨이트 모델의 온프레미스 운용과 파인튜닝을 병행하는 이원 전략으로 다시 짜야 한다. 다만 선택 기준은 이제 벤치마크 점수가 아니다. 이 모델은 OSAID 기준의 오픈소스인가 오픈웨이트인가. 라이선스의 사용 제약 조항이 우리 사업 규모와 부딪히지 않는가. EU AI Act의 규제 기준선에 걸리는가. 성능표 뒤에 있는 이 질문들을 미리 점검하는 거버넌스가 모델 선택 자체보다 중요한 역량이 됐다.
리눅스가 그랬듯 공개된 기술은 결국 인프라가 된다. 인프라가 된 기술 앞에서 승부처는 기술의 소유가 아니라 운용의 질서로 옮겨 간다. 모두에게 열린 지능 위에서 무엇을 어떤 원칙으로 쌓아 올릴 것인가. 오픈소스 AI의 현재가 던지는 질문이다.