지난주 우리는 Bloomberg가 Microsoft가 프로덕션 Copilot 트래픽을 자체 MAI 모델로 전환하고 있다는 보도를 확인한 사실을 다뤘습니다. 이번 주에는 더 깊은 그림이 드러납니다. Microsoft는 커스텀 실리콘, 프론티어 클라우드 모델, 오픈웨이트 엣지 모델, 온디바이스 에이전트, 그리고 이들을 하나로 묶는 오케스트레이션 레이어에 이르는 완전한 자체 AI 스택을 구축했습니다. Copilot의 첫 번째 물결을 정의했던 OpenAI 의존성은 반목이 아닌, 의도적인 아키텍처 교체를 통해 종말을 맞고 있습니다.

IT 리더에게 이번 주는 Microsoft 모델 포트폴리오의 전체 구성을 이해해야 하는 시점입니다. 지금 내려지는 아키텍처 결정 — 어떤 모델을 표준화할지, 추론을 어디에서 실행할지, 에이전트 ID를 어떻게 관리할지 — 은 향후 수년간 이 스택에 의해 형성될 것입니다.

1. MAI 패밀리: 7개 모델, 제로 증류

Build 2026에서 공개된 MAI(Microsoft AI) 패밀리는 Microsoft의 가장 중요한 사내 AI 투자를 대표합니다. 7개의 모델은 모두 Mustafa Suleyman의 AI Superintelligence Team이 내부 “Hill-Climbing Machine” 학습 파이프라인을 사용하여 처음부터 학습시켰습니다. OpenAI나 제3자로부터의 증류(distillation)는 없습니다. 합성 학습 데이터도 없습니다. 인간이 생성하고 상업적으로 라이선스된 콘텐츠만 사용하며, 오염 제거된 벤치마크로 검증되었습니다.

MAI-Thinking-1은 플래그십 추론 모델입니다 — 약 1T 총 파라미터 중 약 35B 활성 파라미터를 가진 희소 Mixture-of-Experts 아키텍처, 256K 컨텍스트 윈도우, 그리고 SWE-Bench Pro에서 Claude Opus 4.6과 일치하는 벤치마크 점수(~53%)를 자랑합니다. AIME 2025에서 97.0%, AIME 2026에서 94.5%를 기록했습니다. Microsoft는 GPT-5.5 대비 약 10배의 토큰 효율성을 주장합니다. 현재 Microsoft Foundry에서 비공개 프리뷰 중이며, GitHub Models에서 무료 티어 액세스, OpenRouter, Fireworks AI, Baseten에서도 사용 가능합니다 — Microsoft가 비Azure 추론 플랫폼에 자체 모델을 제공한 것은 이번이 처음입니다.

MAI-Code-1-Flash는 대부분의 기업이 가장 먼저 접하게 될 모델입니다. 희소 MoE를 통해 약 137B 총 파라미터 중 약 5B 활성 파라미터를 가지며, SWE-Bench Pro에서 51.2%를 기록 — 35.2%인 Claude Haiku 4.5보다 16포인트 앞서면서 최대 60% 적은 토큰을 사용합니다. 6월 26일부터 모든 티어의 GitHub Copilot에서 일반 공급(GA)되었으며, 2026년 8월까지 GPT-4 Turbo를 대체하여 기본 Copilot 모델이 될 예정입니다. 3개월간의 GPT-4 Turbo 폴백(fallback) 기간이 2026년 11월까지 이어지며, 이후 MAI-Code-1-Flash가 Microsoft의 Maia 200 가속기에서 실행되는 기본 모델이 됩니다.

이 패밀리는 추론과 코드를 넘어 확장됩니다. MAI-Image-2.5는 Arena AI 이미지 편집 리더보드에서 2위를 차지하며 PowerPoint와 OneDrive에 통합되었습니다. MAI-Transcribe-1.5는 43개 언어를 지원하며 FLEURS 벤치마크에서 4.86%의 단어 오류율을 기록 — 경쟁사 중 최저 수준이며, 경쟁 모델 대비 약 5배 빠른 속도로 Copilot, Teams, Dynamics 365 Contact Centre에 통합되고 있습니다. MAI-Voice-2는 15개 이상의 언어를 지원하며 5~60초의 참조 오디오로 제로샷 음성 복제가 가능하고, 전작 대비 72%의 블라인드 선호율을 기록했습니다.

IT 리더를 위한 시사점: MAI 패밀리는 연구 프로젝트가 아닙니다 — 프로덕션 인프라입니다. MAI-Code-1-Flash는 이미 GitHub Copilot에서 GA 상태입니다. MAI-Transcribe-1.5는 Teams와 Copilot에 통합 중입니다. MAI-Image-2.5는 PowerPoint에서 라이브로 운영 중입니다. Copilot 내부의 모델 라우팅 레이어는 비용과 지연 시간 측면에서 점점 더 자체 모델을 선호하고 있습니다. 조직은 초안 작성, 요약, 받아쓰기, 이미지 생성 등 대부분의 일반 Copilot 작업이 2026년 말까지 MAI 모델에서 실행될 것으로 예상해야 하며, GPT-5.6 및 Claude와 같은 프론티어 모델은 복잡한 추론 작업에 한정될 것입니다.

2. Phi-4: 급을 뛰어넘는 오픈웨이트 SLM

Phi-4 패밀리는 현재 3.8B에서 15B 파라미터에 이르는 10개 이상의 모델로 확장되었으며, 모두 MIT 라이선스입니다. 핵심 테마는 밀도(density)입니다 — 14B 모델이 수학 및 코딩 벤치마크에서 70B급 모델과 경쟁하고 있습니다.

Phi-4-reasoning-plus(14B)는 AIME 2025에서 82.5%를 기록하고 HumanEval+에서 0.929로 오픈소스 모델 중 1위를 차지하며, 크기가 5분의 1인 DeepSeek-R1-Distill-Llama-70B와 경쟁력을 보입니다. Phi-4-mini(3.8B)는 Raspberry Pi 5에서 73% MMLU를 기록 — 많은 8B급 모델을 능가합니다. Phi-4-mini-flash-reasoning은 SambaY 아키텍처(Mamba 상태 공간 모델, 슬라이딩 윈도우 어텐션, 게이트드 메모리 유닛의 하이브리드)를 사용하여 Phi-4-mini-reasoning 대비 최대 10배 높은 처리량과 2~3배의 지연 시간 감소를 달성합니다. 이는 단순히 더 작은 모델이 아닌, 바닐라 Transformer로부터의 진정한 아키텍처적 이탈입니다.

가장 중요한 최근 추가 사항은 Phi-4-reasoning-vision-15B(2026년 3월)로, 텍스트 생성을 심층 시각 이해 및 사고 사슬 추론과 결합합니다. GUI 그라운딩에서 ScreenSpot v2 88.2%, MathVista 75.2%, AI2D 과학 다이어그램 84.8%를 기록합니다. SigLIP-2 비전 인코더를 사용하며 복잡한 분석을 위한 추론 모드와 단순한 질의를 위한 직접 응답 모드의 이중 모드를 제공합니다. 이 모델은 새로운 멀티모달 사용 사례에서 Florence 비전 라인을 실질적으로 대체합니다.

IT 리더를 위한 시사점: Phi-4 모델은 엣지 배포 스토리입니다. 일반 노트북, 스마트폰, 심지어 WebLLM을 통한 브라우저에서도 실행됩니다. 온디바이스 AI 기능(오프라인 전사, 문서 분석, 로컬 코드 지원)을 구축하는 조직에게 Phi-4는 라이선스 비용 없이 프로덕션 등급 모델을 제공합니다. MIT 라이선스는 상업적 제한이 없음을 의미합니다. Phi-4-mini-flash-reasoning의 SambaY 아키텍처는 지연 시간이 중요한 IoT 및 임베디드 시나리오에서 특히 흥미롭습니다.

3. Aion 1.0: 무제한 온디바이스 인텔리전스

Aion 1.0은 Windows와 Edge용으로 설계된 Microsoft의 최신 온디바이스 모델 패밀리로, “무제한 인텔리전스(unmetered intelligence)“를 대표합니다 — 클라우드 의존성과 추론당 한계 비용이 제로인 로컬 AI 처리입니다.

Aion 1.0 Instruct는 일상적인 텍스트 작업(요약, 재작성, 의도 분류)을 위한 경량 SLM입니다. 전용 GPU 없이 CPU, GPU 또는 NPU에서 실행됩니다. 현재 Edge Canary/Dev에서 Prompt API 및 Writing Assistance API와 함께 사용 가능하며, 2026년 7월 Hugging Face에 오픈 웨이트 공개가 예상됩니다. 또한 Edge 150+에서 WebSpeech API를 통한 온디바이스 음성-텍스트 변환을 지원합니다.

Aion 1.0 Plan은 더 야심찬 모델입니다 — 14B 파라미터에 32K 컨텍스트 윈도우를 갖추고, 추론, 도구 호출, 파일 관리, 하위 에이전트 오케스트레이션을 포함한 온디바이스 에이전틱 워크플로를 위해 설계되었습니다. Build 2026에서 오픈소스화된 Windows Agent Framework의 일부로, 성능이 충분한 Windows 기기에 기본 탑재됩니다. 이는 챗봇이 아닙니다. 사용자 의도를 추론하고 로컬에서 하위 에이전트를 오케스트레이션할 수 있는 에이전트 런타임입니다.

하드웨어 경로는 간단합니다: NPU 경로의 경우 최소 40 TOPS NPU(Snapdragon X Elite, Intel Lunar Lake)를 갖춘 Copilot+ PC, GPU 경로의 경우 NVIDIA RTX 30+ 또는 AMD Radeon RX 9060+, 표준 Windows 11 CPU 폴백입니다. 이전 온디바이스 모델인 Phi Silica도 NPU 전용에서 GPU 지원으로 확장되었습니다.

IT 리더를 위한 시사점: Aion은 Microsoft의 디바이스-투-클라우드 모델 스택을 완성합니다: 온디바이스 경량 작업용 Aion, 중간급 엣지 추론용 Phi-4, 클라우드 프론티어 추론용 MAI입니다. 데이터 상주, 지연 시간 또는 클라우드 추론 비용에 민감한 조직에게 온디바이스 스택은 실제 워크로드에 실행 가능해지고 있습니다. Windows Agent Framework는 Windows 자체가 에이전트 플랫폼이 되고 있음을 의미합니다 — IT 팀은 어떤 에이전트 워크로드가 로컬에서 실행될 수 있고 어떤 워크로드가 클라우드 추론을 필요로 하는지 평가하고, 기기 관리 정책을 그에 따라 업데이트해야 합니다.

4. Copilot의 멀티모델 아키텍처: 오케스트레이터 패러다임

Microsoft 365 Copilot은 단일 모델이 아닙니다 — 오케스트레이션 레이어입니다. 작업 분류 레이어가 각 사용자 상호작용을 작업 유형, 복잡성, 품질 요구사항별로 분류한 후 적절한 모델로 라우팅합니다.

현재 라우팅 로직은 대량 일반 추론에는 MAI 모델로, 복잡한 작업에는 프론티어 모델(GPT-5.6, Anthropic Claude)로 워크로드를 분할합니다. MAI는 이메일 응답 초안 작성, 스레드 및 회의 요약, 스프레드시트 수식 생성, 구조화된 데이터 추출, 에이전틱 코딩을 처리합니다. 프론티어 모델은 긴 비정형 문서에 대한 새로운 분석, 복잡한 종속성이 있는 다단계 추론, 스타일 판단이 필요한 창의적 생성을 처리합니다.

주목할 점은, Microsoft의 자율 에이전트 제품인 Copilot Cowork가 MAI가 아닌 주로 Anthropic Claude(Opus 4.8 및 Sonnet 4.6)에서 실행된다는 것입니다. Microsoft 자체의 “Cowork 1” 파인튜닝 모델이 발표되었지만 아직 출시 시점에 에이전트를 구동하지는 않습니다. 이는 실용적인 선택입니다: Anthropic의 모델이 현재 에이전틱 작업에서 선두를 달리고 있으며, Microsoft는 모델 국수주의를 위해 제품 품질을 희생하지 않을 것입니다.

GPT-5.6은 7월 9일 M365 Copilot의 “선호 모델"로 발표되었지만, “선호"는 “독점"을 의미하지 않습니다. 아키텍처는 모델 기능이 검증됨에 따라 MAI의 라우팅 점유율을 점진적으로 확장하도록 설계되었습니다.

IT 리더를 위한 시사점: 멀티모델 아키텍처는 제약이 아니라 기능입니다. 이는 Copilot이 사용자 개입 없이 각 작업에 가장 적합한 모델을 자동으로 선택함을 의미합니다. 그러나 동시에 Microsoft가 라우팅을 조정함에 따라 모델 품질과 비용이 예고 없이 변할 수 있음을 의미하기도 합니다. 조직은 Copilot 원격 분석을 모니터링하여 어떤 모델이 어떤 작업을 처리하는지 이해하고, 라우팅이 MAI로 전환됨에 따라 품질이 일관되게 유지되는지 검증해야 합니다.

5. Maia 200: 실리콘 레이어

MAI 전략 전체를 뒷받침하는 것은 Microsoft의 커스텀 실리콘입니다. Maia 200은 140억 개의 트랜지스터와 7TB/s 대역폭의 216GB HBM3e 메모리를 탑재한 3nm AI 가속기로, 이전 세대 대비 달러당 30% 더 나은 성능을 제공합니다. 클러스터는 최대 6,144개의 가속기로 확장됩니다.

Maia 200은 추론에 특화되어 설계되었습니다 — 구체적으로는 Azure 데이터 센터에서 MAI 모델을 효율적으로 실행하기 위한 것입니다. GitHub Copilot에서의 MAI-Code-1-Flash 기본 롤아웃은 NVIDIA 하드웨어가 아닌 Maia 200에서 실행됩니다. 이는 Microsoft가 실리콘, 모델 아키텍처, 학습 파이프라인, 애플리케이션 레이어에 이르는 전체 추론 스택을 통제하는 것입니다.

IT 리더를 위한 시사점: 실리콘 레이어가 일상적인 운영에 직접적인 영향을 미칠 가능성은 낮지만, 이는 Microsoft의 모델 독립성의 경제적 기반입니다. 커스텀 실리콘은 Microsoft가 타사 모델을 위해 NVIDIA GPU 용량을 임대하는 것보다 자체 모델을 더 낮은 비용으로 실행할 수 있음을 의미합니다. 이러한 비용 이점은 점점 더 Copilot 가격 및 라우팅 결정에 반영될 것입니다.

6. Florence-2와 비전 인프라 레이어

Florence-2는 Phi-4-reasoning-vision-15B가 멀티모달 추론의 왕좌를 차지했음에도 불구하고, 순수 컴퓨터 비전 분야의 엔터프라이즈 표준으로 남아 있습니다. Florence-3은 로드맵에 없습니다. 대신 Florence-2(0.23B 베이스, 0.77B 라지)는 Azure AI Vision Image Analysis 4.0을 계속 구동하며, 단일 프롬프트 기반 인터페이스를 통해 12개 이상의 비전 작업에 걸쳐 164개 언어 OCR, 객체 탐지, 세그멘테이션, 조밀 캡셔닝을 지원합니다.

생태계는 성숙했습니다: 로컬 ONNX 실행을 위한 C#/.NET NuGet 패키지, 실시간 엣지 비디오 분석을 위한 NVIDIA DeepStream 통합, 특수 데이터셋에서 98%+ 정밀도를 달성하는 LoRA 파인튜닝이 가능합니다. Florence-2는 인프라입니다 — 작동하고, 배포되어 있으며, 이를 교체할 이유가 없습니다.

IT 리더를 위한 시사점: Azure에서 컴퓨터 비전 파이프라인을 구축 중이라면 Florence-2가 올바른 선택입니다. 텍스트와 비전 추론을 결합하는 새로운 멀티모달 사용 사례에는 Phi-4-reasoning-vision-15B가 더 나은 옵션입니다. 두 모델은 서로 다른 목적을 제공하며, 가까운 미래에도 Microsoft의 포트폴리오에서 공존할 것입니다.

전략적 다음 단계

  1. MAI-Code-1-Flash 기본 모델화에 대비하십시오 — 2026년 8월 전환까지 몇 주 남지 않았습니다. GitHub Copilot 사용 현황을 점검하고, 새 모델이 의무화되기 전에 개발자 경험을 벤치마킹하십시오
  2. 엣지 배포를 위해 Phi-4를 평가하십시오 — 온디바이스 AI(오프라인, 저지연, 데이터 주권)가 필요한 시나리오가 있다면, MIT 라이선스의 Phi-4 패밀리는 프로덕션 준비가 완료되었으며 무료로 배포할 수 있습니다
  3. Windows Agent Framework를 계획하십시오 — Aion 1.0 Plan은 성능이 충분한 Windows 기기에 탑재되어 로컬 에이전트 오케스트레이션을 가능하게 합니다. 온디바이스 AI 에이전트를 고려하여 기기 관리 정책을 업데이트하십시오
  4. Copilot 모델 라우팅을 모니터링하십시오 — Microsoft가 더 많은 트래픽을 MAI 모델로 전환함에 따라 Copilot 분석을 통해 품질 지표를 추적하여 작업 성능이 일관되게 유지되는지 확인하십시오
  5. Aion 오픈 웨이트를 주시하십시오 — 2026년 7월 Hugging Face에 공개될 예정인 Aion 1.0 Instruct 오픈 웨이트는 라이선스 비용 없이 커스텀 온디바이스 AI 시나리오를 가능하게 할 것입니다
  6. 모델 전략을 매핑하십시오 — 워크로드 중 어떤 것이 Aion(온디바이스), Phi-4(엣지), MAI(클라우드) 계층에 적합한지 파악하고, 단일 클라우드 엔드포인트가 아닌 다계층 모델 배포를 위한 아키텍처 구축을 시작하십시오

Microsoft의 자체 모델 스택이 이제 완성되었습니다: 최하위의 Maia 200 실리콘, 클라우드의 MAI 프론티어 모델, 엣지용 Phi-4 오픈웨이트 모델, Windows용 Aion 온디바이스 모델, 그리고 오케스트레이션 레이어로서의 Copilot입니다. IT 리더를 위한 질문은 더 이상 Microsoft가 OpenAI 없이 경쟁력 있는 AI를 구축할 수 있는지 여부가 아닙니다 — 그들은 해냈습니다. 문제는 각 작업에 가장 적합한 모델이 다른 기기, 다른 데이터 센터, 또는 완전히 다른 실리콘 아키텍처에서 실행될 수 있는 다계층, 다모델 세계에 조직이 얼마나 빠르게 적응할 수 있느냐는 것입니다.