---

상세 요약

이 영상은 2025년 1월 7일, 인도 벵갈루루(Bengaluru)에서 열린 Microsoft AI Tour 키노트 세션에서 Satya Nadella(CEO, Microsoft)가 발표한 내용이다. 주된 주제는 “새로운 AI 시대가 열렸으며, 이를 활용해 전 세계 사람들이 더 큰 생산성과 혁신을 이룰 수 있도록 하는 방법”이다. 구체적인 내용은 다음과 같다:

1. 마이크로소프트의 사명과 AI 시대의 전환
   • Satya Nadella는 “모든 사람과 조직이 더 많은 것을 성취할 수 있도록 돕는다”라는 마이크로소프트의 핵심 사명을 강조한다.
   • 이제까지의 AI는 ‘가능성’을 논하는 단계에 머물렀다면, 지금부터는 본격적으로 AI를 “실제로 활용하여 대규모로 결과를 만들어내는” 시대로 전환하고 있다고 한다.
2. AI 기술의 급진적인 진화와 ‘플랫폼 전환’
   • Nadella가 35년간 테크 산업을 지켜본 결과, ‘무어의 법칙(Moore’s Law)’에 따라 컴퓨팅 성능(특히 GPU, TPU 등)과 AI 모델(트랜스포머 기반 LLM 등)이 급격히 발전해 왔음을 강조한다.
   • 이전에는 기본적인 전처리·훈련 위주였다면 이제 ‘추론(Inference Time)’에서도 연산을 많이 활용하며, AI가 점점 ‘추가적인 사고(Think Harder)’와 멀티스텝 추론을 수행하게 되었다고 설명한다.
3. Copilot(코파일럿)의 개념과 “A.I.를 위한 UI”
   • 마이크로소프트가 핵심 전략으로 내세우는 “Copilot”은 AI 시대의 새 ‘사용자 인터페이스(UI)’ 역할을 한다고 정의한다.
   • Copilot은 단순히 챗봇이 아니라, 사용자의 맥락에 맞춰 문서를 작성하거나, 업무를 요약하고, 여러 애플리케이션(Word, Teams, Outlook 등)에서 데이터를 연동하고, 복잡한 작업을 계획·실행하는 “에이전트”로 확장된다.
4. Copilot이 가져올 업무 방식의 변화
   • 업무 흐름에서 AI가 자연스럽게 배치되어, 예컨대 의사(의료진)가 회의 노트나 보고서를 일일이 작성하지 않고 AI가 대신 요약·정리·번역해 주며 협업을 촉진한다.
   • Teams나 SharePoint, Outlook 등에서 사람이 반복적으로 하는 작업을 Copilot이 자동화하고, 필요 시 다단계 추론을 통해 복잡한 업무를 처리한다.
5. ‘페이지(Pages)’와 ‘챗(Chat)’가 결합된 새 협업 구심점
   • Copilot이 있는 “Pages + Chat”을 통해, 웹 검색 정보, 내부 문서, 보고서 등의 데이터를 한번에 가져와서 AI가 함께 생각·편집해 준다.
   • 협업 시에 다른 사람(팀원)도 그 페이지에 접속해 AI와 함께 공동으로 작업·보완하는 형태의 새로운 업무 모델이 정착될 것으로 전망한다.
6. ‘Agent(에이전트)’라는 개념의 확장
   • Copilot Actions: 과거 Outlook ‘Rules’가 메일함 내에서만 작동했다면, 이제는 365 전반(SharePoint, Teams 등)에 걸쳐 AI가 규칙과 액션을 실행하여 정보를 모으고, 사람과 자료를 연결하고, 알림을 보낸다.
   • Microsoft 365의 여러 앱(SharePoint, Teams, HR·IT 프로세스 등) 안에 AI 에이전트를 심어서, 협업·통역·작업 관리 등 다양한 시나리오를 자동화·고도화한다.
   • ‘Copilot Studio’를 통해 일반 사용자도 ‘노코드/로코드’ 방식으로 자신만의 AI 에이전트를 제작할 수 있게 된다.
7. AI 도입 효과의 측정과 ‘Copilot Analytics’
   • AI를 도입하는 기업들이 실제 ROI(투자 대비 효과)를 확인할 수 있도록, “Copilot Analytics” 기능을 개발 중이다.
   • 영업이든, 마케팅이든, 인사(HR)든, Copilot 사용량을 비즈니스 성과 지표(매출, 고객 만족도 등)와 연결해 가시화함으로써, 조직 전체가 신속하게 AI를 채택하도록 유도한다.
8. 확장되는 AI 인프라 ‘Azure AI Stack’
   • 새로운 AI 시대에는 국가, 기업 모두 “토큰 대비 비용, 전력 효율”이 핵심이 되며, 클라우드 인프라 구축이 매우 중요하다고 강조한다.
   • 마이크로소프트는 인도 데이터센터(중앙, 서부, 남부 지역 등)를 확장하며, 3억 달러가 아닌 30억 달러(영상 자막 상 “3 billion additional dollars”) 규모의 대규모 투자로 Azure 컴퓨팅 인프라를 강화하고 있다.
   • 온프레미스나 클라우드, 엣지 모두에서 GPU, MPU(Neural Processing Unit), CPU 등을 활용해 대규모 AI 모델 훈련 및 추론을 실시간으로 해낼 수 있도록 준비 중이다.
9. Azure Foundry(AI Application Server)와 모델 활용
   • 각종 대규모 언어 모델(오픈AI의 GPT-4, Meta의 Llama 등), 그리고 오픈소스 및 산업별 특화 모델들을 “모델 카탈로그” 형태로 제공한다.
   • ‘Foundry’라는 AI 애플리케이션 서버로 모델을 호출·파인튜닝·추가 학습하며, “라그(RAG: Retrieval Augmented Generation)” 같은 방식을 통해 기업 고유의 데이터(사내 문서, 지식 베이스 등)와 결합할 수 있게 한다.
   • 기업들은 최신 모델이 나오면 빠르게 테스트하고, 필요 시 비용·성능을 최적화하여 실제 프로덕션에 반영하는 식으로 끊임없이 반복·개선하게 될 것이라 설명한다.
10. 개발자 도구(GitHub Copilot, Copilot Workspaces)와 성장하는 개발자 생태계

• GitHub Copilot으로 시작된 AI 코딩 지원 기능은 이제 “Copilot Workspaces”라는 차세대 환경으로 진화한다.
• 자연어로 요구사항(이슈)을 입력하면 AI가 필요한 단계와 파일들을 분석·수정·생성해 주며, 여러 파일에 동시에 작업을 적용한다.
• 테스트 실행 후 에러가 발생하면 AI가 자동으로 디버깅 로직을 제안하고 수정하며, 더불어 다국어(힌디어·칸나다어 등) 지시도 이해하고 처리한다.
• 인도 개발자들은 GitHub의 두 번째로 큰 사용자 집단이며, 오픈소스 AI 프로젝트 기여도가 세계에서 두 번째로 높다는 점을 언급하며, 인도 시장에서 이 기술의 폭발적 성장을 기대한다.

1. 디바이스에서의 Copilot: ‘하이브리드 AI’로 확장

• 퀄컴, AMD, 인텔 등과 협력해 PC나 모바일 디바이스에도 MPUs, GPU 등을 탑재해 AI 연산을 로컬에서 수행할 수 있는 환경을 구축한다.
• 따라서 완전히 클라우드에만 의존하지 않고, “로컬 모델 연산 + 클라우드 모델 연산”이 함께 작동하는 “하이브리드 AI”가 자리잡을 것으로 전망한다.
• 이는 PC, 스마트폰, HoloLens 등 다양한 엣지 디바이스에서도 AI 기능(예: Copilot 어시스턴트)이 매끄럽게 동작하게 만드는 핵심이다.

1. 보안·프라이버시·AI 안전성(Trust) 확보

• AI 시대에는 ‘프롬프트 인젝션(prompt injection)’ 같은 새로운 위협이 부상하며, 이를 막기 위해 시스템 레벨에서 보안 기능을 강화한다.
• 사기업·정부·개인정보를 AI 모델에 연결할 때, 데이터 보호와 암호화(Confidential Computing)를 위해 GPU 환경에서도 보안 기술이 필수라고 강조한다.
• ‘환각(hallucination)’ 문제를 완화하기 위해, 정보 출처가 정확하게 연결되도록 하는 ‘RAG 기반 그라운딩’과 AI 평가(Eval) 도구에 많은 투자를 하고 있다.

1. 결론: AI로 인한 ‘비즈니스 트랜스포메이션’과 교육·훈련

• 궁극적으로 AI는 모든 산업의 마케팅, 영업, 고객 서비스, 내부 프로세스 등에 직접적인 혁신 효과를 줄 것이며, 기업들은 이 변화를 성공적으로 수행하기 위한 데이터·모델·UI(코파일럿) 설계에 주목해야 한다고 조언한다.
• Nadella는 인도에서만 2030년까지 1,000만 명의 인재를 대상으로 AI 스킬을 교육·훈련하겠다고 발표했다.
• 마지막으로, 다양한 사례(농업, 은행, 의료, 스타트업 등)를 통해 AI가 실제로 경제·사회의 여러 영역에서 긍정적 변화를 이끌고 있음을 강조하며, 이를 지속적으로 확장·지원하겠다고 약속하며 키노트를 마무리했다.

---

이상이 “Microsoft AI Tour 키노트 세션 (2025년 1월 7일, 벵갈루루)”에서 Satya Nadella가 발표한 주요 AI 전략 및 기술 방향성에 대한 상세 요약입니다. 결론적으로 마이크로소프트는 Copilot을 중심으로 한 UI, Azure Foundry와 데이터 파이프라인을 통한 AI 애플리케이션 서버, 그리고 하이브리드 AI로 이어지는 전반적 에코시스템을 구축하여 차세대 AI 시대를 주도하고자 합니다. 또한, 규모 있는 교육·훈련 투자를 통해 개발자, 기업, 산업 전반에서 AI를 적극 활용할 수 있도록 지원하겠다는 의지를 밝히고 있습니다.

 

스케일링(Scaling) 관련 핵심 내용

Satya Nadella가 키노트에서 강조한 “스케일링” 언급은 주로 대규모 모델(LLM)을 효율적으로 학습·추론하기 위한 하드웨어·소프트웨어 통합 최적화에 초점이 맞춰져 있습니다. 구체적으로는 다음과 같은 부분이 있습니다:

1. 무어의 법칙(Moore’s Law)과 스케일링 로우(Scaling Laws)
   • Nadella는 “35년간 IT 분야에서 큰 변혁을 이끈 근본적 힘은 무어의 법칙이었다”고 언급하며,
     - 대규모 AI 모델(특히 트랜스포머 기반 LLM)의 등장과 발전도 결국 무어의 법칙이 추진하는 연산 능력 및 데이터 양 증가에 힘입어 가능해졌다고 설명합니다.
   • 2010년대부터 GPU, TPU 등 가속기 발전이 가파르게 이루어지고, 트랜스포머가 등장하면서 데이터 병렬화와 모델 파라미터 수가 폭발적으로 늘어났다는 점을 강조했습니다.
   • “스케일링 로우(scaling laws) 자체는 앞으로도 유효”하지만, 모델 크기와 데이터셋이 방대해지고, 동기화 병렬 학습(디스트리뷰티드 학습) 등의 시스템 문제가 더 복잡해짐에 따라 “유지·운용이 점점 더 어려워질 것”이라고 지적합니다.
2. 추론(Inference) 단계에서의 스케일링
   • 과거에는 ‘프리트레이닝(사전학습)’ 단계가 GPU 등 대규모 연산 리소스를 집중 소모하는 핵심이었다면,
   • 이제는 **추론 시점(Inference Time)**에도 ‘추가적인 사고(Think Harder)’가 가능해짐에 따라, 추론 과정에서도 막대한 연산이 필요해지는 추세라고 말합니다.
   • Nadella는 이 부분을 “테스트 타임 컴퓨트 스케일링 로우(test-time compute scaling law)”라고 지칭하며, 대규모 언어 모델이 실시간 추론 중에도 여러 단계를 거쳐 reasoning(추론)을 계속 심화함으로써 더 정교한 결과를 내놓게 될 것이라고 언급합니다.
3. 시스템(클라우드/엣지) 전반에서의 스케일링 혁신
   • 이러한 스케일링 이슈를 해결하기 위해 데이터센터 차원에서부터 “액체 냉각(liquid cooling)”이나 에너지 효율성을 최대한 끌어올리는 설계를 도입하며,
   • NVIDIA, AMD, Intel 등과의 협업을 통해 차세대 AI 가속기(예: GPU, MPU)의 성능을 증폭하고, 클라우드·엣지 양쪽에서 하이브리드 방식으로 모델을 구동할 수 있도록 하는 “시스템 레벨”의 혁신을 추진하고 있다고 설명합니다.
4. 스케일링 결과: AI 모델의 ‘멀티스텝 추론’ 및 에이전트 확장
   • 컴퓨팅 성능의 폭발적 성장과 모델 아키텍처의 효율 개선이 맞물려,
   • 계획(Planning) & 추론(Reasoning) 능력이 한층 강화된 AI 모델(Copilot, 다중 에이전트 등)이 등장하게 되고, 이들이 업무 프로세스 전반을 자동화·협업화할 것이라는 비전을 제시합니다.

---

정리하자면, Satya Nadella는 “스케일링 로우는 앞으로도 지속될 것이며, 더 큰 모델·데이터로 인해 훨씬 복잡해지겠지만, 그만큼 혁신의 여지는 크다”라고 강조합니다. 이를 위해 마이크로소프트는 클라우드 인프라(데이터센터), 차세대 GPU/MPU, 소프트웨어 스택(Azure Foundry 등)을 유기적으로 발전시키고, 추론 과정에서조차 “더 깊은 연산(Think Harder)”을 수행할 수 있는 기술을 적극적으로 개발하고 있다고 언급했습니다.