OpenAI 연구원 인터뷰 요약 (Unsupervised Learning 팟캐스트)

주제: OpenAI의 새로운 에이전트 구축 도구 및 API 플랫폼의 미래

참석자:

• Jacob Effron (호스트, Redpoint 파트너)

• Nishu(?) (OpenAI API 제품 리드 추정)

• Steve(?) (OpenAI API 엔지니어링 리드 추정)

핵심 내용 요약:

1. 새로운 에이전트 구축 도구 발표:

   
   

   • OpenAI는 개발자와 기업이 유용하고 안정적인 AI 에이전트를 구축할 수 있도록 플랫폼을 발전시키고 있음.

   • 최근 한 달간 매우 빠른 속도로 많은 기능을 출시했음.

2. 에이전트의 미래 비전 (5-10년):

   
   

   • 현재: ChatGPT, DeepResearch, Operator 등 특정 인터페이스에서 사용 중.

   • 미래: 에이전트는 웹 전반의 더 많은 제품(브라우저, 업무 자동화 도구 등)에 깊숙이 내장될 것.

     
     

     • 단순 클릭, 양식 작성, 리서치 등 반복적인 작업을 자동화.

     • 핵심은 특정 서비스 방문이 아닌, 분산되고 어디에나 존재하는 (ubiquitous) 경험.

   • API 플랫폼 역할: 이러한 미래를 가능하게 하는 기반 모델과 API를 제공하여 개발자들이 혁신적인 활용 사례를 만들도록 지원하는 것이 목표.

3. API 플랫폼의 특징과 개발자 생태계:

   
   

   • API 플랫폼은 OpenAI가 예측하지 못한 다양한 수직적(vertical) 사용 사례를 개발자들이 만들 수 있게 함 (ChatGPT 같은 1차 제품과 차이점).

   • 개발자들은 각자의 도메인 지식을 활용하여 OpenAI보다 더 나은 솔루션을 구축 가능.

   • 가장 기대되는 개인적인 에이전트: API 설계 에이전트 (파라미터 이름 지정 등 개발 과정의 지루한 논쟁을 줄여줄 수 있음).

4. 에이전트 기술의 진화:

   
   

   • 2024년: 명확히 정의된 워크플로우 기반, 소수(10개 미만)의 도구 사용, 단일 턴 검색(결정->검색->종합).

   • 2025년 이후: 사고의 연쇄(Chain-of-Thought) 기반 추론으로 진화.

     
     

     • 모델 스스로 여러 도구를 호출하고, 정보를 얻고, 생각하고, 재고하며, 잘못된 경로를 수정하고, 여러 웹 페이지를 병렬로 탐색하는 등 복잡한 추론 수행.

     • 웹 페이지 정보 추출이 다른 에이전트 호출로 대체될 수 있음. 에이전트는 자신이 다른 AI와 상호작용하는지 모를 수도 있음.

     • 결정론적 워크플로우 구축에서 벗어나 모델의 추론 능력에 더 의존.

5. 에이전트 활용의 현재와 과제:

   
   

   • 현재: 코딩, 고객 지원, 리서치 등에서 워크플로우 기반 에이전트가 성공적으로 구축됨.

   • 도구 수 제한: 현재는 소수의 도구를 잘 조율하는 방식이 일반적이지만, 다음 단계는 수백 개의 도구를 모델이 스스로 선택하고 활용하게 하는 것.

   • 평가(Evaluation)의 중요성: 에이전트 성능을 측정하고 개선하는 '평가' 과정이 매우 중요하며, 현재는 어렵고 많은 반복 작업이 필요함. (Eval set 구축, Grader 활용 등)

   • Fine-tuning: 특정 도메인 지식을 모델에 주입하고 성능을 극대화하는 데 매우 강력함. 모델의 사고방식을 특정 영역에 맞게 훈련시키는 것과 유사.

   • 컴퓨터 사용(Computer Use) 모델: 레거시 앱 자동화뿐 아니라, Google 지도/Street View를 이용한 실제 정보 확인(예: 충전소 유무 확인) 등 예상 못한 창의적 활용 사례 등장. 비전(Vision)과 텍스트 이해 능력의 결합이 중요.

6. 개발자 및 기업을 위한 조언:

   
   

   • 지금 시작하라: 기업은 내부적으로 실제 문제를 해결하기 위해 AI 에이전트를 적극적으로 구축하고 탐색해야 함.

   • 오케스트레이션 역량: 다양한 도구, 데이터, 모델(혹은 여러 에이전트)을 효과적으로 조합하고 조율(Orchestration)하는 능력이 핵심 차별화 요소가 될 것.

   • 빠른 반복: 에이전트의 추적(trace)을 면밀히 분석하고, 프롬프트 엔지니어링을 개선하며, 평가를 통해 빠르게 반복 개발하는 것이 중요.

   • 인프라 활용: OpenAI의 도구(API, SDK)와 더불어, 특정 작업을 위한 서드파티 AI 인프라(예: Vector DB, LLMOps, 에이전트 테스트/배포 VM) 활용도 중요.

7. AI 분야 과대/과소평가:

   
   

   • 에이전트는 과대평가(Hype)와 과소평가(Underhyped)가 공존함. 가능성은 엄청나지만, 실제로 유용하게 만드는 것은 매우 어려움.

8. 향후 모델 발전:

   
   

   • 올해 모델 발전 속도는 작년보다 더 빠를 것으로 예상. 모델 자체가 데이터 개선 및 튜닝 방법을 가르쳐주는 피드백 루프가 형성되고 있음.

9. 주목하는 외부 AI 스타트업/분야:

   
   

   • AI 여행 에이전트: 기존 산업 구조가 복잡하여 혁신이 기대되는 분야.

   • Granola: 미팅 내용을 요약해주는 개인적으로 유용한 AI 도구.

결론: OpenAI는 에이전트 구축을 위한 강력한 기반(모델, API, SDK)을 제공하며, 개발자들은 이를 활용하여 도구/데이터 오케스트레이션, 평가, 파인튜닝 등을 통해 특정 도메인에서 가치를 창출하는 데 집중해야 합니다. 에이전트 기술은 빠르게 발전하고 있으며, 특히 추론 능력과 다중 도구 사용 능력이 향상되면서 더욱 복잡하고 유용한 작업 자동화가 가능해질 것으로 기대됩니다.