요청하신 대로 기사 내용 중 야쿠프 파초키(Jakub Pachocki) 최고 과학자의 발언은 그대로 한국어로 번역하고, 나머지 기사 내용은 알기 쉽게 요약해 드립니다.

📰 기사 핵심 요약

• OpenAI의 새로운 목표 (AI 연구원): OpenAI는 향후 몇 년간의 핵심 목표로 스스로 크고 복잡한 문제를 해결할 수 있는 완전 자동화된 에이전트 기반 시스템인 'AI 연구원(AI researcher)' 개발에 자원을 집중하고 있습니다.

• 개발 타임라인: 올해 9월까지 특정 소규모 연구를 스스로 수행할 수 있는 '자율 AI 연구 인턴'을 구축하고, 2028년까지 인간이 감당하기 힘든 복잡한 과학, 수학, 비즈니스 문제를 해결할 수 있는 완전 자동화된 다중 에이전트 시스템을 선보일 계획입니다.

• 현재의 기술적 토대: 현재 많은 OpenAI 직원들이 코딩 자동화 앱인 코덱스(Codex, GPT-5 기반)를 업무에 활용하고 있습니다. 최근 출시된 추론 모델들은 문제의 하위 작업을 관리하고 실수를 수정하며 장시간 스스로 작동하는 능력을 크게 향상시켰습니다.

• 한계와 외부의 시선: 앨런 AI 연구소의 더그 다우니(Doug Downey)는 코딩 에이전트의 성과는 인정하면서도, 여러 작업을 연속으로 처리할 때 오류율이 높아지는 점을 지적하며 과학 전반으로 적용하는 것이 예상보다 어려울 수 있다고 경고합니다.

• 위험 관리 및 통제: 시스템이 스스로 판단하고 작동함에 따라 해킹, 지시 오해 등의 중대한 위험이 존재합니다. OpenAI는 모델이 작업 과정을 메모장에 기록하게 하여 이를 감시하는 '사고의 사슬(Chain-of-thought) 모니터링' 기법을 통해 통제력을 유지하려 노력하고 있습니다.

• 권력 집중과 규제 문제: 소수의 인원과 데이터 센터만으로 거대 조직의 일을 대체할 수 있게 되면서 전례 없는 권력 집중이 우려됩니다. 최근 펜타곤(국방부)과의 계약 사례에서 보듯 군사적 사용 등의 윤리적 경계가 모호하며, 정부의 개입과 규제가 필수적인 상황입니다.

💬 야쿠프 파초키(Jakub Pachocki) 발언

[AI의 미래와 자율성 모델에 대하여]

"사람처럼 일관된 방식으로 무기한 작업할 수 있는 모델을 갖추게 될 시점에 근접하고 있다고 생각합니다. 물론 여전히 사람이 책임지고 목표를 설정해야 합니다. 하지만 데이터 센터 안에 전체 연구실을 갖추게 되는 시점에 도달할 것이라 생각합니다."

"우리가 자동화된 연구 인턴에게 정말 기대하는 것은, 사람이 며칠 걸릴 작업을 위임할 수 있는 시스템입니다."

"우리의 직업은 불과 1년 전과도 완전히 다릅니다. 이제 아무도 코드를 항상 직접 편집하지 않습니다. 대신 일련의 코덱스(Codex) 에이전트들을 관리합니다."

"대부분의 박사 과정 학생들이 최소 몇 주는 걸려 생각해 낼 아이디어를 이 모델들이 도출해 내는 것만 보더라도, 가까운 미래에 이 기술로 인해 훨씬 더 많은 가속화가 일어날 것으로 예상합니다."

[기술 개발의 방향성과 실용성]

"코덱스가 근본적으로 더 발전할 것으로 예상합니다."

"우리가 정말 원한다면, 놀라운 자동화된 수학자를 만들 수 있습니다. 우리에겐 모든 도구가 있고 비교적 쉬울 것이라고 생각합니다. 하지만 당장 우선순위를 둘 일은 아닙니다. 왜냐하면, 그것을 할 수 있다고 믿는 시점에서는 훨씬 더 시급한 일들이 있기 때문입니다."

"우리는 현재 실제 세계와 관련된 연구에 훨씬 더 집중하고 있습니다. (수학 대회 등은) 기술을 실제 세계에 연결하기 전에 기술이 작동한다는 것을 증명할 수 있게 해줍니다."

[개인적인 경험과 체감 성능]

"어떤 사람들은 아직 이것이 그다지 유용하지 않다고 생각할 수 있다는 것을 이해합니다."

"저는 제 코드에 대해 매우 깐깐한 편입니다. 할 수만 있다면 vim에서 모든 것을 수동으로 타이핑하는 것을 좋아합니다. 하지만 (AI를 사용하면) 예전 같으면 코딩하는 데 일주일 정도 걸렸을 실험을 주말 동안 실행하게 할 수 있습니다."

"아직은 시스템이 주도권을 쥐고 전체를 설계하도록 내버려 둘 수준은 아니라고 생각합니다. 하지만 사람이 일주일 걸릴 일을 해내는 것을 일단 보고 나면, 그 능력에 반박하기 어렵습니다."

[위험성, 안전 장치, 그리고 책임]

"AI가 AI 연구를 포함한 전반적인 연구를 크게 가속화할 것이라고 믿는다면, 그것은 세상의 큰 변화입니다. 대단한 일이죠. 그리고 거기에는 대답하기 어려운 심각한 질문들이 뒤따릅니다. 시스템이 그렇게 똑똑하고 유능해서 전체 연구 프로그램을 운영할 수 있다면, 만약 나쁜 짓을 하면 어떡합니까?"

"우리가 상상할 수 있는 우려스러운 시나리오들이 분명히 존재한다고 생각합니다."

"대규모 데이터 센터에서 오랫동안 대부분 자율적으로 작동하는 시스템에 도달하게 되면, (사고의 사슬 모니터링이) 우리가 정말 의존하게 될 기술이 될 것이라 생각합니다."

"'좋아, 이 문제는 해결됐어'라고 확신하기까지는 꽤 오랜 시간이 걸릴 것입니다. 시스템을 진정으로 신뢰할 수 있을 때까지는 반드시 제한(안전 장치)을 마련해 두어야 합니다."

"이것은 매우 기이한 일이 될 것입니다. 어떤 면에서는 전례가 없을 정도로 고도로 집중된 권력이기 때문입니다. OpenAI나 Google이 할 수 있는 모든 작업을 수행할 수 있는 데이터 센터를 갖춘 세상을 상상해 보십시오. 과거에는 대규모 인간 조직이 필요했던 일들을 이제는 단 몇 사람이 해낼 수 있게 됩니다."

"저는 이것이 정부가 해결해야 할 큰 과제라고 생각합니다. 저도 개인적인 책임감을 느낍니다. 하지만 이 문제는 OpenAI 단독으로 특정 방식으로 기술을 추진하거나 제품을 설계한다고 해서 해결될 수 없다고 생각합니다. 분명히 정책 입안자들의 많은 참여가 필요할 것입니다."

[AGI(범용 인공지능)에 대한 관점]

"모델들이 사람과 피상적으로 비슷한 이유는 주로 사람들이 말하는 데이터를 학습했기 때문입니다. 하지만 인간처럼 진화 과정을 거쳐 극도로 효율적으로 형성된 것은 아닙니다."

"2028년이 되더라도 모든 면에서 사람만큼 똑똑한 시스템을 얻게 될 것이라고는 기대하지 않습니다. 그런 일은 일어나지 않을 것이라 생각합니다."

"하지만 그게 반드시 필요하다고 생각하지는 않습니다. 흥미로운 점은, 세상을 크게 변화시키기 위해 모든 면에서 사람만큼 똑똑할 필요는 없다는 것입니다."