트윗
테렌스 타오 "인공 일반 영리함이라 부를 만한 무언가는, 다양한 형태로 현실화되고 있다고 생각"
작성자
하이룽룽
작성일
2025-12-16 22:20
조회
6
https://mathstodon.xyz/@tao/115722360006034040
나는 현재의 #AI 도구들로는 진정한 의미의 ‘인공 일반 지능(AGI)’에 해당하는 무언가가 가까운 시일 내에 실현될 것이라고는 의심스럽다.
하지만 그보다 약한 개념이면서도 여전히 상당히 가치 있는 ‘인공 일반 영리함(artificial general cleverness)’이라 부를 만한 무언가는, 다양한 형태로 현실화되고 있다고 생각한다.
여기서 말하는 ‘일반적 영리함’이란, 다소 즉흥적(ad hoc)인 방식들을 통해 광범위한 종류의 복잡한 문제들을 해결할 수 있는 능력을 의미한다. 이러한 방식들은 확률적일 수도 있고, 무차별적인 계산(brute force computation)의 결과일 수도 있다. 또 개념적으로 정합성이 없거나 오류 가능성이 있을 수도 있으며, 해석이 불가능하거나 AI의 학습 데이터에 포함된 유사한 요령(trick)들로 거슬러 올라갈 수 있는 것일 수도 있다. 이런 이유로, 그것들은 어떤 진정한 의미의 ‘지능’의 산물이라고 부르기에는 부적합하다.
그럼에도 불구하고, 이러한 시스템들은 점점 더 넓은 범위의 과제들을 달성하는 데 있어 결코 무시할 수 없는 성공 확률을 보여준다. 특히 잘못되었거나 가능성이 낮은 접근을 걸러내기 위한 엄격한 검증 절차와 결합될 경우, 개인 인간이 감당할 수 있는 범위를 훨씬 넘어서는 규모에서 효과를 발휘한다.
이로 인해 다소 직관에 반하는 상황이 발생한다. 이 기술은 매우 유용하고 인상적이면서도, 동시에 근본적으로는 어딘가 만족스럽지 않고 실망스럽게 느껴질 수 있다. 이는 마치 놀라울 정도로 영리한 마술을 보고 경탄하다가, 그 마술의 원리를 알게 되면 감탄이 사라지거나(혹은 순수한 기술적 존중으로 변해버리는) 경험과 비슷하다.
하지만 이러한 불편함은 다음과 같은 인식으로 해소될 수도 있다. 인간에게 있어 영리함(cleverness)과 지능(intelligence)은 어느 정도 상관관계가 있지만, AI 도구들에서는 이 둘이 훨씬 더 분리되어 있다는 점이다. AI는 대체로 지능보다는 영리함을 목표로 최적화된다. 따라서 현재 세대의 AI를, 때로는 영리하고 종종 유용한 생각과 결과물을 확률적으로 생성하는 도구로 바라보는 것이, 어려운 문제를 해결하는 데 이들을 활용하려 할 때 더 생산적인 관점일 수 있다.
나는 현재의 #AI 도구들로는 진정한 의미의 ‘인공 일반 지능(AGI)’에 해당하는 무언가가 가까운 시일 내에 실현될 것이라고는 의심스럽다.
하지만 그보다 약한 개념이면서도 여전히 상당히 가치 있는 ‘인공 일반 영리함(artificial general cleverness)’이라 부를 만한 무언가는, 다양한 형태로 현실화되고 있다고 생각한다.
여기서 말하는 ‘일반적 영리함’이란, 다소 즉흥적(ad hoc)인 방식들을 통해 광범위한 종류의 복잡한 문제들을 해결할 수 있는 능력을 의미한다. 이러한 방식들은 확률적일 수도 있고, 무차별적인 계산(brute force computation)의 결과일 수도 있다. 또 개념적으로 정합성이 없거나 오류 가능성이 있을 수도 있으며, 해석이 불가능하거나 AI의 학습 데이터에 포함된 유사한 요령(trick)들로 거슬러 올라갈 수 있는 것일 수도 있다. 이런 이유로, 그것들은 어떤 진정한 의미의 ‘지능’의 산물이라고 부르기에는 부적합하다.
그럼에도 불구하고, 이러한 시스템들은 점점 더 넓은 범위의 과제들을 달성하는 데 있어 결코 무시할 수 없는 성공 확률을 보여준다. 특히 잘못되었거나 가능성이 낮은 접근을 걸러내기 위한 엄격한 검증 절차와 결합될 경우, 개인 인간이 감당할 수 있는 범위를 훨씬 넘어서는 규모에서 효과를 발휘한다.
이로 인해 다소 직관에 반하는 상황이 발생한다. 이 기술은 매우 유용하고 인상적이면서도, 동시에 근본적으로는 어딘가 만족스럽지 않고 실망스럽게 느껴질 수 있다. 이는 마치 놀라울 정도로 영리한 마술을 보고 경탄하다가, 그 마술의 원리를 알게 되면 감탄이 사라지거나(혹은 순수한 기술적 존중으로 변해버리는) 경험과 비슷하다.
하지만 이러한 불편함은 다음과 같은 인식으로 해소될 수도 있다. 인간에게 있어 영리함(cleverness)과 지능(intelligence)은 어느 정도 상관관계가 있지만, AI 도구들에서는 이 둘이 훨씬 더 분리되어 있다는 점이다. AI는 대체로 지능보다는 영리함을 목표로 최적화된다. 따라서 현재 세대의 AI를, 때로는 영리하고 종종 유용한 생각과 결과물을 확률적으로 생성하는 도구로 바라보는 것이, 어려운 문제를 해결하는 데 이들을 활용하려 할 때 더 생산적인 관점일 수 있다.
전체 0