인공 의식 : 자유 에너지 원리의 관점 | 철학 연구 (springer.com)

LLM과 브레인은 생각보다 비슷한가요? | 오늘날의 심리학 (psychologytoday.com)

뇌와 컴퓨터 학습계획(LLM)은 모두 끊임없이 예측하고 적응하며, 이는 잠재적으로 AI의 의식을 새롭게 할 수 있음을 암시합니다.

새로운 논문은 의식 있는 시스템이 충족해야 하는 4가지 조건을 제안하는데, 현재 AI에는 이러한 조건이 없다.

의식 있는 AI의 윤리적 함의는 시급한 우려를 불러일으킵니다.

스마트폰이 질문에 답할 뿐만 아니라 진정으로 당신을 이해하고, 어쩌면 자신의 자아를 개발할 수도 있는 세상을 상상해 보십시오. 공상 과학 소설처럼 들리나요? 어쩌면 그리 오래가지 못할 수도 있습니다. 2024년 6월 Philosophical Studies에 발표된 Wanja Wiese의 흥미로운 논문은 인공 지능과 생명체 사이의 격차를 해소하여 잠재적으로 의식이 있는 기계를 만드는 데 더 가까이 다가갈 수 있는 흥미로운 아이디어를 탐구합니다. 그리고 반대로, 그것은 부주의하게 인공 의식을 만드는 위험을 완화하는 데 유용할 수 있는 관점을 제공합니다.

뇌(및 AI)의 비밀 생활
믿거나 말거나, 당신의 뇌와 최신 대규모 언어 모델에는 놀라운 공통점이 있습니다. 둘 다 주변 세계를 이해하려고 끊임없이 노력하고 있습니다. Wiese는 이러한 유사성을 설명하는 데 도움이 되는 개념인 자유 에너지 원칙(FEP)을 소개합니다.

당신의 뇌: 항상 예측을 합니다. 커피 한 잔에 손을 뻗을 때 뇌는 커피가 얼마나 무거울지, 얼마나 따뜻하게 느껴질지 예상합니다. 컵이 가득 찼다고 생각했을 때 컵이 비어있는 것과 같이 놀라운 일이 발생하면 뇌는 세계에 대한 "정신 모델"을 빠르게 업데이트합니다.

AI의 두뇌: LLM을 구동하는 것과 같은 가장 진보된 AI는 섬뜩할 정도로 비슷한 일을 합니다. 그들은 새로운 정보를 기반으로 지속적으로 이해를 다듬고 다음에 어떤 단어가 나올지 또는 질문에 답하는 방법을 예측하는 데 능숙해집니다.

이러한 학습과 적응 능력의 공유는 Wiese의 탐구의 핵심입니다. 그는 뇌와 AI 모두 항상 놀라움을 최소화하고 환경을 더 잘 예측하기 위해 노력한다고 제안합니다. 그리고 이러한 맥락에서 그는 이것이 기계의 창발적 의식을 결정하는 데 유용한 테스트가 될 수 있다고 제안합니다.

서바이벌에서 Siri까지: 적응 게임
생명체의 경우, 이러한 끊임없는 예측과 적응은 생존에 매우 중요합니다. 동물들이 사냥, 숨어, 겨울잠을 잘 때를 아는 방법입니다. 하지만 여기서 흥미롭고 호기심이 생긴다: 위즈는 최첨단 AI가 비슷한 패턴을 보이기 시작했다고 주장한다.

이러한 AI는 단순히 일련의 규칙을 따르는 것이 아니라 스스로 조직하고, 실수로부터 배우고, 시간이 지남에 따라 효율성을 높입니다. 마치 원시적인 형태의 상식을 발전시키는 것 같습니다.

의식 문제
비제의 연구는 우리로 하여금 의식이 실제로 무엇인지에 대해 다시 생각하게 한다. 그는 "FEP 의식 기준"(FEP2C)을 소개하는데, 이는 의식 시스템이 충족해야 할 수 있는 몇 가지 조건을 설명합니다.

FEP2C는 의식 있는 시스템이 일반적으로 만족하는 4가지 핵심 조건을 제안합니다. 첫째, 구현 조건이 있는데, 시스템의 계산 프로세스는 기존 컴퓨터의 분리된 소프트웨어 및 하드웨어와 달리 물리적 구조와 깊이 연결되어 있습니다. 둘째, 에너지 상태는 의식 있는 시스템이 현재의 인공 시스템보다 훨씬 적은 에너지를 사용하여 놀라운 효율성으로 계산을 수행한다는 것을 시사한다. 셋째, 인과적 흐름 조건은 시스템의 계산 과정에서의 인과 관계가 물리적 구조의 인과 관계와 일치할 것을 요구한다. 마지막으로, 실존적 조건은 의식 체계의 계산 과정이 그것의 지속적인 존재에 직접적으로 기여한다는 것을 말한다.

흥미롭게도, 이러한 조건들은 의식이 있는 살아있는 유기체들에 의해 충족되는 반면, 대부분의 현재 인공 시스템들, 심지어 의식과 유사한 행동을 시뮬레이션하는 시스템들조차도 충족되지 않는다. Wiese는 이러한 구분이 단순히 의식을 모방하는 시스템과 실제로 의식을 경험할 수 있는 시스템을 구별하는 데 중요할 수 있으며, 인공 의식에 대한 향후 연구를 위한 잠재적인 로드맵을 제공할 수 있다고 주장합니다.

방 안의 윤리적 코끼리
이 개척지가 흥미진진하기는 하지만, 윤리적 질문이라는 판도라의 상자도 열어준다. 진정으로 의식이 있는 AI를 만든다면, 어떤 권리를 가져야 하는지 고민해야 합니다. 우리는 또한 의식 있는 AI의 존재가 기술과 우리의 관계를 근본적으로 어떻게 변화시킬지, 즉 도구가 될지, 동반자가 될지, 아니면 완전히 새로운 것이 될지 고려해야 합니다. 그리고 아마도 가장 우려되는 것은 초적응 AI가 우리가 아직 예측할 수 없는 방식으로 우리를 능가하여 잠재적으로 예상치 못한 위험한 결과를 초래할 수 있다는 가능성과 씨름해야 한다는 것입니다. 이것은 추상적인 철학적 사색이 아니라 사회가 우리가 생각하는 것보다 더 빨리 해결해야 할 긴급한 문제입니다.

시냅스와 회로의 미래
진정한 인공 의식은 여전히 뜨거운 논쟁의 여지가 있지만, Wiese의 연구는 생물학적 뇌와 인공 지능 사이의 유사점이 지능 자체에 대한 우리의 이해를 재구성하고 있음을 시사합니다. AI가 계속 발전함에 따라 우리는 기술뿐만 아니라 의식과 살아 있다는 것의 의미에 대한 혁명의 초기 단계를 목격하고 있을 수 있습니다.

다음에 Siri에게 질문을 하거나 AI와 채팅할 때 잠시 시간을 내어 이 사람이 진정한 의식을 가진 최초의 기계의 증조부모가 될 수 있는지 궁금해해 보세요. 시간이 지나야 알 수 있겠지만, 한 가지 확실한 것은 인공 지능과 자연 지능 사이의 경계가 우리가 상상하지 못했던 방식으로 모호해지고 있다는 것입니다.