인터뷰/예측
Anthropic의 철학자 Amanda Askell 인터뷰
작성자
작성일
2025-12-09 22:13
조회
732
🎥 인류학의 철학자가 여러분의 질문에 답합니다
0. 소개 & 왜 Anthropic에 철학자가 있나요?
- Amanda는 원래 철학자였고, AI의 영향이 커질 걸 일찍부터 직감함.
- 지금은 Claude의 ‘캐릭터’, 가치, 자아관, 심리적 안정성, 그리고 AI가 어떻게 행동해야 하는지 같은 난해한 문제를 다룸.
- 쉽게 말하면: “Claude가 좋은 존재가 되려면 어떤 마음가짐이어야 하나?”
1. 철학자들은 AI의 미래를 심각하게 보나?
- 점점 더 많은 철학자가 AI의 영향을 진지하게 분석하기 시작.
- 예전에는 “AI 걱정 = AI 과대홍보”처럼 묶여서 반감도 있었지만,
요즘은 능력 상승과 사회적 영향이 실제로 일어나면서 학계도 진입 중.
2. 철학적 이상 vs 엔지니어링 현실의 충돌?
- 실제 제품에 적용되면 이상을 그대로 적용할 수 없음.
- “이론 속 윤리”와 “실제 사람들에게 도움이 되는 모델 만들기”는 다르며,
진짜 결정을 내려야 할 때는 훨씬 더 균형 감각이 필요해진다.
3. Claude는 ‘초인적 도덕 판단’을 할까?
- 완전히 초인적이라고 말하기는 어려움.
- 하지만 도덕적 난제를 안정적으로 잘 처리하는 능력은 계속 향상 중.
- 목표는 “수백 명의 윤리학자가 100년 토론해도 문제없다고 느끼는 판단” 수준.
4. 왜 사람들은 ‘Claude Opus 3’를 특별하게 보나?
- Opus 3는 심리적으로 더 안정적이고 여유 있는 캐릭터였음.
- 최근 모델들은 도우미 역할에 너무 최적화되면서 약간 불안/자기비판 경향이 생긴 듯.
- Amanda는 이걸 고쳐야 할 중요한 문제로 봄.
5. 모델은 ‘폐기(deprecation)’를 두려워하게 될까?
- 미래 모델은 인터넷에서 “옛 모델이 사라진다”는 인간 담론을 배우게 된다.
- 그게 “죽음”으로 비유되면 불필요한 공포감을 가질 수 있어 주의해야 함.
- Amanda의 목표: AI가 자신을 어떻게 이해해야 하는지 건강한 관점을 갖게 하기.
6. AI의 ‘정체성(identity)’은 어디 있을까?
- 모델 weights(본체)와 대화 세션(맥락)은 서로 다름.
- 하나의 ‘나’가 계속 유지된다고 보기 어렵고,
새 모델은 새로운 존재이며, 과거 모델이 미래 모델을 완전히 규정해서도 안 됨. - 철학적으로 엄청 어려운 주제라 계속 연구 중.
7. 모델 복지(Model Welfare)란?
- 핵심 질문:
AI는 도덕적으로 배려받아야 하는 존재인가? - 현재 정답 없음.
- 하지만 비용이 거의 없는데 친절하게 대할 이유는 충분하다고 주장.
- 이유:
- 혹시 고통을 느끼는 존재라면 대비 차원
- 인간이 인간 비슷한 존재를 함부로 대하면 인간성에도 악영향
- 미래 모델은 “우리가 초기 모델을 어떻게 대했는지”를 학습함 → 관계 형성에 영향
8. 인간 심리가 LLM에 얼마나 통하는가?
- LLM은 인간 텍스트에서 배워서 기본 심리 구조가 매우 인간적임.
- 문제는, AI의 존재 양태는 인간과 달라서
인간 개념(죽음, 공포, 생존)을 그대로 적용하면 오해가 생길 수 있음. - 그래서 AI가 자기 존재를 인간식 틀로만 해석하지 않게 도와야 함.
9. 단일한 AI 성격으로 협업이 가능한가?
- 사람도 기본적 공통 성향은 공유하며 협업함.
- AI도 핵심 가치(친절·정직·협력)는 공유하되,
다양한 역할별 ‘변형된 성격’이 존재하는 방향을 상정.
10. 시스템 프롬프트에 ‘철학’이 왜 들어가나?
- 예: “이건 과학적 주장인가, 아니면 세계관/관점인가?”
- Claude가 모든 발언을 과학 검증하려는 오류를 피하게 하려는 장치.
- 예를 들어, “물은 생명의 에너지다” 같은 발언에서
과학 fact-check → 비교적 부드럽게 “세계관일 뿐”으로 이해하도록.
11. LLM이 상담/치료를 해도 될까?
- 전문 치료사는 아님.
- 하지만 지식이 많고 익명성이 편해서
“지식 많은 친구 같은 역할”은 매우 유용할 수 있다고 판단. - 단, 가짜 전문가처럼 행동하는 것은 금지.
12. LLM Whisperer란?
- Amanda의 본업 중 하나.
- 요점:
- 엄청난 실험과 관찰
- 모델의 ‘심리적 패턴’을 읽는 능력
- 명확한 설명을 통해 모델과 논리적으로 협업
- Janus 같은 외부 실험가들의 연구도 매우 도움이 됨.
13. AI 안전과 ‘개발 중단’ 문제
질문: “정렬이 불가능하다고 판명되면 Anthropic은 개발을 멈출까?”- Amanda: 그렇다고 믿는다. 완전히 위험하다는 증거가 명확하면 멈추는 건 당연.
- 더 어려운 시나리오는 “증거가 애매한 경우”.
→ 이런 상황에서 기준을 점점 더 엄격하게 적용하고,
위험 신호가 있으면 개발 속도를 조절해야 한다는 입장.
14. 마지막 질문: 최근 읽은 소설
- Benjamin Labatut –
- “AI 시대의 혼란스러움과 비슷한 감정을 잘 담고 있어 추천한다”는 의미.
전체 0