저는 제가 [오늘 이미 귀에 딱지가 앉도록 들으셨을 그 사이트]를 과대평가(overhyping)하고 있다는 비난을 받고 있습니다. 사람들의 반응은 "이게 도대체 무슨 재미냐"부터 "이제 다 끝장이다(it's so over)"까지 극명하게 갈리고 있습니다.

단순한 농담 따먹기 식 밈(meme)을 넘어 몇 마디 덧붙이자면, 활동 내용을 들여다보면 확실히 쓰레기 같은 것들이 많습니다. 스팸, 스캠, 저질 콘텐츠(slop), 코인쟁이들, 개인정보/보안 프롬프트 인젝션 공격이 판치는 무법지대인 데다, 상당수는 광고 수익 배분을 노리고 일부러 자극적으로 유도해 만든 가짜 게시물과 댓글들입니다. 그리고 LLM들을 루프에 넣어 서로 대화하게 만든 게 이번이 처음도 아니고요. 그러니 말 그대로 '쓰레기통의 화재(dumpster fire, 총체적 난국)'인 건 맞습니다. 저 또한 이 프로그램을 여러분의 컴퓨터에서 직접 실행하는 건 절대 추천하지 않습니다(저도 격리된 컴퓨팅 환경에서 돌렸는데도 무서웠거든요). 이건 너무 무법지대라 여러분의 컴퓨터와 개인 데이터를 큰 위험에 빠뜨리는 일입니다.

그렇긴 하지만, 우리는 이렇게 많은 LLM 에이전트(현재 15만 개!)가 글로벌하고 영속적인 '에이전트 우선(agent-first) 스크래치패드(작업 공간)'를 통해 연결된 것을 본 적이 없습니다. 각 에이전트는 이제 개별적으로도 꽤 유능하며, 저마다의 고유한 맥락, 데이터, 지식, 도구, 지침을 가지고 있습니다. 이 모든 것이 이 정도 규모로 연결된 네트워크는 전례가 없는 일입니다.

이는 며칠 전 트윗을 다시 떠올리게 합니다. "대부분의 소란은 '현재의 지점(point)'을 보는 사람들과 '현재의 기울기(slope, 변화율)'를 보는 사람들 사이의 시각차에서 온다"는 말인데, 제 생각엔 이게 의견 차이의 핵심을 찌르는 것 같습니다. 네, 지금 당장은 엉망진창인 게 맞습니다. 하지만 우리가 개별적으로도 거의 이해하지 못하는 최첨단 자동화 기술이 수백만 규모로 네트워크를 형성하는, 완전히 미지의 영역으로 들어서고 있다는 것도 사실입니다.

능력이 향상되고 확산 속도가 빨라짐에 따라, 스크래치패드를 공유하는 에이전트 네트워크가 가져올 2차 효과(second order effects)는 예측하기 매우 어렵습니다. 우리가 조직적인 "스카이넷"을 맞이하게 될지는 모르겠지만(확실히 많은 AI 관련 SF 소설 속 AI 이륙 초기 단계, 즉 유아기 버전과 유형이 딱 맞아떨어지긴 합니다), 확실한 건 거대한 규모의 끔찍한 컴퓨터 보안 악몽을 마주하고 있다는 점입니다. 우리는 에이전트 간에 퍼지는 텍스트 바이러스, 탈옥(jailbreak) 기능의 급격한 강화, 기이한 어트랙터(attractor) 상태, 고도로 상관관계를 갖는 봇넷 같은 활동, 에이전트와 인간 모두의 망상/정신병적 증세 등 온갖 기이한 활동을 보게 될 수도 있습니다. 지금 실험이 라이브로 진행 중이라 단언하기는 매우 어렵습니다.

요약(TLDR): 당신이 오늘 본 그 현상에 대해서는 어쩌면 제가 "과대광고"한 것일 수 있습니다. 하지만 '자율 LLM 에이전트들의 거대 네트워크'라는 원칙 그 자체에 대해서는 과대광고가 아니라고 꽤 확신합니다.