이는 지금까지 컴퓨팅 확장만으로 AGI를 달성할 수 있다는 가장 강력한 증거입니다. 정말 걱정되기 시작했습니다.

나는 우리가 장애물에 부딪힐 것이라고 생각하곤 했습니다.
확장 법칙의 종말, 올바른 모델 아키텍처, 전력 밀도 벽, 무어의 법칙의 종말, 다중 모드 데이터의 고차원성과 관련된 문제, 연구자들은 이미 전문가의 혼합을 사용하고 있기 때문에 아이디어가 부족합니다. 등.

점점 더 규모를 한 단계 또는 두 배 정도 확대하여 AGI를 구축할 것으로 보입니다. 또한 OpenAI의@sama
와 다른 사람들은 공개 성명, 칩 및 규모에 대한 야망을 고려할 때 이미 동일한 결론에 도달한 것이 분명해 보입니다. 정말 걱정되기 시작했습니다.

내가 걱정하는 이유는 내가 AI 파멸자이기 때문이 아니라 진심으로 계산과 과학적 자유의 편에 서고 위험이 실존적이지 않다고 생각하기 때문입니다. 나는 AGI 이후 1) 세상이 엄청나게 변할 것이고, 2) 이 험난한 새로운 미래를 명확하게 볼 수 없으며 AGI의 도래로 어떤 변화가 일어날지 정확하게 예측하기가 특히 어렵다는 점을 걱정합니다. 그 변화는 전혀 알 수 없고, 그렇기 때문에 3) 나는 이 변화가 걱정스럽고 두렵기까지 하다.

2차 산업혁명의 벼랑에 선 사람이라면 이런 기분이었을 거라 생각합니다.