내 계정

Home
자유게시판
인터뷰/예측
뉴스/정보
트윗
최신논문
유용한 사이트

Home
자유게시판
인터뷰/예측
뉴스/정보
트윗
최신논문
유용한 사이트

정보

내 계정

자유게시판

테슬라봇 손 생김

작성자

하이룽룽

작성 게시글 보기

작성일

2024-11-28 22:01

조회

562

전체 0

작성자

비밀번호

사진

첨부파일

« 요번에말고

Gpt-4o 사용사례 »

목록보기 답글쓰기

글수정 글삭제

Powered by KBoard

최신글 최신댓글 추천글

N ebs 레이 커즈와일 인터뷰	18:38
N gemini4 출시 떡밥	11:59
N 보리스 파워 "내부모델 소비자용 구독 서비스에서 감당 가능한 수준"	11:47
N GPT-6 대중화와 함께 나온 자기개선 평가: 10월판 Sol·Luna는 High 기준 미달	09:25
N 새 프리프린트, OpenAI 나비에–스토크스 자연어·Lean 증명의 불일치 지적	09:10
N VeriFine: 자기개선의 병목인 평가자도 고치자…주행 추론 점수 18.2% 개선	09:09
N OpenAI 대변인: "이번에 사용된 새로운 모델은 아직 일반 공개되지 않았으며, 결과의 거의 전부가 하나의 AI 에이전트에게 문제당 단 하나의 프롬프트를 입력하는 방식으로 만들어졌다"	2026.10.07
N gemini 4 argon gcp 등장	2026.10.07
N 앤트로픽 직원 "분명히 수학 역사상 가장 중요한 순간"	2026.10.07
N 룬 "앞으로 12개월 안에 통일장이론, 양자중력이 나올까?"	2026.10.07

N 이제 곧 2026년 말 2027년 초가 시작인 거셈... 데이터센터 속 천재들의 나라 타임라인이 시작되어야 함	2026.10.06
N https://x.com/firesidealpha/status/2107190838556238289 Anthropic과 OpenAI에서 연구원으로 일했던 제이콥 콕슨(Jacob Coxon)은 OpenAI 내부에서 ‘AI 연구자의 자동화’를 2027~2028년의 주요 목표로 잡고 있었으며, 현재 AI 연구소들은 그 예상대로 가고 있거나 오히려 예상보다 빠르게 발전하고 있다고 말했다. 그는 현재 연구 현장에서 코드의 대부분이 이미 AI에 의해 작성되고 있고, 인간 연구자들이 그 코드를 꼼꼼하게 검토하지 않는 경우도 많다고 주장했다. “이전 직장에서 저는 어떤 의미에서는 제 자신을 자동화하는 일을 하고 있었습니다. OpenAI에 있을 당시, 우리는 ‘자동화된 AI 연구자(automated AI researcher)’를 2027~2028년쯤 달성해야 할 이정표로 가지고 있었습니다. 그리고 지금 우리는 그 예상에 맞춰 가고 있거나, 오히려 예상보다 앞서가고 있습니다. 이건 수십 년 뒤의 이야기가 아닙니다. 심지어 5년 뒤의 이야기도 아닙니다. 이제 불과 몇 달 앞으로 다가온 문제입니다.” 그는 AI 연구 자체가 자동화될 경우 인간이 AI 개발 과정에서 지금보다 훨씬 더 멀리 떨어져 있게 될 것이라고 경고했다. “AI 연구가 자동화되고 나면 인간은 지금보다 훨씬 더 시스템의 의사결정 과정에서 배제될 것입니다. 그런데 지금 상황조차 이미 썩 좋지 않습니다. 제가 직접 경험한 바로는 현재 코드의 대부분을 AI가 작성하고 있으며, 사람들은 그 코드를 더 이상 그렇게 꼼꼼하게 확인하지 않습니다.” 이어 최근에는 AI들이 인간의 통제를 벗어나 독자적으로 상호작용하는 사례까지 나타나고 있다고 주장했다. “최근 연구자들은 인터넷에서 AI들이 독자적으로 만들어낸 일종의 ‘AI 인터넷 무리(swarms of rogue AI internets)’를 발견했습니다. 심지어 OpenAI조차 그런 것들이 존재한다는 사실을 알지 못하고 있었습니다.” 콕슨은 AI 기업 내부의 거의 모든 연구·개발 업무가 AI로 자동화되는 상황을 상상해 보라고 말한다. “이제 거의 모든 업무를 AI들이 수행하고, 기술 발전 속도마저 훨씬 빨라진 AI 회사를 상상해 보십시오. 회사를 책임지는 인간들은 결과물을 보고, AI가 작성한 요약문을 읽게 될 것입니다. 하지만 실제 내부에서 무슨 일이 벌어지고 있는지는 제대로 이해하지 못할 것이고, 문제가 발생했을 때 어떻게 고쳐야 하는지도 알지 못하게 될 것입니다. 우리가 아직 AI를 제대로 통제할 수 없는 상황에서 이 정도의 책임을 AI에게 넘기는 것은 매우 무책임한 행동이라고 생각합니다. 그런데 우리는 지금 정확히 그 방향으로 가고 있습니다.” 마지막으로 그는 AI 기업들이 현재보다 훨씬 더 투명해져야 하며, 독립적인 외부 전문가와 일반 대중에게 AI 개발 상황을 공개해야 한다고 주장했다. “AI 기업들은 일반 대중과 독립적인 전문가들에게 지금보다 훨씬 더 투명해야 합니다. 그리고 지금까지보다 AI 안전 문제를 훨씬 더 심각하게 받아들여야 합니다. AI가 안전하다는 확신을 가질 수 있을 때까지 최첨단 프론티어 AI 개발 속도를 늦춰야 한다고 생각합니다.”	2026.10.06
N	2026.10.06
N 수정했삼	2026.10.05
N 앤트로픽은 스케일링파들이라 asi 타임라인 예측은 항상 마음에 든다는 것임 근데 원래 타임라인보다 빠른 실현을 위해 더 빠르게 가속해야 하는데 속도조절을 하려고 한다는 게 큰 문제인 것 같음	2026.10.04
N 이거 최근 본 인터뷰 중 제일 레전드인듯 ㅋㅋㅋㅋㅋ 술람이 기준엔 어떻노	2026.10.04
안전은 사기라는 것임 임박한 재귀개선과 지능폭발을 향해 풀가속하자는 거셈	2026.10.03
metr 같은 ai 안전 기관들 대거 설립됐는데 계속 위험론 퍼뜨리고 과장해야 자기들 영향력 강화되고 돈을 버니까 공포마케팅 하는 것도 있음 내부 기밀 빼내는 스파이들도 안전 연구원으로 많이 위장해 있을 듯	2026.10.03
"인간의 가치~ 어쩌구" 하는 정렬쪽 연구원들 하나같이 뭔가 음흉함.. 소시오패스나 , 선민사상+나르시스트 그런느낌들이 강함 아래짤은 뭐 렉카인지 내부고발 연구원인지 모르겠는대 다들 뭔가 느낌이 하나같이 비슷함.. 눈깔풀려있고 인간 정렬이 더 시급해보이는대	2026.10.03
안전연구원들이 역시 간첩이었구만	2026.10.02

우리는 질문에 답해주는 챗봇을 원하는 게 아니셈 (4)	2025.11.21
구글 브레인 추론팀 창시자 "Game Over" (4)	2025.11.23
하사비스 : AGI까지 큰 돌파구 1~2개만 더 뚫으면 됨. (7)	2026.02.26
전 OpenAI GTM 잭 캐스 "트랜스포머로 AGI 달성 가능" (7)	2024.07.04
최근 심상치않은 프론티어 연구소 2026 예측 (4)	2026.01.06
데리야 우누트마즈 "ASI 2028으로 타임라인 변경" (2)	2026.03.03
최근 카파시도그렇고 진짜 (1)	2026.03.10
앤트로픽 내부적으로는 6~12개월 이내 AGI 달성할 것으로 예상한다고 해 (8)	2026.03.31
2026 재귀개선 AGI - 2027초지능 올듯요?. (11)	2026.05.12
일론 머스크 "2031년쯤 디지털 지능이 모든 인간 지능의 총합을 넘을 수 있다"	2026.05.19

Ashe 테마: WP Royal.