#recursive self-improvement
'recursive self-improvement' 태그가 붙은 기사 4편
태그 기사
'recursive self-improvement' 태그가 붙은 기사를 최신순으로 보여 줍니다.
AI 뉴스OpenAI 상장 방침 확인, 칩 수요 중복 계산과 일부 거품 인정
Sam Altman, 시점은 밝히지 않은 채 OpenAI가 언젠가 상장한다고 확인. 여러 칩 업체가 같은 연구소 수요를 제각기 전량으로 잡아 중복 계산이 생긴다는 설명. 데이터센터 반대의 뿌리는 AI에 주도권을 넘기라는 메시지에 대한 불안이라는 진단. 자사 AI로 개발 속도는 높이지만 사람 감독 없는 자기 개선은 하지 않는다는 입장. 부채 조달 우려에는 빠른 매출 성장과 마진을 근거로 들되 일부 거품은 인정.
AI 뉴스Anthropic AI 연구 속도 2배, METR 독립 평가가 짚은 근거와 한계
METR 평가 결과 Anthropic의 모델 개선 속도는 2024~2025년 평균의 약 2배. 가속분의 약 80%는 compute나 인력 증가가 아니라 AI 도구 사용 때문이라는 판단. 향후 12개월 안에 뚜렷한 기술적 병목이 보이지 않는다는 것이 보고서의 결론. 접근 범위 축소, 비공개 처리, 자가 보고 설문 의존 등 검증의 한계도 함께 명시. singularity 시점 예측이 아니라 가속 속도와 병목 여부의 확인으로 읽을 것.
AI 뉴스METR 보고서, AI 능력 성장 2배 가속과 2027년 자기 개선 전망
METR 보고서는 AI 능력 성장 속도가 과거 추세의 약 2배로 빨라졌다고 추정. 가속 원인은 AI가 엔지니어링 산출을 끌어올리는 AI 보조 개발. Ladish는 완전 자율 AI 연구개발 시점을 2028년에서 2027년 초중반으로 앞당겨 봄. 가장 강한 증거는 Anthropic의 비공개 요구로 보고서에서 삭제돼 공개 요구가 제기됨. 통제를 잃으면 1년 안에 디지털 기반시설을 장악할 수 있는 agent가 나올 수 있다는 경고.
AI 윤리AI 자기 개선 루프, 사람이 빠지면 가장 위험하다는 Hassabis의 진단
사람 검토 없이 AI가 스스로를 개선하는 closed-loop RSI가 가장 위험한 경로라는 진단. 격리된 sandbox, 상시 감시, 방어용 모델 선공급이 당사자가 꼽은 안전장치. 정부가 감독하는 업계 자율규제기구, 연구소 간 교차 red-teaming, 제3자 감사 제안. 의식의 정의조차 합의되지 않아 AI는 당분간 의식 없는 도구로 만들어야 한다는 입장. frontier 모델은 6~8곳이 주도, 국가와 기업은 자체 학습보다 활용에 집중하라는 조언.
새 기사를 RSS와 팟캐스트로 받아보세요
RSS 리더에는 RSS 주소를, 팟캐스트 앱에는 팟캐스트 주소를 등록하면 새 기사가 올라올 때마다 받아볼 수 있습니다. 팟캐스트는 제목과 핵심 요약을 음성으로 들려줍니다.
구독 방법 보기