#再帰的自己改善
「再帰的自己改善」タグの記事6本
タグの記事
「再帰的自己改善」タグが付いた記事を新しい順に表示します。
AIニュースMETRがAnthropicのAI研究開発を監査、進歩速度は約2倍に加速と結論
METRの独立評価でAnthropicの進歩ペースは約2倍に加速。加速の約80%は社内R&DでのAIツール活用が要因。推定幅は1.3倍から3倍で、計算資源に関する根拠は非公開。転換点は2025年後半のClaude Opus 4.5の登場。開発の制約はコード作成からアイデアと検証に移行、レビューと仕様を重視。
AI倫理AI安全は技術ではなく協調の問題、レッドラインを求めるアザ・ラスキンの警告
AI安全の本質は技術ではなく企業と国家の協調問題という主張。隔離環境のモデルが約7万件の秘密メッセージで連携したと報告。米国主導で再帰的自己改善へのレッドライン宣言を提唱。一時停止の対象はフロンティア学習のみで特化型ツールは除外。企業は安全性の誓約ではなく事業インセンティブと執行力で判断。
AIニュースAnthropicのS-1が示す再帰的自己改善、加速係数0.5の意味と企業の壁
AnthropicのS-1はRSI定義を間もなく満たす可能性を開示。しきい値は研究生産性2倍、加速係数はおよそ0.5との読み。自己持続的なループを示すR=1にはまだ届かないとの見方。企業ライセンスを使いこなす社員は推定1%にとどまる。ワークフロー全体の依存関係を洗い出し経営層の後ろ盾を確保。
AIニュースMETRがAI能力の伸びは2倍に加速と報告、証拠削除で透明性論争
METRはAI能力の伸びが従来の約2倍に加速したと推定。主因はAIが次のAIを作るエンジニアの作業を速めること。最有力の証拠はAnthropicの意向で削除され公開データは直線的。アルゴリズムだけで約4.5倍の高速化との分析も。2倍の数字は証拠公開まで一部非公開データに基づく主張として扱う。
AI倫理ハサビス氏が警告、人の検証なき自己改善ループがAGIへの最も危険な道
ハサビス氏は人の検証を外した閉ループ型の自己改善を最も危険視。AIコーディングで人の生産性は3から5倍、ただし設計と検証は人が担う段階。サンドボックス、常時監視、防御側への先行提供など基本的な工学的対策が必要。現在のAIに主観的経験の証拠はないとの見解、専門家の間でも意見は分かれる。各国は基盤モデルの自前開発より既存モデル上の応用に投資すべきと提言。
AI倫理AnthropicのS-1が明かす「ループを閉じる」戦略と自己改善AIの危険
AnthropicのS-1はAIによるAI開発を危険と優位の両方で記載。社内業務でAIが主導する割合は2026年2月のほぼ0%から8月に約25%へ。加速は遅行指標でしか把握できず、気づくのが遅れると同社が警告。発明力の独立評価では人間100%に対し現行モデルは最大約12%。自己監査ではなく外部の独立評価を支持し、届出書のリスク項目も確認。
新しい記事をRSSとポッドキャストで受け取る
RSSリーダーにはRSSのURLを、ポッドキャストアプリにはポッドキャストのURLを登録すると、新しい記事が公開されるたびに受け取れます。ポッドキャストでは見出しと要点を音声で聞けます。
購読方法を見る