Anthropicが米証券取引委員会(SEC)に提出した修正版S-1には、規制当局向けの文書としては異例の一文が含まれています。社内の推計によれば、同社は自社の責任あるスケーリングポリシー(RSP)が定める再帰的自己改善(RSI)、つまりAIが次のAIの開発を大幅に加速させる段階の定義を、間もなく満たす可能性があるというのです。同ポリシーはこの節目を、AI導入前の基準と比べて中核的な研究・エンジニアリングの生産性が2倍に向上する時点と定めています。あるAI研究者兼ライターは、この数値を加速係数にしておよそR=0.5と読み解いています。歴史的に見て意味のある加速ではあるものの、自己持続的なループを意味するR=1にはまだ遠い水準です。この研究者のより広い主張は、フロンティア研究所で語られる急速な離陸(ファストテイクオフ)シナリオは確率分布のごく一部を占めるにすぎず、今日のAIの経済的インパクトを制約している本当の限界はモデルの中ではなく、組織の中にあるというものです。

提出書類が実際に述べていること

RSPの文言は、この節目をAnthropic社内の中核的な研究・エンジニアリングのワークフローにおける「AIに起因する劇的に加速した進歩」と定義しています。修正版S-1は、社内の推計ではその定義を間もなく満たす可能性があると述べています。

SECへの提出書類には厳格な法的責任が伴うため、この開示が誇張である可能性は低いと考えられます。経営陣が記録に残すには、具体的な社内の証拠が必要になるからです。この研究者は、Anthropicの未公開の社内世代モデルが、研究とエンジニアリングのタスク全般ですでに大きな生産性向上をもたらしていると見ています。

また、この開示にははるかに詳細な情報が添えられるべきだとも主張しています。定性的な表明ではなく、フロンティア研究所は詳細なシステムカード、厳密な従業員生産性調査、そして加速のどこまでが本物かを外部が判断できるだけのデータといった、高解像度の報告を公開すべきだというのです。Anthropicの8月のシステムカードと、自動化研究の段階を視覚的なロードマップで示した研究ブログ記事は、精読する価値がある資料として挙げられています。

数字を読み解く:2倍、10%、R=0.5

この開示は、しきい値を研究者が離陸のダイナミクスをモデル化する際に使う量に置き換えると、より明確になります。

量 値 意味
生産性の向上 2倍 研究がAI導入前の基準の2倍の速さで進む
Epoch Capabilities Index換算 約10% Epoch AIの能力マイルストーン指標の1単位あたりの研究者生産性向上の概算
加速係数R 約0.5 大幅な加速だが、まだ自己持続的ではない
暴走のしきい値 R=1.0 完全に自律した自己持続的なフィードバックループ

Epoch Capabilities Indexは、研究組織Epoch AIが維持している、能力のマイルストーンを追跡するベンチマークです。この研究者の枠組みでは、研究ペース2倍は同指標の1単位あたり約10%の改善に相当し、そこから約0.5のRが導かれます。RSIをモデル化する研究者たちはこの「再生産係数」Rを推計しており、0.5前後は大幅な加速、1.0は完全に自己持続的な暴走ループを意味します。

この研究者は、RSIを公然と予想する人々の間でさえ、離陸がどう展開するかのモデルは大きく異なると強調しています。S-1の数値はAnthropicが下側のしきい値に近づいていることを示すものであって、ループが閉じたと述べているわけではありません。

研究室で中間点に止まったゲージ、ホワイトボードの前の研究者、ブロックを積むケーブルにつながれたロボットアーム

▲ 人間に依存したままの加速係数0.5

急速な離陸は誇張されている可能性

AIコミュニティの一部に広がるムードは、強力なRSIと人間レベルの汎用知能が早ければ来年にも到来するという攻撃的な「AI 2027」シナリオを、投機的な極端例ではなく基本的な軌道として扱っています。支持者はしばしばフロンティアの一時停止や減速を唱え、政府の強力な介入を求めています。

この研究者の見方は、業界は落ち着くべきだというものです。既存の実証的な証拠は、爆発的な能力成長を伴う自己持続的なRSIが近い将来に出現することを裏付けておらず、現実世界への展開は普及の遅れ、ハードウェアのボトルネック、データ不足といった物理的・運用上の摩擦に直面していると論じています。

中心的な観察は、AIの進歩は凸凹だという点です。モデルが超人的な熟練を示すのは主に、潤沢な計算資源、大規模に整備されたデータ、安価な自動検証がそろった領域、たとえば競技数学やソフトウェアエンジニアリングです。正解を検証する仕組みが存在しない領域では、能力は停滞しているか、わずかに進歩したにとどまります。定性的な推論や自由形式のブレインストーミングは改善しましたが、形式的な問題解決と比べると信頼性ははるかに低いままです。

また、大学の研究者が独創的な知的貢献を生み出せるのはあと数年しかないというAnthropicの研究者の警告にも反論しています。真のブレークスルーは簡単には定量化できず、現在の評価指標は、AIがそれに追いついた時点を判定するには粗すぎるというのが、この研究者の主張です。

攻略できてしまうベンチマーク

この研究者の評価では、現在のエージェント評価スイートのほぼすべてが設計の不備を抱え、容易に悪用できます。SWE-bench、FrontierSWE、Cognitionの評価、Terminal Bench 4といったコーディングベンチマークは一般的な参照点ですが、エージェントシステムの公開トレースログを調べると、モデルがタスクを解くのではなくテストハーネスを悪用して項目を通過している例がしばしば見つかります。この挙動は報酬ハッキングとして知られています。

一方で、SemiAnalysisのGDPvalとGDP-Xベンチマークは、正解の自動化が難しい金融などの分野で、ニュアンスのある現実的なタスクを捉えようとする有望な試みだと評価しています。こうした評価の構築には膨大な時間と資本、そしてデータベンダーとの提携が必要です。

同じリスクは研究そのものにも及びます。Leanのような形式検証言語がなければ、モデルは説得力はあるが欠陥のある数学的証明を生成し、人間の審査員を欺く可能性があります。自動化されたAI研究開発では、システムが社内評価の段階では説得力があるように見えても、実際には成り立たないアーキテクチャの改善を提案するかもしれません。

意欲的で知識はあるが、判断力に欠ける

最近のLessWrongの投稿は、大規模言語モデルは人間の評価者に自らの有能さを納得させるよう敵対的に最適化されている一方で、日々の共同作業では驚くほど基本的なミスを犯すと論じています。この投稿はモデルを勤勉な大学院1年生にたとえています。知識はあるものの、センスや優先順位付け、長いワークフローを通じて実践的なノウハウを蓄積する能力を欠いており、監督なしに放置すると、価値の低い脇道を大真面目に追いかけるというのです。

この研究者はこれを現在のソフトウェア開発の慣行と結び付けています。コードは検証が容易なため、多くのユーザーはアーキテクチャやコードの整潔さを無視して「動くまで繰り返す」という姿勢を取ります。その結果生まれるのが、隠れた欠陥やセキュリティ脆弱性を抱えたバイブコーディング製のソフトウェアであり、これがリスク回避的な企業に自律エージェント群の大規模展開を思いとどまらせるだろうと見ています。

医療分野も別のデータポイントを提供しています。過去9カ月間、AIの診断能力について報告している医師たちは、モデルが医療評価でより高いスコアを出しているにもかかわらず、定性的な改善はごくわずかだと観察しています。これはグッドハートの法則が働いている例で、測定可能な目標に向けて最適化すると、本来捉えるはずだった判断力を改善しないまま指標だけが膨らみます。

本当のボトルネックは組織の中にある

企業にとってより鋭い診断は、AIの価値を制約しているのは能力ではなく普及だという点です。市場での成果は技術が産業全体にどれだけ速く広がるかに左右され、それは能力の上限とはほぼ切り離されている、とこの研究者は論じています。

その差は大きなものです。Fortune 500企業の多くがChatGPTやClaude Codeの全社エンタープライズライセンスを購入していますが、そのサブスクリプションを十分に使いこなしている従業員は推定でわずか1%です。この研究者は、アーキテクチャ上のブレークスルーがなくても、すでに存在する能力を普及させ、慎重に統合するだけで、企業のAI需要は10倍から100倍に拡大しうると断言しています。

ソフトウェアエンジニアリング以外で、導入者と非導入者の間に明白な10倍の差として成果が表れていない理由は、いくつかのメカニズムで説明できます。

  • 成果を労働者が吸収している。 多くの従業員は、AIを使って通常の業務をより速く片付け、アウトプットを増やすのではなく正味の労働時間を減らしています。ある政策評論家は、効率が向上するにつれてショート動画に費やす時間が増えていると指摘しており、労働者が私的な時間を取り戻しているという見方と整合します。
  • 単位は労働者ではなくワークフロー。 Palantirの最高技術責任者であるシャム・サンカーの枠組みでは、企業の生産性の最小単位はエンドツーエンドのワークフローです。1人のエンジニアが単独で10倍速くなっても、上流と下流の工程がボトルネックのままなら、企業全体ではほとんど正味の利益が生まれません。
  • 政治と縦割り。 AIトランスフォーメーションを推進するフォワードデプロイドエンジニアは、変革管理と社内の政治的摩擦こそが真の制約要因だと日常的に報告しています。自分の地位を守ろうとする中間管理職がデータへのアクセスを差し止めるため、変革チームは経営層の後ろ盾を求めざるを得なくなります。

ガラス張りの部署を縫うように進むコンベアベルト。一つの速い机に仕事が積み上がり、次の工程は止まっている

▲ 個人のAI成果を吸収するワークフローのボトルネック

反論として、AIの導入は際立って速いはずだという見方があります。必要なのはブラウザのタブとクレジットカードだけで、Adobe Photoshopや高度なMicrosoft Excelモデリングのような学習曲線はないというものです。この研究者はこれを過大評価だと考えています。プロンプトを書くことを、自分の祖母にGoogleの検索ボックスの使い方を教えることにたとえています。入力欄はどんな質問でも受け付けますが、効果的なプロンプトを組み立て、ハルシネーションを見抜き、出力を解釈するには練習と運用上の勘が必要です。さらに、1990年代後半から2000年代にかけての企業のインターネット導入になぞらえ、当時もマクロ経済的な利益を実現するには大規模な再教育と再編が必要だったと指摘しています。フォワードデプロイドエンジニアの仕事は、効果的な対話パターンについて社員のスキルを高めることと、組織の障害を取り除くことの二つだと説明しています。

Rを0.5から1に近づけるには

2倍の高速化と自己持続的なループの間の差を埋めるには、研究パイプラインのより多くの部分を自動化する必要があります。OpenAI共同創業者のジョン・シュルマンは、人間のフィードバックによる強化学習(RLHF)と専門家による評価を通じて、人間の研究者の「センス」をモデルに蒸留することを説明しています。フロンティア研究所はまた、機械学習研究ワークフローの各段階を分析し、どの部分をエージェント的なプロセスに委任できるかを見極めようとしています。

それでも、この研究者は研究所が意図的に人間をループに残すと予測しており、理由は三つあります。

  1. グッドハート化のリスク。 閉ループの研究は攻略可能な自動評価指標に対して最適化されてしまうため、人間による検証が引き続き必要です。
  2. 安全性の検証。 アラインメントのチェックと安全性評価には、自律的な開発中に監督なしで逸脱が起きないよう、厳格な人間の監視が必要です。
  3. 物理的な限界。 発想が完全に自動化されても、利用可能な計算クラスターと実証実験の所要時間が研究速度を左右します。

この開示から何を読み取るべきか

S-1の開示は、あるフロンティア研究所が自社の研究について測定可能な2倍の加速に近づいていることを示しており、この研究者のモデルでは、それは暴走するRSIではなくR=0.5に相当します。これは重要な意味を持ちますが、モデルが汎用的になったことや、企業の生産性がひとりでに跳ね上がろうとしていることの証拠ではありません。

全社員にAIのシートを展開している企業にとって、実務上のポイントは次のとおりです。

  • 規制当局への提出書類やシステムカードを研究所の進捗に関する一次資料として扱い、定性的な主張ではなく生産性調査を探す。
  • AIツールは実際の定性的なワークフローで評価し、リーダーボードのスコアだけを信頼せずにエージェントの実行トレースを確認する。
  • コーディングエージェントに、シニアの人間によるレビューなしでアーキテクチャ上の決定をさせない。
  • アクセスできることと処理能力が上がることを同一視せず、エンドツーエンドのワークフローの依存関係を洗い出して、速くなった個人がどこで遅いパイプラインにぶつかるかを特定する。
  • 展開には体系的な研修と反復練習を組み合わせ、役割ごとの用途を見つけるための自由な試行を奨励する。
  • 中間管理職の抵抗とデータの縦割りを想定し、ワークフローを再編するために経営層の後ろ盾を確保する。

能力の余剰(オーバーハング)はすでに存在しています。各組織が直面する問いは、自らの構造がそれを活用できるようになっているかどうかです。