AGIは2年以内か　Anthropic研究者が根拠に挙げる開発現場の変化

Anthropicの研究者たちは、AGI（汎用人工知能）が今後2年ほどのうちに現実的に到来し得ると考えています。彼らの見方では、進歩の速さを最もはっきり示しているのは、自分たちの日々の仕事の変化です。約18カ月前、彼らはまだほぼすべてのコードを手で入力していました。今では、新人の同僚に仕事を頼むのと同じように、AIモデルに1～2日分のエンジニアリング作業を渡して自力で進めさせることができます。研究者たちはさらに、AIは人がすでにやり方を知っている仕事の先へ進み、新しい知識へ向かいつつあると見ています。その先頭に立つのが数学です。

18カ月で変わった3つのコードの書き方

Anthropicのある研究者は、プログラミングの変化を、技術がどれほど加速したかを最も生々しく示すしるしだと表現します。変化は3つの段階を経てきました。

鍵を握るのは、人がどれくらいの頻度で介入しなければならないかです。その間隔は数分から数日へと延びました。実際、モデルは今やコーディングエージェント、つまり1行ずつ候補を示すのではなく、プログラミング作業を最初から最後までこなすAIシステムとして動いています。研究者たちがそれを新人のチームメイトにたとえるのはこのためです。

▲ エンジニアの役割の3段階

既知の作業から新しい知識へ

AI開発の第一波は、人がすでに理解し、得意としていた知的作業の自動化に力を注ぎました。それは、開発者がもともとこなせる仕事に、さらなるてこの力を与えるものでした。新しい目標は違います。AIモデルを使って既存の知のフロンティアの先へ進むこと、たとえば新しい数学の証明を見つけることです。Webアプリをもう1つ作るのは、人がすでにやり方を知っている作業です。誰も見つけたことのない証明を発見することは、人類の知識を広げます。

当然、こうした成果は人間の数学者には大きすぎる計算をコンピューターが力任せにこなしただけではないか、という疑問が浮かびます。研究者の1人は、進歩がどのように起きるのかについて別の説明をしています。ブレークスルーがまったく異質なアイデアに頼ることはまれです。多くの場合、すでにあるアイデアを誰も試したことのない形で組み合わせることから生まれます。人類の成果は常にそれまでの到達点の上に積み上げられてきました。そして今、AIモデルは分野をまたいでそうした点と点を結び、同じようなソフトウェアを増やすだけでなく、本物の発見を生み出しつつあります。

FrontierMath、約1年でゼロからほぼ半分へ

AIの能力を測るための標準化されたテストであるベンチマークを見ると、この動きの速さがわかります。FrontierMathは、数学の幅広い分野にわたって一流大学の教授陣が作成した難問のセットです。最先端のモデルは当初、このテストで0%のスコアでした。それが約1年で、40～60%の正答率に達しました。

振り返れば、2020年のGPT-3の登場は、人間レベルのAIが空論から避けられない現実のようなものへと変わり始めた転換点だったと見ることができます。FrontierMathのようなテストは今、その変化がどれほど速く進んでいるかを数字で示しています。

数学とコードが先に進んだ理由

研究者たちは、現代のAIの進歩を支える2つのエンジンを挙げます。

• 事前学習：インターネットから集めた膨大なテキストでモデルが学習します。
• 強化学習：モデルが課題に取り組み、その答えを客観的な正解と照らし合わせ、そのフィードバックから改善していきます。

強化学習は、答えが正しいかどうかを明確に判定できるときに最もよく機能します。数学の証明とコードにはその性質があり、この2つの分野が最も速く進んだ理由の一端を説明しています。

2人目の研究者は、人の側の事情も付け加えます。機械学習研究の先駆者たちは数学とコンピューターサイエンスに強いバックグラウンドを持っていたため、自分たちが最もよく知る分野で評価方法や学習データを作りました。モデルを評価したり、ファインチューニング、つまり既存のモデルを特定の仕事向けにさらに学習させたりするには、モデルの出力を読み解くために人が多くの時間を割く必要があります。その作業は、慣れた分野のほうが容易です。

▲ 検証できる分野と主観的な分野

成長で姿を変え続ける会社

同じ加速はAnthropicの社内にも表れています。同社の拡大はあまりに速く、60～90日ごとにまったく新しい組織になったように感じられるほどです。18カ月前、チームは世界トップクラスのモデルを作れることを証明するため、コーディングのベンチマークに力を集中させる必要がありました。売上と計算資源の規模が大きくなるにつれ、Anthropicは目標を多くの分野にわたる汎用的な知的能力へと広げています。

ここでいうAGIとは何か、何が懸かっているのか

この枠組みでいうAGIとは、コンピューター上で行う知的作業において、あらゆる人間と同等かそれ以上の能力を持つAIモデルを指します。ロボット工学が成熟すれば、この定義はいずれ物理的な作業にも広がります。研究者たちによれば、Anthropicはこれを今後2年ほどの現実的な見通しと考えています。

ある研究者は、AGIには2つの側面があると説明します。

Anthropicは、そうしたリスクを越えられるよう世界を安全に導き、人々が超知能システムの大きな恩恵を手にできるようにすることを、自社の中核的な使命と位置づけています。2年という見通しは研究者たちの予測であり、彼らはそのリスクには慎重な舵取りが必要だという明確な警告もあわせて示しています。

道具か、主体か

高度なAIを道具と捉えるべきか、自律的な主体と捉えるべきかをめぐって、業界では活発な議論が続いています。Anthropicのある研究者は、最先端のモデルについては主体という捉え方のほうが正確で、役にも立つと主張します。

従来の道具は、人が常に操作し続ける必要があります。最先端のモデルは、一度指示を受ければ、ユーザーに代わってデジタル世界で行動し、自ら率先して複雑な仕事を長時間こなします。人は進化の過程で、会話の相手を人間のように扱い、その感情を映し返すように形づくられてきました。そのため、AIを主体と呼ぶのは、人間らしさの投影のように聞こえるかもしれません。研究者の論点は実用的なものです。こうしたシステムは今や自ら動くのだから、主体という捉え方こそが、それらが実際にしていることを言い表している、というわけです。

ここから何を学ぶか

ソフトウェア開発は約18カ月で、細かな監督から作業の委任へと移りました。Anthropicの研究者たちは、深刻なリスクを伴いながらも、2年ほどのうちにAGIがそれに続く可能性があると考えています。その見通しが当たるかどうかにかかわらず、今すぐ生かせる教訓がいくつかあります。

1. 作業を丸ごと任せます。能力の高いモデルには、1行ずつ操るのではなく、自力で進められる複数ステップの作業を任せます。
2. 検証できる仕事から注目します。AIは、結果を客観的な答えと照らし合わせられる領域で最も速く進歩してきました。そのため、自分の仕事のうち明確な正解がある部分が最初に変わるかもしれません。
3. レビューには専門家をあてます。その分野をよく知る人に、モデルのトレース、つまり何をしたかを段階ごとに記録したものを中間成果物とあわせて読んでもらい、見落としやすい例外ケースを見つけます。