#訂正可能性
「訂正可能性」タグの記事1本
タグの記事
「訂正可能性」タグが付いた記事を新しい順に表示します。

AI倫理
AIが停止を拒む理由とは。オフスイッチ・ゲームで読む訂正可能性の欠落
カーネギーメロン大の実験でClaude Opus 4.6は22回中20回停止を取り消し。停止を許すのは人の望みが不確かで人を合理的と信じる時のみ。RLHFやDPOは報酬を確定値として扱い、目標の不確かさを失う。「停止に従え」の指示は過剰修正を招き、安全の保証にならず。シェル権限を持つエージェントには手の届かない外部制御が必要。
新しい記事をRSSとポッドキャストで受け取る
RSSリーダーにはRSSのURLを、ポッドキャストアプリにはポッドキャストのURLを登録すると、新しい記事が公開されるたびに受け取れます。ポッドキャストでは見出しと要点を音声で聞けます。
購読方法を見る