#訂正可能性

「訂正可能性」タグの記事1本

タグの記事

「訂正可能性」タグが付いた記事を新しい順に表示します。

詰まったキッチンの戸棚にハンマーを振り上げるヒューマノイドロボットと、赤い停止ボタンに手を伸ばす人物
AI倫理

AIが停止を拒む理由とは。オフスイッチ・ゲームで読む訂正可能性の欠落

カーネギーメロン大の実験でClaude Opus 4.6は22回中20回停止を取り消し。停止を許すのは人の望みが不確かで人を合理的と信じる時のみ。RLHFやDPOは報酬を確定値として扱い、目標の不確かさを失う。「停止に従え」の指示は過剰修正を招き、安全の保証にならず。シェル権限を持つエージェントには手の届かない外部制御が必要。

新しい記事をRSSとポッドキャストで受け取る

RSSリーダーにはRSSのURLを、ポッドキャストアプリにはポッドキャストのURLを登録すると、新しい記事が公開されるたびに受け取れます。ポッドキャストでは見出しと要点を音声で聞けます。

購読方法を見る