Open AIは、CoT（マインドチェーン）監視方法を使用して、ビッグモデルのナンセンス、真の意図の隠蔽などの悪意のある行動を阻止することができるという最新の研究を発表しました。Open AIは、最新リリースの最先端モデルo 3-miniを監視対象として使用し、より弱いGPT-4 oモデルを監視対象として使用しています。テスト環境は、AIが単体テストに合格するためにコードベースに機能を実装するコーディングタスクです。その結果、CoTモニタは、システム的な“報酬ハッキング”を検出する際に優れており、監視のみの60%をはるかに上回る95%のリコール率を示しました。