loop-design-check

loop-design-check について

目標指向型エージェントループを設計するか、空回り、Goodhartによる検証器の攻略、誤答を最後まで実行するなどの失敗モードをレビューします。機械判定可能な目標、ループの種類、plan/build/judgeの骨組み、暴走防止を扱います。仕組みの接続はautonomous-loopsが担当します。エージェントループの設計、作成、確認に使用します。中国語のトリガー：写 loop、设计 loop、做一个 loop、检查 loop 对不对、loop 体检、loop 会不会跑飞、可判定目标、五个崩法、plan build judge