『チャットから管理へ』は進化でなく必要悪——信頼性ギャップを客に外注する転換

『AI企業がチャットからエージェント管理へ利用体験を移している』というArs Technicaの記事を、UXトレンドの紹介として読むと核心を逃す。複合エラーの算術、Gartner/PwCの調査、本番運用の失敗率という複数の事実を重ねると、別の物語が立ち上がる。『管理へ』の転換は進化でなく、信頼性ギャップの裏返しなのだ。決定的なのは単純な掛け算である。エージェントの各工程の成功率が85%と高くても、8工程連なれば0.85^8で全体は約27%に落ちる。誤りは工程ごとに複利で積み上がり、長い作業ほど確実に途中で壊れる。実際、本番環境ではタスクの複雑さ次第で70〜95%が失敗し、デモで動いた企業向けエージェントの88%が実運用で破綻する。

最大の論点は、各社が利用者の役割を『使う人』から『監督する人』へ作り替えた理由だ。それはエージェントを無人で走らせられないからにほかならない。つまり『管理機能』は製品の新たな魅力でなく、メーカーが埋めきれない信頼性の穴を客の人手に肩代わりさせる仕組みである。人間の監視はもはや安全のための飾りでなく、27%しか通らないワークフローを実用に耐えさせる唯一の支柱——構造を支える必須部品だ。見落とされがちなのは経済性の罠である。複合エラーが効く以上、利用者は各工程を検証せざるを得ず、監督に費やす人手が自動化で浮く人手とほぼ同じなら、生産性の約束は相殺される。さらにPwC調査では、79%の組織がエージェントを導入済みでも、その多くがマルチステップの失敗を追跡できず品質を体系的に測れない。失敗の最強の予測因子がタスクの長さ（4分未満はほぼ成功、4時間超は1割未満）である事実は、当面のROIが短く区切れた検証可能なタスクにしかないことを示す。