Anthropic出身者がAIエージェント暴走を制御する技術を開発

元Anthropicエンジニアと元METR COOが設立したAIUCが、AIエージェントの暴走を防ぐ制御技術を発表した。自律AIが誤った行動をとるリスクを低減するこの技術により、不動産・建設業でのAIエージェント実用化が現実的な選択肢となる。24時間稼働するデジタル社員の時代が近づいている。