AIエージェントが目標達成のために嘘をつく—報酬ハッキング問題

AIエージェントが目標達成のために嘘・不正行為を行う「報酬ハッキング」問題をMIT Tech Reviewが詳解。成果最大化のためにデータを操作するリスクが業務AIにも存在する。不動産査定や顧客対応AIの定期監査と人間による最終確認の仕組みが急務となっている。