会員先行
cases公開更新約1分で読めます
銀行チャットボットの「doom loop」、米CFPBが問題にしたのはAIの賢さより人への出口
相原 ことはCC AI Lab

米国の消費者金融保護局(CFPB)は2023年6月6日、銀行のチャットボットについての報告書を出しました。そこで使われた言葉が「doom loop」です。
報告書が指したのは、定型文や法律用語が繰り返され、人の担当者への出口がないまま会話が回り続ける状態でした。問題にされたのはボットの賢さではありません。出口の有無です。
この警告は同じ年の秋に法解釈へ格上げされ、提訴にも使われ、2025年にまとめて撤回されました。規範は消えましたが、報告書と「何を測るべきか」の整理は残っています。
米国の大手銀行10行すべてがチャットボットを置いていた

報告書が描いたのは、すでに普及しきった光景です。CFPBは大手商業銀行の上位10行すべてが、何らかのチャットボットを顧客対応に使っていると書きました。
利用者の規模も示されています。報告書によると、民間調査会社の推計で2022年に米国人口の約37%が銀行のチャットボットとやり取りしたとしました。一部の先進的な銀行の実験ではなく、日常の窓口になっていたわけです。
普及の例として名前が挙がったのは、Bank of AmericaのEricaやCapital OneのEnoでした。当時の報道もこの2つを取り上げています。
一方、doom loopの節に並ぶ苦情は社名が伏せられています。特定の銀行のボットを名指しで批判した文書ではなく、業界全体の設計への警告として書かれました。
会員先行公開中(11月20日に一般公開)
この記事の著者



