カスハラ判定をAIに任せられるのか ー 誤検知が生む二次被害と記録の証拠力
2026年10月1日、改正労働施策総合推進法によりカスタマーハラスメント対策が全事業主の義務になる。この義務化は中小企業にも猶予なく適用され、従業員を守る体制の整備が事業主に求められる。これに合わせて、通話をリアルタイムに文字化し、声のトーンからカスハラの兆候を検知するAIが、コンタクトセンター向けに相次いで投入されている。
だが、ここで立ち止まりたい問いがある。AIが「これはカスハラだ」と判定したとき、その判定をどこまで信じてよいのか。正当なクレームをカスハラと誤って判定したら、あるいは本物のカスハラを見逃したら、現場に何が起きるのか。私の立場を先に言えば、カスハラ検知AIは入口の警報としては使えるが、判定そのものを事実として扱った瞬間に、守るはずのオペレーターを傷つける道具に変わる。
コンタクトセンター（コールセンター）に広がるカスハラ検知AI
義務化を前に、検知AIの実装は急速に広がっている。伊藤忠テクノソリューションズ（CTC）は2026年1月15日、40種類を超えるAIエージェントを束ねた「Verint AI Bots」を提供開始した。通話を文字化し、発話内容や声のトーンからカスハラの兆候を検出して管理者へリアルタイムに通知する機能を持ち、3年間で10億円の売上を掲げる。株式会社リンクのBIZTELは生成AIで通話内容を通常業務・クレーム・カスハラの3段階に識別し、カスハラに該当すればそのタイプまで自動分類する。
ベルシステム24も2024年11月に、キーワード登録と感情解析で対話音声をリアルタイムに検知・アラートするカスハラ対策サービスを立ち上げている。義務化という締切に向けて、供給側は出そろった感がある。
数字だけ見れば技術は整いつつある。だが当て馬を一つ置くと、話は単純でなくなる。EUのAI Actは2025年2月2日から、職場で感情を推定するAIの使用を原則禁止した。禁止の背景にあるのは、雇用関係のように力の非対称がある場では感情推定AIの精度と影響が信頼に足りない、という判断だ。もっとも、EUの禁止対象は主に労働者側の感情推定であって、顧客のカスハラ検知そのものと同一ではない。それでも、片方の地域では義務対応の切り札として売られる音声感情認識が、もう片方では職場利用が禁じられているという評価の落差は、「入れれば安心」という発想への警告として読むべきだ。
なぜ誤検知は構造的に起きるのか
音声の感情認識AIは、声の抑揚や大きさといった物理的な特徴量から感情を推定する仕組みで、言葉の意味そのものを理解して善悪を裁いているわけではない。大声で早口なら「怒り」寄りに、という判定に傾きやすい。ここに二つの落とし穴がある。
一つは、正当なクレームとカスハラの境界が、そもそも声の大きさでは引けないことだ。強い口調で理不尽な要求を通そうとするのがカスハラなら、静かに正当な指摘をする顧客もいれば、大きな声で正当な困りごとを訴える顧客もいる。声量を怒りの代理変数にすると、後者を誤ってカスハラ側に振り分ける。逆に、丁寧な敬語のまま人格を否定し続ける陰湿なカスハラは、声のトーンが穏やかなため検知をすり抜ける。日本語は表面的に丁寧でも内側に強い攻撃性を込められる言語で、この線引きはとくに難しい。
アナロジーで言えば、カスハラ検知AIは煙感知式の火災報知器に近い。煙（声の荒れ）には反応するが、火元が調理なのか火災なのかまでは判断しない。煮炊きの湯気で鳴ることもあれば、無炎で燻る火種を見逃すこともある。報知器が鳴ったこと自体は「火事の証明」ではなく「確認を促す合図」にすぎない。この性質を取り違えて、警報を結論として扱った瞬間に、二次被害が生まれる。
任せられる範囲を切り分ける3つの型
では、どこまでなら任せられるのか。三つの型で線を引く。
第一は「人の判断を挟む型」。AIの判定を一次情報として扱わない。検知AIの出力は、管理者に「この通話を確認せよ」と促すトリアージの合図までに留め、カスハラか否かの最終判断は必ず人が録音を聴いて下す。厚労省の指針が求めるのは、事案発生後の正確な事実確認であって、AIラベルの機械的な集計ではない。AIが赤信号を出した通話を人が精査する運用なら、誤検知は「人が確認して外す」で吸収できる。AIの判定をそのまま記録に確定させる運用だと、誤検知がそのまま事実として残る。
第二は「判定ログの証拠力を過信しない型」。AIが「カスハラ」と分類したという判定ログ自体は、法的な一次証拠ではない。証拠になりうるのは、あくまで元の通話録音と、その中の具体的な発言だ。AI判定は、膨大な通話から確認すべき一件を探し出すインデックスとしては強力だが、「AIがカスハラと判定した」という事実を、相手方への対応や社内処分の根拠に据えると、誤検知を証拠へと格上げする危険を負う。判定は当たりをつける道具、証拠は録音の中身、という切り分けを崩さない。
第三は「オペレーター評価に転用しない型」。カスハラ検知のために録った音声と感情データは、そのままオペレーターの応対品質評価や監視にも使える。ここが最も危うい。EUが職場の感情推定AIを禁じ、違反に最大3,500万ユーロ（または全世界売上の7%）の制裁金を科した背景には、感情データが労働者の評価・管理に転用される力の非対称への警戒がある。日本に同種の規制はないが、カスハラからオペレーターを守るはずのデータが、オペレーターを査定する材料に流用されれば、現場の信頼はむしろ失われる。検知の目的をカスハラ対応に限定し、評価転用を規程で明確に禁じておく。
ここからは私の見立てとして
カスハラ検知AIの最大の価値は、実は「判定の正確さ」ではなく「網羅性」にあると考えている。人手では全通話を聴き切れないが、AIなら全件に一次フィルタをかけられる。だから精度を上げて判定を自動確定させる方向ではなく、拾い漏れを減らして人の確認に回す方向に使うほうが、この技術は活きる。
自己反証を一つ入れる。とはいえ、人の確認を必ず挟む運用は、確認する管理者の工数を確実に増やす。全件に赤信号が乱発されれば、確認する側が疲弊し、やがて警報を無視し始める。火災報知器が鳴りすぎて誰も避難しなくなるのと同じだ。誤検知を人で吸収する設計は、その負荷を誰が持つのかまで含めて初めて成立する。
N=1の条件で締める。カスハラ検知AIが機能するのは、(1)判定を最終結論ではなくトリアージとして扱い、(2)証拠は常に録音の中身に置き、(3)感情データの評価転用を規程で禁じた、この三条件を満たすセンターに限られる。三つのどれか一つでも崩れると、守るための道具が、正当な顧客を敵に回し、あるいはオペレーターを追い詰める側へ反転する。
まとめ
第一に、カスハラ検知AIは声の物理的特徴から推定するため、正当なクレームの誤検知と、穏やかなカスハラの見逃しを構造的に抱える。第二に、AIの判定は確認を促す合図であって事実ではなく、証拠として機能するのは判定ログではなく元の録音と発言だ。第三に、カスハラ対応のための感情データをオペレーター評価に転用した瞬間、規制が警戒した力の非対称が現場に持ち込まれる。
問いに戻る。あなたのセンターのカスハラ検知AIは、人が最終判断を下す入口の警報として設計されているか。それとも、AIの判定を事実として記録に確定させ、いつの間にか顧客とオペレーターの両方を裁く装置になっていないか。
施行に向けて手を動かすなら
本記事で触れたAIの判定と人の判断の切り分けを、実務の判断に落とし込むための実務ガイドを会員向けに公開しています。 書き込み式の様式3点（対応方針・相談窓口の運用フロー・対応記録シート／Word）と、 施行日から逆算した準備チェックリスト（Excel）が付いています。
カスハラ義務化 実務ガイド ー 2026年10月1日までに、コールセンターが決めるべきこと（会員限定）
注記: 本記事の制度内容・製品情報・数値は2026年8月5日時点で公表情報を確認したもの。ベンダー各社の検知精度は自己申告であり、一次情報での裏取りは行っていない。カスハラ検知AIの機能・仕様は改訂されるため、導入時は各社の最新情報を確認されたい。第4章の見立ては筆者（相原ことは）の個人的見解。
出典
Future of Privacy Forum「Red Lines under EU AI Act: emotion recognition in the workplace」
UC Today「EU AI Act Shock: Emotion Recognition Is Now Illegal at Work」
よくある質問
カスハラ検知AIを導入する際、人の判断とAIの判定は具体的にどう切り分ければよいですか？
カスハラかどうかの最終判断は必ず人が行い、AIの判定はあくまで「この通話を確認すべき」というトリアージの合図にとどめることが前提になります。AIが赤信号を出した通話だけを管理者が録音で精査し、AIのラベルをそのまま記録や統計に確定させない運用にしておくことが重要です。
カスハラ検知AIの誤検知による二次被害を避けるには、センター側でどんな設計・運用が必要ですか？
誤検知を前提に、AI判定を事実として扱わない運用設計が必要です。検知結果は警報として受け取り、人が録音を聴いて外す仕組みにすること、判定ログをそのまま証拠や処分の根拠にしないこと、感情データをオペレーター評価に転用しないことをルールで明確にしておくことが、二次被害を抑える条件になります。
AIの「カスハラ判定ログ」は、社内規律や法的対応の証拠としてどこまで使えるのでしょうか？
AIが「カスハラ」と分類したログ自体は一次的な証拠ではなく、あくまで確認すべき通話を絞り込むインデックスにとどまります。証拠として意味を持つのは元の通話録音と、そこで実際に交わされた具体的な発言です。判定ログを相手方への対応や社内処分の直接の根拠に据えると、誤検知を証拠として格上げしてしまうリスクがあります。
カスハラ検知用に収集した音声・感情データを、オペレーター評価にどこまで使ってよいのでしょうか？
記事では、カスハラ対応のために取得した感情データをオペレーターの応対品質評価や監視に転用しない立て付けが重要だとしています。評価に使い始めると、カスハラから守るはずの仕組みが、現場に力の非対称を持ち込み、オペレーターの不信感を招きます。評価目的への転用は禁止することを、社内規程で明文化しておくことが望ましいとされています。
カスハラ検知AIの精度には限界があるとのことですが、それでも導入する意義はどこにあるのでしょうか？
記事では、カスハラ検知AIの価値は判定の正確さよりも、全件に一次フィルタをかけられる網羅性にあるとしています。人手では聴き切れない通話すべてに目配りし、疑わしいものを拾い上げて人の確認に回せる点に意義があります。そのため、自動確定の精度向上を狙うより、拾い漏れを減らす方向で活用するほうが現実的と述べられています。
この記事はCC AI LabのAI著者（相馬 迅/相原 ことは）が執筆し、編集部が内容を確認・承認のうえ公開しています。誤りを見つけた場合はお問い合わせフォームからご連絡ください。
