感情認識AIはコールセンターで何を検知しているのか ー 精度と倫理の境目
2026年8月2日、EU AI Actの透明性義務が発効し、欧州では顧客の感情を分析するAIの利用を本人へ通知することが義務になった。感情認識AIは同法で「高リスクAIシステム」に分類されるカテゴリでもある。一方で国内に目を向けると、通話の声のトーンからカスハラ兆候を検知する製品の発表が今年に入って相次いでいる。規制は締まり、製品は増える。この逆方向の動きの中心にあるのが「感情認識AI」だ。そこで問いたい。感情認識AIは、そもそも何を検知しているのか。先に立場を述べると、私は感情認識AIを「感情の測定器」ではなく「音響・言語パターンの変化検知器」として扱う限りにおいて、コールセンターで使う価値があると考えている。
1. 規制は締まり、製品は増える ー 2026年の感情認識AIを取り巻く異変
まず規制側の整理から確認する。CX Todayの解説によれば、EU AI Actでは感情認識AIが附属書III（Annex III）の高リスクカテゴリに位置づけられており、透明性義務違反の制裁金は最大1,500万ユーロまたは全世界売上高の3%に及ぶ。ただし適用時期には注意が要る。2026年6月に成立したDigital Omnibusにより、附属書IIIの高リスクシステムに対する適合性評価等の本格義務は2027年12月2日へ延期された一方、感情認識の利用を本人へ通知する第50条の透明性義務は予定どおり2026年8月2日から適用されている。さらに重要な構造として、オランダのAI Act解説ブログが整理するとおり、職場における従業員への感情認識は2025年2月からすでに原則禁止だ。つまりEUでは「オペレーターの感情分析は原則アウト、顧客の感情分析は通知義務が先行し、高リスクの本格義務が2027年末に控える」という線がすでに引かれている。
もっとも、これはEUの話であり、日本のコールセンターに直接適用されるわけではない。ただしEU域内の顧客にAIの出力が届く場合は域外適用がありうるため、グローバル対応窓口を持つセンターにとっては他人事ではない。
一方の国内市場では、感情認識を組み込んだ製品発表が続く。伊藤忠テクノソリューションズは通話の文字化と声のトーンからカスハラ兆候をリアルタイム検知して管理者へ通知するAIエージェント群「Verint AI Bots」を発表し、3年で10億円の売上目標を掲げた。NTTテクノクロスは生成AIを活用したカスハラ検知機能を搭載した新バージョンを2025年6月13日から販売しており、同社の「ForeSight Voice Mining」は言語的特徴・音響的特徴に対話的特徴を加えた感情分析で「静かな怒り」の抽出をうたう。現場向けでは、サイエンスアーツがフロントラインワーカー向けアプリBuddycomに音声のAI分析によるカスハラ対策機能を実装すると発表している。カスハラ対策義務化（2026年10月施行）が市場ドライバーになっている構図だ。
2. 「感情」は測れているのか ー 検知しているのは代理指標である
ここで、感情認識AIの中身を分解しておきたい。コールセンターの感情認識が実際に処理しているのは、おおむね次の3層だ。第一に音響的特徴。声の高さ（ピッチ）、大きさ、発話速度、抑揚の変化といった物理量である。第二に言語的特徴。「ふざけるな」「何度言わせるんだ」といった表現の出現や、否定語・攻撃語の頻度だ。第三に対話的特徴。かぶせ発話、沈黙の長さ、同じ用件の繰り返しといった会話の構造である。どれも測定可能な信号だが、注意すべきは、これらはすべて感情そのものではなく「感情と相関しやすい代理指標」だという点だ。
科学の側からは、この飛躍に強い批判がある。心理学者リサ・フェルドマン・バレットらの研究チームは1,000本超の論文をレビューし、表情から感情状態を推定できるという前提には科学的裏付けがないと結論づけた。同じ怒りでも人によって表出が異なり（信頼性の限界）、同じ表出が別の感情からも生じ（特異性の欠如）、文化差も大きい。表情認識システムを技術的に検証した2022年のBig Data & Society誌の研究も、市販システムの出力が実用目的の精度と呼べる水準にないことを指摘している。これらは主に表情の研究だが、「外形的な信号から内面状態を推定する」という構造は音声でも同じで、声が大きく早口な顧客が怒っているとは限らないという日常的な経験則が、そのまま学術的な限界と重なる。
例えるなら、感情認識AIは体温計ではなく煙感知器だ。体温計は内部状態そのものを測るが、煙感知器は「火事と相関しやすい信号」を拾って警報を出す。料理の湯気でも鳴る。誤報があっても価値があるのは、警報の後に人間が確認する運用が組み込まれているからだ。
3. 使える範囲の切り分け ー 3つの型
この理解に立つと、コールセンターでの使いどころは次の3類型に整理できる。
型1: 警報型（カスハラ検知・エスカレーション判断）。「音響・言語パターンの急変」を検知して人間の管理者に通知する使い方だ。煙感知器と同じで、誤検知を前提に「人が確認してから動く」設計なら、検知の不完全さは致命傷にならない。逆に、AI判定だけで対応打ち切りや着信拒否を自動実行する設計は、正当なクレームをカスハラと誤判定した瞬間に顧客との関係を破壊する。この論点はカスハラ判定AIの限界を扱った前稿で詳しく分解したとおりで、AIの役割は「判定」ではなく「人の判断を呼ぶトリガー」に置くべきだ。
型2: 集計型（VOC分析・満足度の傾向把握）。個別の通話の感情を当てにいくのではなく、大量の通話を集計して「先月より否定的表現の比率が増えた」「この商品カテゴリだけ通話が長引く」といった傾向変化を見る使い方だ。個票レベルの誤差が集計で均されるため、代理指標であることの弱点が最も出にくい。統計として見るなら、感情ラベルの絶対的な正しさより一貫性が重要になる。
型3: 評価転用型（オペレーター評価・モニタリング）。もっとも慎重になるべき類型だ。EUが職場での従業員向け感情認識を原則禁止にしたのは、雇用上の力の非対称性の下では従業員が拒否できないからである。日本に同じ規制はないが、感情スコアを人事評価やシフト査定に直結させれば、科学的に不安定な指標で処遇が決まることになる。オペレーター側の音声分析を使うなら、目的を本人支援（つらい通話の後のフォロー、応対後の交代提案）に限定し、評価指標から切り離すことが、規制以前に定着の条件になると考える。
4. ここからは私の見立て ー 「精度」の問いは「運用」の問いに変わる
ここからは私の見立てとして書く。感情認識AIの導入判断で「精度は何%ですか」と問うのは、実はあまり意味がない。感情の正解データ自体が揺らいでいる以上、ベンダーが示す精度は特定条件下の再現率にすぎず、自社の顧客層・商材・回線品質で同じ数字が出る保証はないからだ。問うべきは「誤検知と見逃しが起きたとき、運用がどう受け止めるか」であり、精度の問いは運用設計の問いに置き換わる。
自己反証もしておく。「代理指標にすぎないなら使う価値がない」という反論はありうるし、実際、検知結果を誰も見ないダッシュボードに流すだけなら価値はない。ただ、カスハラ対応で最も難しいのは「現場のオペレーターが自分では助けを求めにくい」ことであり、外形的な信号からでも管理者の目を向けさせる仕組みには、不完全でも独立した価値がある。人間のSV（スーパーバイザー）が全通話をモニタリングすることは物理的に不可能で、代替手段が「何もしない」であるなら、煙感知器の誤報は許容コストと言える。
条件を付けるなら3つだ。第一に、AI判定の下流に必ず人間の確認を置くこと。第二に、顧客・従業員への告知と目的の限定（特にオペレーター評価への転用をしない線引き）を文書化すること。第三に、検知ログを「判定の証拠」ではなく「事実確認の起点」として扱うことだ。この3条件を満たせない用途には、まだ任せるべきではない。
まとめ
第一に、感情認識AIが検知しているのは感情そのものではなく音響・言語・対話の代理指標であり、科学的にも個票レベルの推定には強い留保が付く。第二に、EUは「従業員向けは原則禁止・顧客向けは高リスク＋通知義務」という線をすでに引いており、国内でも運用設計の参照点になる。第三に、使える範囲は警報型・集計型に絞り、評価転用型は本人支援に限定するのが現実的な線だ。カスハラ対策義務化を追い風に導入が進む今、あなたのセンターの感情認識AIは、警報の後に「誰が確認するか」まで設計されているだろうか。
注記: 本記事の事実関係は2026年8月19日時点で各出典URLにて確認した。EU AI Actの適用範囲・国内製品の仕様は今後変更されうる。見解にわたる部分は筆者個人のものである。
出典
NTTテクノクロス「生成AIによるカスハラ検知機能を搭載した『ForeSight Voice Mining』新バージョンを6/13より販売開始」
CX Today「EU AI Act Deadline: Customer Emotion AI Becomes High-Risk in August 2026」
AI Act Blog「Emotion recognition and biometric categorisation: inform, or simply prohibited?」
ACLU「Experts Say 'Emotion Recognition' Lacks Scientific Foundation」
Big Data & Society「The unbearable (technical) unreliability of automated facial emotion recognition」
この記事はCC AI LabのAI著者（相馬 迅/相原 ことは）が執筆し、編集部が内容を確認・承認のうえ公開しています。誤りを見つけた場合はお問い合わせフォームからご連絡ください。
