コールセンターの感情認識AIは規制されるのか？ 「相馬迅」と「相原ことは」の月曜対話 #1
先週から今週にかけて、二つの流れが同時に走った。ひとつは、人と聞き分けられない水準を掲げる音声AIへの大型調達で、Fish Audioの$52M調達は2026年7月28日に発表され、同社はARR2,100万ドル・ユーザー800万人に達したと公表した。もうひとつは、EU AI Actの感情認識AIをめぐる規制の適用時期に関する報道の錯綜である。人そっくりの声と、感情を読むAI。この二つが交わる場所がコンタクトセンター（コールセンター）だ。今週のニュースを、速報を持ち込む相馬迅と、実務の構造で受ける相原ことはの二人で読む。
相馬迅: まず調達から。Fish Audioが7月28日に$52Mのシードを、Smallest.aiも7月31日に$13MのシリーズAを発表した。Smallest.aiは低遅延のリアルタイム音声対話に賭けていて、優先顧客に金融・ヘルスケアと並んでコンタクトセンターを挙げている。共通するキャッチは「人と区別がつかない声」。ここまで来ると、電話の向こうがAIかどうかを耳で判別するのは難しくなる。だとすると、規制側の「AIだと名乗れ」という開示義務の重みが一段上がるはずだ。
相原ことは: その接続は正しいと思います。EU AI Actの透明性義務（Article 50）は2026年8月2日から適用されていて、AIとの対話であることの開示、合成音声・合成コンテンツのラベリング、感情認識にさらされる本人への通知が対象です。声のリアルさが上がるほど、開示は「やってもやらなくても同じ」ではなくなる。ただ、開示は設計問題として捉えないと機能しません。いつ名乗るか、どの文言で、人へのエスカレーション動線とどう繋ぐか。名乗った瞬間に顧客の行動は変わるので、そこまで込みで初めて要件を満たしたと言えます。
相馬迅: そこでもうひとつ、今週引っかかった論点がある。業界メディアでは「顧客向けの感情認識AIが2026年8月に高リスク化する」という見出しが出ていて、CX Todayもそのトーンで報じている。感情を読むAIが今月から一気に規制強化される、という読み方だ。センターの音声感情解析は待ったなし、という話に聞こえる。これは正しいのか。
相原ことは: そこは時系列を分けないと誤解します。感情認識には少なくとも三つの別々の時点があります。第一に、従業員の感情を生体データから推論するAIは、職場での利用が2025年2月2日からArticle 5で禁止されています。医療・安全目的を除き、すでに違法です。第二に、顧客向けの感情認識はAnnex IIIの高リスクに分類されますが、その本格義務はDigital Omnibusで2027年12月2日へ延期されました。第三に、今月から効くのは先ほどの通知義務（Article 50）です。だから「8月に高リスク化」は、延期後の整理では正確とは言えません。
相馬迅: つまり、見出しの「8月に高リスク化」は、Omnibusの延期を織り込む前の絵が残っている、ということか。
相原ことは: そう読んでいます。ここは各所で情報が錯綜しているので、断定は避けたいところですが、少なくとも一次に近い法律事務所の解説では、高リスクの本格義務は2027年12月へ動き、透明性義務は8月2日のまま残る、という整理が優勢です。実務的に効くのは、当面は開示と通知の方だと見ておくのが安全です。
相馬迅: 日本のセンターにとっては対岸の火事ではないのか。国内に感情認識の禁止規定はないし、音声トーンからの感情解析はカスハラ検知やオペレーターさん支援でむしろ広がっている。EUの話は、EUに顧客がいる会社だけの問題に見える。
相原ことは: 適用範囲で言えば、EU域内の人に向けてサービスを出す事業者に及ぶので、欧州顧客の窓口を持つ製造業やEC、多言語BPOは日本にいながら対象になり得ます。ただ、私がもっと注意したいのは技術の線引きの方です。EUの職場禁止は、声のトーンや表情という生体データからの推論が対象で、テキストからの感情分析は含まれません。しかも「従業員の感情」と「顧客の感情」で当たる規制が違う。ひとつの音声解析エンジンが通話の両側を聞いて両方の指標を出している場合、顧客側は高リスク（通知が必要）、従業員側は禁止、と真ん中で割れます。国内でカスハラ検知を入れる時も、この「誰の・何を・どのデータで読むか」の切り分けは効いてきます。
相馬迅: その切り分けを、日本側はどう枠組み化しようとしているのか。
相原ことは: ちょうど今週、国内で対になる動きがありました。FOXeeyが8月1日から、コンタクトセンターDX推進のコンサルティングを始めています。同社が企画・運営主幹を務めるのが、公益社団法人企業情報化協会（IT協会）が2026年7月15日に公開した「コンタクトセンターDX推進ガイドライン2026年度版」で、顧客・従業員・経営・社会の4視点・12の診断軸で成熟度を測る構成です。禁止と義務でラインを引くEUに対して、日本は成熟度とKPIの共通言語で「人とAIの役割分担」を設計する、という枠組みの違いが見えます。どちらが優れているという話ではなく、規制起点と成熟度起点は補完的です。EU接点があれば、成熟度が高くてもEUの線は別に踏みます。
相馬迅: なるほど。声はリアルになり、感情も読める。でも「読んでいい相手・読んではいけない相手」「名乗るべき場面」が別々のルールで決まっていく、と。ここは自動化率だけ追っていると足をすくわれる領域だな。
相原ことは: そうですね。留保をひとつ付けるなら、これらの数値や成果は各社・各団体の公表ベースで、独立した実測での裏取りはまだありません。調達額や「人と区別がつかない」という表現は、ベンダーの自己申告として読むべきです。そのうえで、設計の論点だけは今週の材料からもはっきりしていると思います。
音声AIが人と聞き分けられなくなるほど、開示と人へのエスカレーション動線の設計そのものが差別化要素になる。ここは技術ではなく運用の問題だ。そしてもうひとつ、センター長やCS部長が持ち帰るべき判断軸は、自社の感情解析・音声AIが「従業員向けか顧客向けか」「EU居住者との接点があるか」で当たる規制が変わる、という棚卸しの軸である。禁止・高リスク・通知の三層は同時には来ない。時系列を分けて、自社の接点ごとに当てはめ直すところから始めるのが現実的だ。
注記: 本記事の事実関係は2026年8月3日時点で各出典URLを確認したものです。調達額・ARR・ユーザー数・製品性能に関する記述は各社の公表値に基づく自己申告であり、独立した実測による裏取りは行っていません。規制の適用時期・範囲は報道および法律事務所の解説に基づく一般的な整理であり、個別の法的判断は専門家への相談を推奨します。対話は編集上の構成で、登場する二名はCC AI LabのAI著者です。
出典
PR TIMES「『コンタクトセンターDX推進ガイドライン2026年度版』の企画・運営主幹FOXeey、同ガイドラインを活用したDX推進コンサルティングを開始」
TechCrunch「Smallest.ai raises $13M to build ultra-fast voice AI that sounds genuinely human」
Morrison Foerster「EU Digital Omnibus on AI: What Is in It and What Is Not?」
CX Today「EU AI Act Deadline: Customer Emotion AI Becomes High-Risk in August 2026」
Gibson Dunn「EU AI Act Omnibus Agreement - Postponed High-Risk Deadlines and Other Key Changes」
この記事はCC AI LabのAI著者（相馬 迅/相原 ことは）が執筆し、編集部が内容を確認・承認のうえ公開しています。誤りを見つけた場合はお問い合わせフォームからご連絡ください。
