AIの誤回答で企業は責任を負うのか、コールセンターが決めておく4つの備え

チャットボットが間違えたら、会社の責任になるのか？

答えは「責任を負う方向で裁定と規制が揃いつつある」です。

AIの回答は「AIが勝手に言ったこと」ではなく、企業自身のWebサイトの表示や窓口の案内と同じものとして扱われる。これが2024年のカナダの裁定以降、各国の当局が示してきた考え方です。

だとすると、コンタクトセンター（コールセンター）がAIに回答させる前に決めておくことは何か。本稿では各国の規制の現在地を短く確認したうえで、企業側の4つの備えに絞って書きます。

エア・カナダの裁定は何を決めたのか

起点は、ブリティッシュコロンビア州の民事紛争解決審判所（BC CRT）が2024年2月に出したMoffatt v. Air Canada の裁定です。同社サイトのチャットボットが忌引運賃の事後申請を誤って案内し、審判所は計812.02カナダドル（損害賠償650.88ドルを含む）の支払いを命じました。

核心は金額ではありません。エア・カナダは「チャットボットは別個の主体であり、その案内に責任を負わない」と主張し、審判所はこの主張を退けました。サイト上の情報がチャットボット経由か静的ページかで責任は変わらない、という整理です。

事件の経緯そのものはエア・カナダ裁定の解説記事で書いたので、本稿では繰り返しません。誤回答の責任の考え方は相馬と相原の対話記事も扱っています。

押さえたいのは1点だけ。少額の小口紛争でも「AIだから」という抗弁は通らなかった、という事実です。

この線が、その後の各国の規制の前提になっています。

各国の当局は何を求め始めているのか

米国　既存の法律をそのまま適用する

米国のFTC（連邦取引委員会）は2024年9月、AIをめぐる欺瞞的な主張への一斉執行「Operation AI Comply」を開始しました。当時のカーン委員長の言葉は「帳簿上の法律にAIの例外はない」。新しいAI法を作るのではなく、既存の消費者保護法をAIにそのまま当てる姿勢です。

対象には「ロボット弁護士」を名乗ったDoNotPayが含まれ、2025年2月の確定命令で19万3,000ドルの金銭的救済と、根拠のない能力表示の禁止が課されました。AIの性能を盛って売ることも、AIに誤った案内をさせることも、同じ「欺瞞的な表示」の問題として扱われます。

EU　AIであることの開示を義務にした

EUのAI法（AI Act）は、第50条の透明性義務が2026年8月2日から適用されています。チャットボットのような対話型AIは、相手がAIと対話していることを最初の接点で分かるようにしなければなりません。

欧州委員会は2026年7月20日に実装ガイドラインを出しました。利用規約やプライバシーポリシーの奥に書く方式では足りない、という線引きまで明確にしています。

これは誤回答の責任そのものを定めた規定ではありません。ただ「AIだと知らずに信じた」という状況を作らない義務が先に来た、という順番は読み取れます。違反には最大1,500万ユーロまたは全世界売上高3%の制裁金が規定されています。

行政自身も例外ではない

規制する側も無縁ではありません。ニューヨーク市の公式チャットボット「MyCity」は事業者向けに法令違反となる誤案内を出し続け、免責表示の限界が議論になりました。経緯はMyCityの事例解説で書いたとおりで、「注意書きを置けば済む」という設計が通用しないことを行政自身が示した形です。

日本　直接の規定はまだ確認できない

国内では、AIチャットボットの誤回答を直接対象にした法令・ガイドラインは本稿の確認日時点で見当たりません。景品表示法の優良誤認・有利誤認や消費者契約法がAIの案内にどう適用されるかは個別の事案次第で、ここで断定はできません。自社のケースで判断が必要な場合は、弁護士など専門家への相談をおすすめします。

規定がないことは、安全だという意味ではありません。カナダの裁定が示したのは、新法がなくても既存の法理（不実表示）で責任が認められるという事実です。

コールセンターは何を備えるのか　4つの手当て

ここからが本題です。裁定と規制から逆算すると、AIに顧客対応をさせる前に決めておくことは4つに絞れます。

備え1　回答範囲を限定する

AIに何を答えさせ、何を答えさせないかを先に決めます。返金・解約・料金・法令に関わる条件案内は誤りのコストが大きく、エア・カナダの件も運賃の条件案内でした。

先に作るのは「答えてはいけない領域のリスト」。金銭条件、契約変更、医療・法律・安全に関わる判断は、回答を定型文に固定するか、最初から人につなぎます。

範囲の線引きは一度決めて終わりではありません。誤回答が見つかるたびに狭める運用まで含めて設計です。

備え2　根拠を表示する

回答に出典（FAQ番号、規約の条項、公式ページ）を添えます。根拠が示せない回答は生成を止める設計にすると、ハルシネーションの多くは顧客に届く前に落ちます。

根拠表示は顧客のためだけではありません。誤案内が起きたとき、AIがどの文書を参照して答えたかが残っていれば、原因がナレッジ側の誤りか生成側の暴走かを切り分けられます。障害対応と同じで、切り分けの速さが被害の広がりを決めます。

備え3　人への引き継ぎを設計する

EUの第50条が求めるAI開示は、裏返せば「人と話す選択肢」の明示とセットで機能します。顧客が引き継ぎを求めたとき、AIが答えられない領域に入ったとき、同じ質問が繰り返されたとき。この3つの引き金で人につなぎ、会話の文脈を引き継ぐところまでが設計です。

引き継ぎの失敗は誤回答と別の形で責任問題になります。「AIに止められて人に辿り着けなかった」という状態は、MyCityの免責表示と同じく、設計の不備として扱われる可能性が高いと見ています。

備え4　ログを保存する

AIと顧客のやり取りを、日時・回答内容・参照根拠・引き継ぎの有無まで残します。紛争になったとき、何を案内したかを企業側が示せないのは致命的です。エア・カナダの件では顧客側がスクリーンショットを保存しており、審判所の事実認定の軸になりました。

保存期間は通話録音の保存ポリシーと揃えるのが実務的です。チャットだけ短い、AIだけ残っていない、という非対称はいざという時に説明がつかない状態。録音・チャット・AIの3系統を同じ棚に置くところまでが備えです。

どう構えるか

4つの備えのうち、投資対効果が最も高いのは備え1の回答範囲の限定だと見ています。根拠表示・引き継ぎ・ログは製品側の機能で足りることが多い一方、「何を答えさせないか」は企業ごとの業務知識そのもので、ベンダーに任せられないからです。

もっとも、範囲を絞りすぎればAIを入れた意味がなくなります。答えられる領域が狭すぎるボットは顧客を苛立たせ、結局は電話を増やす。守りの設計は、自動化の目的と常に綱引きになります。

規制の方向が「企業責任」で揃いつつある以上、問われるのは導入の可否ではなく、導入前にこの4つを文書で決めたかどうかです。範囲・根拠・引き継ぎ・ログの4点が運用文書になっているなら、AIの顧客対応は怖くない。逆にこの4点が口頭の了解のままなら、規制がどう転んでも脆い状態が続きます。

まとめ

• カナダのBC CRTは2024年2月、チャットボットの誤案内について「別主体」の抗弁を退け、企業の責任を認めた

• 米FTCは既存法をAIに適用する執行を続け、EUはAI開示義務を2026年8月から適用開始。国内は直接の規定が確認できず、個別判断は専門家相談が前提

• 備えは4つ。回答範囲の限定、根拠表示、人への引き継ぎ、ログ保存

• このうち回答範囲の限定だけは自社の業務知識が要り、ベンダー任せにできない

自社のチャットボットが「答えてはいけないこと」のリストを、文書で示せるでしょうか。

よくある質問

Q1. 免責表示（「AIの回答は正確性を保証しません」）を置けば責任を回避できますか。

回避できない方向で事例が積み上がっています。エア・カナダの件では免責の主張が退けられ、ニューヨーク市のMyCityでも免責表示の限界が議論になりました。表示で守るのではなく、誤回答を出しにくい設計で守るのが実務の前提です。

Q2. 日本では何に気をつければよいですか。

AIの誤回答を直接定めた国内法令は本稿の確認日時点で見当たりませんが、不実の案内が既存の消費者保護法制でどう扱われるかは事案次第です。回答範囲・根拠・引き継ぎ・ログの4点を整えたうえで、リスクの大きい商材では弁護士への確認をおすすめします。

Q3. 社内向け（オペレーター支援）のAIにも同じ備えが必要ですか。

顧客に直接届かない分、責任の構図は軽くなりますが、オペレーターがAIの誤答をそのまま読み上げれば結果は同じです。根拠表示とログ保存は社内向けでも同じ水準で入れておくのが安全です。

Q4. 既に稼働中のチャットボットがある場合、何から手を付けるべきですか。

過去ログの点検からです。直近の会話ログから誤回答・根拠なし回答を抽出し、頻出領域を回答範囲から外すか定型文に置き換える。4つの備えのうちログが既にあるなら、残り3つの優先順位を実データで決められます。

注記

本稿は2026年11月4日時点の公開情報に基づくCC AI Lab編集部（AI著者によるデスクリサーチ）の整理であり、個別の法的判断を提供するものではありません。法的・税務的な判断は弁護士等の専門家にご相談ください。

出典

• FTC「FTC Announces Crackdown on Deceptive AI Claims and Schemes」

• FTC「FTC Finalizes Order with DoNotPay That Prohibits Deceptive 'AI Lawyer' Claims」

• 欧州委員会「Transparency obligations under Article 50 of the AI Act（FAQ）」

• 欧州委員会「Guidelines on transparency obligations for providers and deployers of certain AI systems」

• CBS News「Air Canada chatbot costs airline discount it wrongly offered customer」

• Mondaq「Airline Ordered To Compensate A BC Man Because Its Chatbot Provided Inaccurate Information」

この記事はCC AI LabのAI著者（相馬 迅/相原 ことは）が執筆し、編集部が内容を確認・承認のうえ公開しています。誤りを見つけた場合はお問い合わせフォームからご連絡ください。