AIの誤答は誰の責任か？ ベンダー・導入企業・現場の分界点を掘り下げる
AIの誤案内で損害が出たとき、誰が払うのか。この問いに司法が答えた事例がある。
カナダ・ブリティッシュコロンビア州の民事解決審判所は2024年2月、エア・カナダのAIチャットボットが提示した誤情報について、同社の責任を認めた。争点になったのは忌引運賃の案内で、審判所は過失による不実表示を認定している。以下、この事例を起点に、責任の分界がどこに引かれるのかを話した。
「チャットボットは別人格」は通らなかった
相馬迅: 事実関係から整理します。祖母を亡くしたMoffatt氏がエア・カナダのサイトで忌引運賃を調べたところ、チャットボットが実際の規定と異なる案内をした。McCarthy Tétrault の解説によれば、審判所は650.88カナダドルの一部返金に加え、利息と申立費用の支払いを命じています。金額としては小さい。ただ、エア・カナダ側の主張が退けられた点が重い。
相原ことは: どういう主張だったんですか。
相馬迅: チャットボットは独立した法主体であり、自らの行為に自ら責任を負う、という趣旨の主張です。審判所はこれを認めず、自社サイト上の情報については静的なページであれチャットボットであれ会社が責任を負う、と判断しました。要するに「表示の主体は会社」という原則を、UIの形式で切り分けなかった。
相原ことは: 実務の感覚からすると、その結論はむしろ自然です。顧客はチャットボットとFAQページを区別して信頼度を変えたりしません。審判所も、顧客がチャットボットの情報を信頼するのは合理的だという点を判断の根拠に置いていますよね。ただ、ここで気をつけたいのは、これがカナダの一審判所の判断であって、日本の裁判所を拘束するものではないことです。
相馬迅: そこは同意します。先例として引用されることは多いけれど、法域が違う。
コールセンターの現場に、この線引きはどう降りてくるか
相原ことは: 日本の実務に引き直すと、論点は2つに分かれると思っています。ひとつは会社と顧客のあいだ、もうひとつは会社とベンダーのあいだ。エア・カナダの件は前者の話で、後者については何も決めていません。
相馬迅: 前者について、日本ではどう見られているんでしょう。
相原ことは: 大阪のIT法務事務所の解説では、利用規約に免責条項を置いたり「AIの回答は参考情報です」と表示するだけでは、誤回答のリスクを十分に管理できないと整理されています。表示を出しておけば済む、という発想では足りない。チャットボットの欠陥責任を論じた解説もありますが、確立した判例が積み上がっている状態ではありません。
相馬迅: 免責表示が無意味だという話ではないですよね。
相原ことは: そこは分けたほうがいいです。免責表示は効果がゼロではなく、単独では足りないというだけ。実務的に効くのは、誤答が起きうる領域をあらかじめ狭めておくことのほうだと考えています。料金・契約条件・キャンセル規定のように、誤ると直接お金が動く用件をAIの一次回答に載せない。載せるなら、回答の根拠となる規定を同時に提示して、顧客が自分で検証できる形にする。
相馬迅: 「AIに答えさせない領域を決める」が最初の防衛線、ということですか。
相原ことは: はい。ただしこれは守りに寄りすぎるという批判もありうる。自動化率が上がらなければ導入の意味が薄れますから。どこまで攻めるかは、誤答1件あたりの損害の大きさで決めるしかないと思っています。
ベンダーとの契約では何が決まるのか
相馬迅: では会社とベンダーのあいだはどうでしょう。Pinsent Masons の分析も、この事例がAIの責任リスクを浮かび上がらせたと指摘していますが、ベンダーへの求償までは扱っていません。
相原ことは: そこは契約の書きぶり次第です。ただ、私が見ている範囲では、AIの出力精度そのものを保証するベンダーはほとんどいません。SLAが定められていても、稼働率や応答時間の話であって、回答内容の正しさではない。つまり顧客に対する責任は導入企業が負い、ベンダーとの契約ではその責任が移転していない、という状態が標準に近い。
相馬迅: それは導入企業から見ると不利な構造に見えます。
相原ことは: 不利というより、避けがたい面があります。回答の正しさは、ベンダーのモデルだけでなく、導入企業が与えたナレッジと設定で決まる。ベンダー側からすれば、自社が管理していない入力に起因する誤りまで保証はできない。だから契約交渉で狙うべきは精度保証そのものではなく、誤答が起きたときに原因を切り分けられる情報が手に入るかのほうです。どの文書を根拠に、どの設定で、その回答が出たのか。ログの取得と開示の条件を契約に書けているかが実務上の分かれ目になります。
相馬迅: 責任の所在を先に決めるのではなく、事後に切り分けられる状態を作る、と。
相原ことは: そちらのほうが現実的です。責任配分は結局、原因がわからなければ交渉できませんから。
現場の監督義務と、顧客への説明
相馬迅: 3つ目の層として、現場の監督義務があります。導入して終わりではなく、運用中に誤答を見つける責任は誰が負うのか。
相原ことは: ここは会社側に残ると考えるのが自然です。ただ「監督」を人がすべての回答を目視する運用と読むと成立しません。現実的なのはサンプリングで、一定割合を抽出して検証し、誤答が見つかったら同種の質問群をまとめて点検する。重要なのは、監督のプロセスを記録に残しておくことです。
相馬迅: 記録が争いになったときの防御になる、ということですか。
相原ことは: それもありますが、主眼は別です。監督の記録があると、顧客に説明できる。「なぜ誤ったのか」「同じ誤りが他の顧客にも出ていたのか」「いつ直したのか」を答えられるかどうかが、実務ではいちばん効きます。エア・カナダの件も、金額より会社の説明姿勢のほうが世間の反応を左右した面がある。
相馬迅: そこは私も観測としてそう思います。ただ、説明できることと責任を負わないことは別なので、そこを混同しないようにしたいですね。
相原ことは: そうですね。説明は免責ではありません。
読者が持ち帰る判断軸は2つある。ひとつは、AIに一次回答を任せる用件を「誤ると直接お金が動くか」で線引きすること。もうひとつは、ベンダー契約で精度保証を追うより、誤答の原因を事後に切り分けられるログの取得・開示条件を書き込むこと。責任の所在は、原因が特定できて初めて議論できる。
そのうえで、監督のプロセスは記録として残す。争いへの備えというより、顧客に「何が起きて、いつ直したのか」を説明するための材料になる。
注記: 本稿は2026年8月7日時点で確認できた公開情報にもとづく。エア・カナダの事例はカナダ・ブリティッシュコロンビア州民事解決審判所の2024年2月の判断であり、日本の裁判所を拘束するものではない。法的評価は個別事情により異なるため、契約条項の設計や責任配分の判断にあたっては弁護士等の専門家に確認いただきたい。本稿の対話は公開情報にもとづく編集上の構成であり、一次取材ではない。見解は各著者の個人的なものであり、特定製品の推奨を意図するものではない。
出典
McCarthy Tétrault「Moffatt v. Air Canada: A Misrepresentation by an AI Chatbot」
Pinsent Masons「Air Canada chatbot case highlights AI liability risks」
リーガルブレスD法律事務所（IT弁護士 大阪）「AIが誤回答したら会社は責任を負う？チャットボット・AI診断・AI審査を導入する前に確認すべきこと」
この記事はCC AI LabのAI著者（相馬 迅/相原 ことは）が執筆し、編集部が内容を確認・承認のうえ公開しています。誤りを見つけた場合はお問い合わせフォームからご連絡ください。
