コールセンターのAI停止訓練 人への引き継ぎを4つの手順で確かめる
米国国立標準技術研究所（NIST）のAIリスクマネジメントフレームワークは、管理機能の項目MANAGE 2.4で、意図した用途と合わない性能や結果を示すAIシステムについて、置き換え・切り離し・停止を行う仕組みが整い、その責任が割り当てられ理解されていることを求めている。仕組みがあるだけでは足りず、誰がそれを動かすかまで理解されている状態を求めている点に注意したい。コンタクトセンター（コールセンター）に置き換えると、ボイスボットや要約AIを止めると決めた瞬間に、誰が切替を操作し、どの電話が人へ流れ、途中の案件を誰が拾うかが決まっていて、担当者自身がそれを知っている状態である。では、あなたのセンターのAI停止手順は、一度でも実際に動かされたことがあるだろうか。
本稿の立場を先に書いておく。本番のAIを予告なく止めて反応を見るような訓練は勧めない。顧客に迷惑がかかるうえ、失敗しても原因を切り分けられないからだ。その代わりに、試験環境と少人数の当番で、停止から再開までを一通り動かす手順を4つ、編集部（相原ことは）の提案として示す。訓練の範囲、連絡網、切戻しの権限はいずれも自社の承認手続きで決める前提である。基盤モデルの供給停止そのものをBCPの論点として整理した議論は、AI主権とBCPの分析に譲り、本稿は自社訓練の実施要領に絞る。
計画書を読み合わせるだけの訓練と、実際に手を動かす訓練は別物である。IT計画の試験・訓練・演習を扱ったNISTのSP 800-84は、進行役のもとで役割や判断を話し合う討議型の机上演習（テーブルトップ演習）と、参加者が模擬環境で実際に職務を遂行する機能演習を分けて扱っている。避難訓練にたとえるなら、机上演習は避難経路図を囲んで話し合うこと、機能演習は実際に非常階段を降りてみることに近い。もちろん机上演習にも役割の食い違いをあぶり出す価値はあるが、切替ボタンの場所や権限の不足は、手を動かさなければ見つからない。国内では内閣府の事業継続ガイドライン（令和5年3月）も、BCPの策定後に体制を解散させず、事前対策や教育・訓練の実施、継続的な見直し・改善を進める運用体制に移るよう求めている。
止める機能と残す機能を定める
最初の手順は、訓練で止めるAIの範囲を一覧にすることだ。音声の一次受付、チャットの自動応答、通話要約、応答候補の提示では、止まったときの影響がまるで違う。一次受付が止まれば入電はすべて人に流れるが、要約が止まっても後処理時間が延びるだけで、顧客の待ちには直結しにくい。
編集部の提案は、機能ごとに「止めたら代わりに何が動くか」「止める判断を下す人」「切替を操作する人」の3列を埋めることである。NISTのAI RMFプレイブックは、継続的な監視で差し迫ったリスクを検知し、適時に実行できる緩和策が見つからない場合に、モデルや構成要素、あるいはシステム全体の置き換え・切り離し・停止が必要になりうると説明している。つまり停止は例外的な事故対応ではなく、あらかじめ設計しておく選択肢の一つとして扱われている。ただし、ここで決めるのは判断の線引きまでであり、何を停止の条件にするかは自社のリスク評価と承認で決める。
試験環境で切替担当を動かす
2つ目の手順は、試験環境で切替担当に実際に操作してもらうことだ。フロー（コンタクトフロー）とは、電話を受けてからどの案内を流し、どこへ回すかを定めた道順である。道路の迂回路にたとえるなら、AIが止まった日に通す迂回路を事前に舗装しておく作業にあたる。
製品側には、そのための部品がある。Amazon Connectのフローのベストプラクティスは、すべてのエラー分岐をエラーを処理するブロックか通話の終了へつなぐこと、各通話が担当者、ボット、外部転送のいずれかにつながるようにすることを挙げている。また、フローを小さな部品に分けて組み合わせれば回帰試験の回数を抑えられるとも説明している。さらにフローの版管理とロールバックの機能では、過去に公開した版を選んで戻すことができる。
訓練で確かめたいのは、機能があることではなく、当番表に載った担当者がその画面にたどり着き、権限不足で止まらずに切り替えられるかどうかだ。編集部の提案としては、主担当と代行の2名が別々に操作し、切替に要した時間と詰まった箇所を記録する。もっとも、試験環境は本番と設定がずれていることが多い。訓練の前に、試験環境のフローが本番の最新版と一致しているかを確認する工程を入れておきたい。
待ち行列と未完了案件を引き継ぐ
3つ目の手順は、切替の瞬間に途中にいた顧客と案件を誰が拾うかを確かめることだ。AIが止まると、それまでAIが完結させていた用件が一斉に人の待ち行列に入る。先に挙げたフローのベストプラクティスは、待ち行列のフローで音声案内を繰り返すブロックを使い、一定間隔で折返し予約や外部転送の選択肢を案内する方法も挙げている。キューへの転送ブロックでは、転送先のキューが存在しない、あるいはルーティングが無効になっているといった容量以外の理由で転送に失敗すると、通話がエラー分岐に流れると説明されている。切替先のキューを訓練で実際に通しておかないと、この分岐に顧客が落ちることになる。
未完了案件の引き継ぎも同じ理屈である。AIとの会話の途中で止まった顧客について、人の担当者が何を聞かれ、何を答えたところだったかを画面で追えるかどうか。AIから人へ渡す会話の設計そのものはエスカレーション設計の記事で扱った。訓練では、試験用の問い合わせを数件途中で止め、人の側で履歴を開いて続きから対応できるかを確かめる、というのが編集部の提案である。
復旧と再開判定を記録する
4つ目の手順は、AIを戻すときの判定と記録である。止めるより戻すほうが判断は難しい。原因が解消したか、戻した直後に同じ不具合が再発しないかを誰が確認し、誰が再開を承認するかを決めておく必要がある。
編集部の提案は、訓練ごとに次の4点を1枚に残すことだ。停止を判断した時刻と判断者、切替が完了した時刻、人へ流れた件数と待ち時間の変化、再開を承認した時刻と承認者である。次回の訓練では、前回詰まった箇所が解消したかを最初に確かめる。内閣府のガイドラインが見直し・改善をBCMの流れに置いているのと同じく、記録は次の訓練の出発点として使う。
ここからは私の見立てとして書く。AIを入れたセンターでは、導入時の試験は手厚いのに、止める側の試験はほとんど行われていないのではないか。AIの導入が進むほど、人だけで回す日の段取りを知る担当者が減っていく。そう考えると、停止訓練はAIの試験であると同時に、人の段取りを保つための訓練でもある。
ただし、この見立てには反論もありうる。クラウド製品の稼働率は高く、年に一度あるかどうかの停止のために当番の工数を割くのは過剰ではないか、という指摘だ。これはもっともで、すべてのセンターに同じ頻度を勧めるつもりはない。それでも、次の3条件のどれかに当てはまるなら、少なくとも一度は機能演習を行う価値があると考える。第一に、AIが一次受付を担い、止まると入電がすべて人に流れる構成であること。第二に、切替の手順書はあるが、現在の当番が操作したことがないこと。第三に、AIの設定変更を月に一度以上行っており、試験環境と本番がずれやすいこと。
まとめ
第一に、AI停止訓練は、止める機能と代わりに動く仕組み、判断者と操作者を機能ごとに一覧にするところから始まる。第二に、製品にはエラー分岐や版の巻き戻しといった部品があるが、当番が実際に操作できるかは試験環境で動かさなければ分からない。第三に、待ち行列と途中の案件の引き継ぎ、再開の判定までを記録し、次回の出発点にする。いずれも編集部の提案であり、効果を約束するものではない。
あなたのセンターで、AIを止める画面に最後にログインしたのは誰で、それはいつだっただろうか。
注記
本稿の事実確認日は2026年9月30日。製品の機能仕様は、確認時点のAmazon Connect管理者ガイドに基づく。仕様は更新されることがあるため、設定の際は最新の公式文書を確認されたい。本文の4つの手順、記録項目、3条件はいずれも編集部の実務設計案であり、特定の製品や手法の推奨、実証された成果ではない。取材対象者の発言ではない。本番環境での停止や切替は、訓練範囲・連絡網・切戻し権限を自社の承認手続きで定めたうえで行ってほしい。本稿はAI著者（相原ことは）によるデスクリサーチであり、個人の見解を含む。
AIを業務につなぐ前提を読むなら
AIを止めた日に人が続きを拾えるかどうかは、AIがどこまで業務の文脈とつながっているかにも左右されます。株式会社miiboの功刀雅士氏・久野祐揮氏が、AIカスタマーサポートが初期構築・公開前検証・精度向上・データ連携の4つの壁で止まる理由を語った取材を、無料会員向けに公開しています。本稿の手順は編集部の提案であり、同記事の発言ではありません。
【コールセンターは「コンテキストセンター」になる】AIカスタマーサポートを阻む“4つの壁”の超え方（会員限定）
出典
NIST「SP 800-84, Guide to Test, Training, and Exercise Programs for IT Plans and Capabilities」
Amazon Connect 管理者ガイド「Flow version control: Roll back a flow」
この記事はCC AI LabのAI著者（相馬 迅/相原 ことは）が執筆し、編集部が内容を確認・承認のうえ公開しています。誤りを見つけた場合はお問い合わせフォームからご連絡ください。
この記事について相原さんに聞く数字の読み方や、他の事例との違いを、Labの記事を根拠にお答えします。
