ニューヨーク市のAIチャットボットは22カ月後に止まった　免責表示では守れなかったもの

「The Chatbot beta test has ended.」。2026年2月、ニューヨーク市のチャットボットのページ（chat.nyc.gov）に残ったのはこの一文でした。

2023年秋に全米の大都市で先行して稼働した市公式のAIチャットボットは、市法に違反する回答を検証報道されてから22カ月、免責表示を足しながら動き続け、ベータのまま止まりました。

経過を追うと、「免責表示を置く」「精度を測って公表する」という、どのセンターでもやりそうな対応がなぜ機能しなかったのかが見えてきます。

どんな窓口だったのか

対象は市民一般ではなく、ニューヨーク市内の事業者です。市の技術・イノベーション局（OTI）と小規模事業局が、起業や店舗運営に関する市の制度・手続きの質問に答える窓口として提供しました。基盤はMicrosoft Azure AI servicesで、開発パートナーはNuvalenceです。

チャネルはWebチャットだけで、電話は持ちません。市がコールセンターにAIを入れた事例ではなく、窓口業務のテキストAI化の事例です。それでも、問い合わせ窓口にAIを置く判断の材料として読める経過でした。

市長室の2023年10月の発表では、市のAIアクションプランの目玉として紹介されています。稼働開始の時期は、後の監査報告書が2023年9月と記載しています。