AIコードエディタのCursorは、なぜ精度改善ではなく「AIの回答です」の表示で事故に対処したのか？

2025年4月14日、AIコードエディタのCursor（運営は米Anysphere, Inc.）で、メールサポートの一次対応AIが実在しない「1サブスクリプション＝1デバイス」の制限を、実在する「コアのセキュリティ機能」として顧客に回答しました。回答はRedditで規約変更として拡散し、解約を表明する投稿が連鎖します。

興味深いのは、同社が最初に打った手です。回答精度の改善でも、AIの停止でもなく、「メールサポートのAI回答にはすべてAIであることを表示する」という開示でした。なぜ開示が先だったのか。Cursorはソフトウェア企業で、電話窓口を持たずメール・フォーラム・Discordで顧客対応をしています。コールセンターではありません。ただ、一次受付をAIに全件通すこの設計は、コールセンターの一次受付と同型です。だからこの事故の対処は、そのまま持ち帰れます。

何が起きたか

時系列を整理します。

発端はログアウトの多発でした。複数の端末を行き来するユーザーがセッションを切られ、理由をメールサポートに問い合わせたところ、AIが「1サブスクリプションは1デバイスでのみ利用できる」という存在しないポリシーを根拠として回答した。The Registerの報道によると、この回答がRedditとHacker Newsで共有され、規約変更と受け取ったユーザーの解約表明が続きました。報道ではこのボットは「Sam」の名で呼ばれていますが、同社の公式声明にこの名前は出てきません。

約3時間後、共同創業者のMichael Truell氏がRedditで「そのようなポリシーは存在しない。Cursorは複数のマシンで自由に使える」「一次対応AIボットの誤った回答だ」と否定します。発端のReddit投稿自体はその後削除されたと報じられています。

そして約38時間後、Truell氏はHacker Newsで対処を公表しました。内容は3つ。メールサポートのAI回答にはすべてAIであることをラベル表示する。問い合わせた当該ユーザーには全額返金する。ログアウト多発の原因だった、低速回線で余計なセッションが生まれるrace condition（処理の競合）を修正する。

ここで区別が要ります。race conditionはログアウトという症状の原因であって、AIがポリシーを作文した原因は公表されていません。また、解約が何件発生したかも同社は公表しておらず、Truell氏自身は解約に言及していません。