ライターのディロン・トンプソンの約2,000ドルの電動自転車が、FedEx が配達完了を確認した後に姿を消した――署名したのは、トンプソンでも彼の婚約者でも、建物の誰でもない謎の「M.M.」。その後に起きたのは、単なるイライラする紛失荷物の話ではなかった。これは、いま消費者が直面している最も差し迫ったAI カスタマーサービスの課題のひとつ、つまり実際には問題を解決できないチャットボットによる人間のサポートの置き換えに関する、数カ月にわたるケーススタディとなった。
Summary
重要なポイント
- FedEx はトンプソンの電動自転車の配達完了を確認したが、荷物は届かなかった。約3カ月後、彼が取り戻せたのは送料のみで、自転車本体価格のおよそ10分の1に過ぎなかった。
- 4月の調査によると、カスタマーサービス部門のリーダーの31％が、AI 導入を理由にすでに人員削減を行った、もしくは行う予定だとしている。
- 5月の報告書では、59％の消費者が AI カスタマーサービス担当者に不満を抱いており、85％が人間とのやり取りを好むことが明らかになった。
- 専門家は、未成熟な AI チャットボットに大きく賭ける企業は、評判を損ない、高コストで成果の乏しいシステムに自らを縛りつけるリスクがあると警告している。
「配達完了」なのに届かない荷物
確認メッセージが届いたのは水曜の夕方だった。FedEx は自転車が配達され、署名も済んだと伝えてきた。そのときトンプソンはキッチンでチキンをエアフライしており、周りに自転車の姿はなかった。アパートの外を確認しても何もない。注文情報を確認すると、署名は「M.M.」という人物のものになっていたが、そのイニシャルに該当する人物は住所のどこにもいなかった。
自転車が盗まれたのか、誤配されたのか、それとも FedEx のネットワークのどこかで紛失したのかは、もはや本質的な問題ではなかった。重要なのは、それを解決してくれる誰か――誰でもいいから――を見つけることだった。
しかし、その捜索ははるかに消耗するものへと変わっていった。数カ月にわたりトンプソンは、FedEx、自転車メーカー、銀行、クレジットカード会社、さらにはアトランタ警察に至るまで、あらゆる窓口でチャットボットの待ち行列をくぐり抜けることになった。特に印象的だったのは警察とのやり取りだ。紛失物届を出そうと電話をかけると、応答したのはチャットボットで、情報を聞き取ったうえで「警官からの折り返しを待つように」と告げた。1回目の折り返しは来なかった。2回目は仕事中の会議の最中にかかってきたが、留守番電話も残されず、トンプソンが折り返そうとすると、再び同じチャットボットの待ち行列に戻されてしまった。
彼は最終的に、電話と警察のウェブサイト経由で2件の被害届を提出したが、得られた成果はごくわずかだった。FedEx は正式なクレーム手続きを開始したものの、その結論は自転車が紛失していることを確認し、発送元に連絡するよう促すだけの自動メールだった。発送元が回収できたのは送料のみで、それはトンプソンが支払った金額の約10分の1に過ぎなかった。銀行とクレジットカード会社も、チャットボット中心の手続きを経た末に、最終的に1人の人間の担当者につながったが、その担当者は「損失は FedEx の責任範囲だ」と告げただけだった。約3カ月が経過した時点で、トンプソンが取り戻せたのは投資額のごく一部にとどまっていた。
不満を生み出す業界の構造変化
トンプソンの経験は例外ではなく、大企業のカスタマーサービス部門の内部で進行している意図的な構造転換を反映している。
4月に実施されたカスタマーサービス部門のリーダーへの調査では、31％が AI 導入を理由に、すでに人員削減を行った、もしくは行う予定だと回答した。多くの企業は、担当者を別の役割に振り向けたり、既存スタッフに追加の業務を課したりしており、必ずしも直接的な解雇ばかりではない。しかし、進んでいる方向性は明らかだ。
一部の経営幹部は、その意図を率直に語っている。最近 Bloomberg に出された声明では、AI が大企業におけるカスタマーサービス業務の「大部分」を置き換える可能性が高いとし、カスタマーサービスをテクノロジーによる破壊の影響を最も受けやすいビジネス分野のひとつに挙げている。こうした大企業トップからの発想が、ツールが十分に成熟していない領域においても導入を加速させている。
摩擦が「バグ」ではなく「機能」になるとき
こうした導入には、より暗い側面もある。業界の実務家たちは、カスタマーサービスのフローに意図的に組み込まれた摩擦――支援するためではなく、利用者を思いとどまらせるために設計されたプロセス――をスラッジ（sludge）と呼ぶ。AI がこの戦術を生み出したわけではないが、その影響を大きく増幅させている。
エモリー大学のマーケティング教授で消費者心理学の研究者であるライアン・ハミルトンは、これを率直にこう表現する。「スラッジは AI 以前から存在していました。でも AI は、他のあらゆるものと同様に、そのディストピア的な性質を一気に増幅させてしまったのです。」トンプソンの苦難が、意図的なスラッジの産物なのか、自然発生的なシステム障害なのか、あるいはその両方の組み合わせなのかにかかわらず、消費者にとっての実質的な影響は同じだ。
AI サポートについて消費者はどう考えているか
消費者調査の数字は明確だ。米国、英国、カナダの消費者を対象とした5月の報告書では、59％が AI カスタマーサービス担当者に不満を抱いていることがわかった。さらに注目すべきは、85％が本物の人間と話すことを望んでいると回答した点だ。これはごく一部の不満ではなく、大規模に導入されているテクノロジーに対する、支配的な消費者体験を示している。
企業が構築しているものと、顧客が実際に求めているものとの間には、大きく、しかも拡大しつつあるギャップが存在する。企業は AI の導入を加速させている一方で、大多数のユーザーは、排除されつつある人間とのやり取りを明確に好んでいるのだ。
AI 依存に対する専門家の警鐘
ハミルトンは、こうしたシステムを導入している多くの企業が、エビデンスではなく楽観論に基づいて動いていると考えている――AI チャットボットへの全面的な依存は、いずれ必ず報われると仮定しているのだ。問題は、その間にも評判へのダメージが積み重なっていくことにある。
「彼らは、AI はいずれ追いつくだろうとか、そこまでひどくはならないだろうと想定しているのです」とハミルトンは言う。「しかし、状況によっては、かなりひどいことになり得ます。」彼はまた、競争上の懸念も指摘する。業界全体で AI コールセンターが標準化されていくと、企業はサービス品質で差別化する能力を失ってしまうというのだ。「どの業界であろうと、皆が同じ AI コールセンターを持つことになるでしょう」と彼は警告する。
イェール大学教授で同大学カスタマーインサイトセンターのディレクターであるラヴィ・ダーは、企業を成果の乏しいシステムに縛りつけている別の要因として、サンクコスト（埋没費用）の力を挙げる。世界の AI 投資は今年大きく加速すると見込まれており、その規模の投資は、たとえ成果が期待に届いていなくても、支出を正当化しようとする圧力を生み出す。
「CEO であれば」とダーは指摘する。「投資家やウォール街から、『あなたの AI 戦略は何か、それは投資収益を生んでいるのか』といった質問を受けることになります。」こうした投資家からの圧力は、消費者が明確な不満のシグナルを発しているにもかかわらず、方針転換ではなく現状維持を選ばせる理由になり得る。
FedEx にトンプソンのケースについてコメントを求めたところ、同社は「複雑な状況には人間によるケアとより深いサポートが必要だ」と認める声明を出し、自社はテクノロジーをチームメンバーの能力を「増幅」するために活用していると述べた。同社はまた、プロセスを「継続的に改善している」と付け加えた。その一方で、トンプソンの自転車はいまだ行方不明であり、彼の口座の穴も埋まっていない――巧みに作られた声明と、実際に機能するカスタマーサービスは同じではないという、具体的な証拠である。
本当の問いは、AI が複雑なサービス障害への対応をいずれ上手くこなせるようになるかどうかではない。おそらく、いずれはそうなるだろう。問題は、その間に企業がどれだけの消費者の信頼を燃やし尽くすつもりなのか――そして、テクノロジーが成熟する頃までに、その評判が回復に足るだけ残っているのかどうかだ。
FAQ
FedEx が配達完了を確認した後、著者の電動自転車はどうなったのですか？
FedEx から配達完了の通知が届き、署名も記録されていたにもかかわらず、ディロン・トンプソンのもとに電動自転車が届くことはありませんでした。荷物には「M.M.」というイニシャルの人物の署名が記録されていましたが、そのイニシャルに該当する人物は住所のどこにもいませんでした。自転車は最後まで見つからず、FedEx は紛失を認めたものの、補償については発送元に連絡するようトンプソンに指示しました。
AI チャットボットは、著者が紛失した荷物を取り戻そうとする試みにどのような影響を与えましたか？
トンプソンが利用したあらゆるカスタマーサービス窓口――FedEx、自転車メーカー、銀行、クレジットカード会社、さらにはアトランタ警察に至るまで――は AI チャットボットが支配していました。その結果、長い待ち時間や行き止まりが生じ、人間の担当者にたどり着くことが極めて困難になりました。約3カ月後、彼が取り戻せたのは送料のみで、自転車本体価格のおよそ10分の1にとどまりました。
AI カスタマーサービス担当者に対する消費者の意識について、調査は何を示していますか？
米国、英国、カナダの消費者を対象とした5月の報告書では、59％が AI カスタマーサービス担当者に不満を抱いていることが明らかになり、さらに85％がサポートを求める際には人間の担当者と直接話すことを望んでいると回答しました。
カスタマーサービスにおける AI チャットボットへの過度な依存について、専門家はどのようなリスクを警告していますか？
エモリー大学のライアン・ハミルトンやイェール大学のラヴィ・ダーを含む専門家たちは、未成熟な AI チャットボットへの過度な依存が、企業の評判を損ない、サービス品質を低下させ、大規模な AI 投資によるサンクコストの圧力によって成果の乏しいシステムに組織を縛りつけてしまうと警告しています。ハミルトンはまた、業界全体で AI コールセンターが広く採用されることで、サービス品質が業界を超えた競争上の差別化要因ではなくなってしまう可能性があると注意を促しています。
本記事は人工知能の支援を受けて制作され、編集チームによる確認を経ています。
