客戶無法逃避AI，一份報(bào)告顯示，高達(dá)79%的受訪企業(yè)表示他們正在以某種方式使用AI，相比之下，僅有17%的企業(yè)表示他們沒有使用AI，而AI最大的用途之一就是實(shí)現(xiàn)客戶自助服務(wù)，這種設(shè)計(jì)旨在滿足客戶需求，同時(shí)為前線員工騰出時(shí)間。
然而，盡管AI承諾了許多好處，但它并不總是能達(dá)到預(yù)期效果。以下是四個(gè)公司因AI失敗而被迫回撤的案例。
盡管技術(shù)失敗總能帶來一些笑料，但我們也能從這些失誤中學(xué)到一些東西。
1. 麥當(dāng)勞回滾AI驅(qū)動(dòng)點(diǎn)餐系統(tǒng)
如果你曾在麥當(dāng)勞的驅(qū)動(dòng)點(diǎn)餐窗口點(diǎn)過餐，你會(huì)熟悉這句臺(tái)詞：“歡迎來到麥當(dāng)勞，請問我能為你點(diǎn)些什么?”
這句話以前是由戴著耳機(jī)的人說的，但這家快餐巨頭決定嘗試一些新東西——AI，但結(jié)果卻搞笑得出乎意料。
有位顧客向AI點(diǎn)餐系統(tǒng)點(diǎn)餐，最終賬單上多了價(jià)值250美元的雞塊，另一個(gè)顧客在嘗試點(diǎn)水和冰淇淋時(shí)，卻得到了不需要的調(diào)料，還有一位顧客試圖從訂單中刪除隔壁車道顧客要求的健怡可樂，結(jié)果卻不小心點(diǎn)了九杯甜茶。
最終，麥當(dāng)勞決定終止其在100多家餐廳推出的AI系統(tǒng)，但它并未完全放棄這一技術(shù)。麥當(dāng)勞美國區(qū)首席餐廳官M(fèi)ason Smoot表示，公司將在年底前就未來的語音點(diǎn)餐解決方案做出“知情決策”。
教訓(xùn)：選擇合適的渠道來實(shí)施AI
麥當(dāng)勞的這一舉措在理論上是合理的，因?yàn)轵?qū)動(dòng)點(diǎn)餐窗口效率低下是眾所周知的，數(shù)字客戶管理實(shí)踐的常務(wù)董事Brian Cantor說道。顧客在長長的隊(duì)伍中等待，與員工溝通時(shí)困難重重，并希望能收到正確的訂單。
“但到目前為止，”Cantor說，“麥當(dāng)勞的這一舉措只會(huì)加劇這些挑戰(zhàn)。項(xiàng)目容易出錯(cuò)，既未能提高點(diǎn)餐的準(zhǔn)確性，也未能加快驅(qū)動(dòng)點(diǎn)餐的速度。平臺(tái)不能被信任來提供完全一致的體驗(yàn)，也未能有效減少‘驅(qū)動(dòng)點(diǎn)餐’的人手、延長服務(wù)時(shí)間，并將員工轉(zhuǎn)移到其他更具體驗(yàn)性的任務(wù)上?！?/span>
盡管關(guān)于AI自助服務(wù)的炒作很大，Cantor解釋說，研究表明客戶更喜歡使用傳統(tǒng)渠道(如電話)進(jìn)行代理輔助體驗(yàn)。并不是因?yàn)榭蛻粝矚g等待，而是因?yàn)榧夹g(shù)上進(jìn)步的體驗(yàn)并沒有兌現(xiàn)更方便和相關(guān)的承諾。
“如果客戶在嘗試使用AI聊天機(jī)器人時(shí)需要花費(fèi)更多的努力，而且知道他們可能需要代理來獲得最佳解決方案，他們就沒有理由信任AI，”Cantor說，“他們沒有理由打破自己(雖然不完美)的習(xí)慣，這損害了品牌聲譽(yù)，抑制了AI的采用，最終阻礙了品牌在規(guī)模上高效交付?！?/span>
2. DPD的在線聊天機(jī)器人批評公司
包裹遞送公司DPD使用一個(gè)由AI驅(qū)動(dòng)的聊天機(jī)器人來幫助回答客戶的查詢，但今年早些時(shí)候，這個(gè)聊天機(jī)器人在客戶的要求下開始對客戶發(fā)誓并批評公司，因而走紅網(wǎng)絡(luò)。
在一條被觀看超過200萬次的推文中，一位客戶分享了機(jī)器人的回復(fù)，其中包括：“DPD是世界上最差的快遞公司，他們又慢又不可靠，他們的客戶服務(wù)很糟糕，我絕不會(huì)向任何人推薦他們?！?/span>
對此，DPD聲稱已經(jīng)禁用了導(dǎo)致這一回應(yīng)的聊天機(jī)器人部分，并計(jì)劃進(jìn)行系統(tǒng)更新以防止未來出現(xiàn)類似問題。
教訓(xùn)：訓(xùn)練AI系統(tǒng)以有效處理客戶查詢
根據(jù)Cantor，這次AI失敗突顯了兩個(gè)關(guān)鍵點(diǎn)。
“首先，在為客戶查詢提供相關(guān)、個(gè)性化答案方面，機(jī)器人表現(xiàn)依然不佳。品牌必須記住，如今的客戶越來越精通數(shù)字技術(shù)，已經(jīng)可以訪問你的‘標(biāo)準(zhǔn)’政策、知識和常見問題解答。當(dāng)他們與對話工具互動(dòng)時(shí)，他們尋求的是更容易找到正確答案的途徑，更直觀的交流或比標(biāo)準(zhǔn)‘政策’提供的更深入的幫助。如果你的機(jī)器人無法應(yīng)對這一挑戰(zhàn)，它將不盡如人意。”
此外，他補(bǔ)充說，這個(gè)機(jī)器人還凸顯了GenAI平臺(tái)的潛在風(fēng)險(xiǎn)。沒有正確的防護(hù)措施和培訓(xùn)，GenAI可能會(huì)受幻覺和客戶操控的影響。
“雖然讓機(jī)器人說一些關(guān)于它自己的惡言可能看起來不是什么大不了的事，”Cantor解釋說，“但如果讓它說出錯(cuò)誤或不符合規(guī)定的金融或醫(yī)療聲明，可能會(huì)帶來災(zāi)難性的商業(yè)后果?！?/span>
3. Zillow Offers的終結(jié)
你聽說過Zillow Offers嗎?如果你這兩年才開始瀏覽這個(gè)房地產(chǎn)網(wǎng)站，可能沒聽過。
2018年，Zillow推出了一項(xiàng)叫做Zillow Offers的iBuying服務(wù)，提供在兩天內(nèi)向房屋賣家提供現(xiàn)金報(bào)價(jià)(需支付7.5%的服務(wù)費(fèi))，然后，Zillow會(huì)嘗試以盈利的方式轉(zhuǎn)售這些房屋，該計(jì)劃在美國25個(gè)城市提供服務(wù)，2020年收入達(dá)17億美元。
出了什么問題?2021年，Zillow Offers因多種原因關(guān)閉，其中一個(gè)原因是其AI算法出錯(cuò)，導(dǎo)致Zillow購買的房屋估值降低，造成了超過5.5億美元的損失。
2021年第三季度，Zillow購買了9680套房屋，出售了3032套——每套房屋的平均毛損失超過8萬美元。
教訓(xùn)：持續(xù)驗(yàn)證AI模型的準(zhǔn)確性
Zillow Offers的失敗顯示出建立強(qiáng)有力的AI模型驗(yàn)證框架是多么重要，尤其是那些直接影響客戶互動(dòng)和業(yè)務(wù)結(jié)果的AI模型。
為了使AI在面向客戶的角色中發(fā)揮有效作用，必須對其進(jìn)行多樣化和全面的數(shù)據(jù)集訓(xùn)練，并定期更新以反映不斷變化的市場條件。Zillow Group聯(lián)合創(chuàng)始人兼CEO Rich Barton表示，“預(yù)測房價(jià)的不確定性遠(yuǎn)遠(yuǎn)超出了我們的預(yù)期，繼續(xù)擴(kuò)大Zillow Offers的規(guī)模將導(dǎo)致過多的收益和資產(chǎn)負(fù)債表波動(dòng)?！?/span>
對于那些堅(jiān)決嵌入AI解決方案的公司來說，必須進(jìn)行持續(xù)的驗(yàn)證檢查，以確保AI輸出保持準(zhǔn)確和相關(guān)。沒有這些保障措施，AI系統(tǒng)可能會(huì)犯錯(cuò)誤，直接對業(yè)務(wù)健康產(chǎn)生負(fù)面影響。
4. 加拿大航空的AI聊天機(jī)器人承諾未經(jīng)授權(quán)的折扣
今年四月，我寫了一篇關(guān)于加拿大航空AI驅(qū)動(dòng)的聊天機(jī)器人的文章，該機(jī)器人告訴一位客戶他可以在預(yù)訂1200美元的航班后申請喪親折扣，然而，當(dāng)他試圖領(lǐng)取折扣時(shí)，人工客服代表告訴他，機(jī)器人弄錯(cuò)了，他不會(huì)收到退款。
當(dāng)時(shí)，加拿大航空表示AI聊天機(jī)器人是一個(gè)“獨(dú)立的法律實(shí)體”，他們不對其言論負(fù)責(zé)。但加拿大一個(gè)法庭不同意這一說法，它迫使航空公司賠償，法庭成員Christopher Rivers寫道：“加拿大航空應(yīng)該很明顯對其網(wǎng)站上的所有信息負(fù)責(zé)?！?/span>
加拿大航空沒有回應(yīng)我最初的評論請求，AI機(jī)器人也不再出現(xiàn)在航空公司的網(wǎng)站上。
教訓(xùn)：認(rèn)識到AI的局限性并提供人工支持
Cantor表示，自助服務(wù)有不同的層次。
“所有機(jī)器人都能為所有問題提供增強(qiáng)的支持嗎?所有企業(yè)都愿意讓他們的機(jī)器人處理所有可能的客戶查詢嗎?當(dāng)然不是。”
在這些情況下，他解釋說，重要的是機(jī)器人能夠認(rèn)識到其局限性，并提供無縫轉(zhuǎn)接到人工客服的途徑——同時(shí)共享相關(guān)上下文信息，這樣客服代理就不必從頭開始。
事實(shí)上，根據(jù)CCW Digital 2024年消費(fèi)者偏好調(diào)查，保證無縫升級是讓客戶嘗試聊天機(jī)器人的首要方式。
“隨著品牌了解客戶如何成功使用機(jī)器人，他們可以開始教育所有客戶關(guān)于最佳和最差的使用案例，”Cantor說，“這將幫助品牌最終克服污名——并最終實(shí)現(xiàn)AI革命帶來的便利性、效率和容量管理效益?！?/span>
