在GenAI的成功沒有固定框架,且?guī)缀鯖]有成功的生產(chǎn)案例可供借鑒的情況下,IT領(lǐng)導(dǎo)者們即便開始關(guān)注一些最佳實踐,也仍然只有粗略的路線圖。
對于IT領(lǐng)導(dǎo)者而言,將GenAI的潛力轉(zhuǎn)化為商業(yè)價值的道路仍然陡峭且令人畏懼,但GenAI路線圖的關(guān)鍵組成部分——數(shù)據(jù)、平臺和技能——正在不斷發(fā)展并變得更加明確。
這是上周在MIT舉辦的Big.AI@MIT活動中,“GenAI在商業(yè)中的下一步”小組討論的關(guān)鍵要點,該討論由埃森哲的首席AI官(CAIO)蘭·關(guān)(Lan Guan)主持。
關(guān)與來自標(biāo)普全球(S&P Global)和康寧(Corning)的AI領(lǐng)導(dǎo)者一起討論了將GenAI模型從概念驗證轉(zhuǎn)移到生產(chǎn)中所面臨的巨大挑戰(zhàn),以及使GenAI模型真正對企業(yè)有價值的基礎(chǔ)。
許多CIO都發(fā)現(xiàn)自己處于這樣的境地,正如關(guān)所指出的,根據(jù)埃森哲的一項調(diào)查,只有不到10%的企業(yè)將GenAI模型投入生產(chǎn)。
“98%的商業(yè)領(lǐng)袖表示他們想采用AI,但很多人只是不知道該怎么做,”關(guān)聲稱,她目前正在與沙特阿拉伯的一家大型航空公司、一家大型制藥公司和一家高科技公司合作,在公司內(nèi)部實施GenAI藍(lán)圖。
她表示,盡管在哪些方法有效、哪些方法無效方面已經(jīng)吸取了寶貴的教訓(xùn),但I(xiàn)T高管們最想要的、經(jīng)過壓力測試的GenAI參考架構(gòu)仍然寥寥無幾。
進(jìn)展與挑戰(zhàn)
關(guān)表示,埃森哲與沙特航空的工作涉及一個“旅行伴侶”模型,該模型遠(yuǎn)不止是一個在線旅行社、預(yù)訂代理或旅游指南。這家與卡塔爾航空競爭的航空公司正指望通過AI助手和大型語言模型(LLM)來提高預(yù)訂量并擴(kuò)大其在不斷增長的市場中的份額,她說道,并補(bǔ)充說這個運行了六個月的模型已經(jīng)吸引了300萬訪問者,并處理了一些預(yù)訂,但其價值更具戰(zhàn)略性。
“他們的主要意圖是改變對品牌的認(rèn)知,提供更好的體驗,”她說,“我不能說我有很多這樣的例子?!?/span>
康寧的首席數(shù)據(jù)與信息官(CDIO)索米亞·西塔拉姆(Soumya Seetharam)表示,該公司已經(jīng)在數(shù)據(jù)之旅上探索了幾年,超過70%的業(yè)務(wù)交易數(shù)據(jù)已被錄入數(shù)據(jù)平臺。但她強(qiáng)調(diào),這只是結(jié)構(gòu)化數(shù)據(jù)。
“說實話,我們面臨的最大挑戰(zhàn)是非結(jié)構(gòu)化數(shù)據(jù),”西塔拉姆說道,并指出康寧現(xiàn)在必須“找出如何對非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行分類,并將其轉(zhuǎn)化為有用的形式”。
標(biāo)普全球的首席AI官巴維什·達(dá)亞爾吉(Bhavesh Dayalji)補(bǔ)充說,將所有類型的數(shù)據(jù)結(jié)構(gòu)整合到GenAI模型中是一項挑戰(zhàn)。為此,這家金融信息和分析公司正在開發(fā)應(yīng)用程序編程接口(API),并研究所有“將你的數(shù)據(jù)連接到大型內(nèi)存模型”的方法。
標(biāo)普全球還創(chuàng)建了評估集,不僅用于測試GenAI模型的幻覺問題,還用于確保有一種通用的方法來評估結(jié)果和效果。作為金融服務(wù)和商品市場的專家,必須有標(biāo)準(zhǔn)的評估方法,他說道。
“然后,我們需要將整個金融服務(wù)社區(qū)聚集起來,共同評估GenAI模型和解決方案,”同時也是標(biāo)普全球AI創(chuàng)新中心Kensho首席執(zhí)行官的達(dá)亞爾吉表示,“我認(rèn)為,通過深入研究數(shù)據(jù),我們可以找到某種解決方案?!?/span>
路線圖浮現(xiàn)
埃森哲的首席AI官為希望最大化GenAI投資回報率(ROI)而不陷入“垃圾進(jìn),垃圾出”失敗境地的CIO們提供了三條關(guān)鍵建議。
首先,關(guān)在接受CIO.com于小組討論后的私人采訪時表示,要清理所有企業(yè)數(shù)據(jù),并妥善準(zhǔn)備以用于基礎(chǔ)GenAI模型。
“他們沒有清理數(shù)據(jù),”她警告說,盡管許多CIO正在應(yīng)對數(shù)據(jù)挑戰(zhàn),但大多數(shù)人都沒有為GenAI妥善準(zhǔn)備數(shù)據(jù)?!皩S袛?shù)據(jù)是你最大的競爭優(yōu)勢?!?/span>
其次,關(guān)表示,CIO必須采取“基于平臺的方法”來開發(fā)和部署AI。例如,企業(yè)可以在主機(jī)上運行GenAI工作負(fù)載,但大部分活動將在公有云或本地私有云上運行,她說道。
“現(xiàn)在是他們重新審視現(xiàn)有企業(yè)和數(shù)據(jù)架構(gòu)以及AI的時候了,”關(guān)表示。
“基于平臺的AI方法強(qiáng)調(diào)構(gòu)建一個可擴(kuò)展、可重用的基礎(chǔ),該基礎(chǔ)隨著組織的發(fā)展而發(fā)展,而不是為單個用例開發(fā)成本高昂、孤立的解決方案,”關(guān)說道,她支持建立標(biāo)準(zhǔn)來測試模型結(jié)果是有必要的這一觀點。
“通過識別用例之間的共性——如數(shù)據(jù)管道、模型管理和應(yīng)用程序——組織可以創(chuàng)建共享組件,以簡化部署、減少冗余,并加速AI解決方案和企業(yè)重塑的價值實現(xiàn)時間。”
埃森哲已經(jīng)開發(fā)了自己的AI Refinery——一種基于平臺的GenAI模型創(chuàng)建和部署方法。
“從實際意義上講,AI Refinery是一種認(rèn)知架構(gòu),具有內(nèi)置的智能和上下文,AI代理可以在其中進(jìn)行推理、規(guī)劃,并與人類一起動態(tài)執(zhí)行任務(wù),”關(guān)說道,“利用大型語言模型,該系統(tǒng)能夠解釋人類意圖,并根據(jù)經(jīng)驗進(jìn)行適應(yīng),整合組織知識以做出更好的決策。”
最后,她建議,CIO必須確保他們擁有一支穩(wěn)定的、合格的AI人員隊伍,以及一系列用于構(gòu)建和部署GenAI模型的專業(yè)技能。大多數(shù)CIO在提升員工技能或培訓(xùn)員工方面的速度都不夠快,而且包括具備GPU基礎(chǔ)設(shè)施規(guī)劃技能的數(shù)據(jù)科學(xué)家和軟件工程師在內(nèi)的各種人才都很稀缺。
關(guān)自己六年前曾是埃森哲的一名數(shù)據(jù)科學(xué)家,她開始學(xué)習(xí)軟件工程技能、應(yīng)用程序開發(fā)技能和基礎(chǔ)設(shè)施規(guī)劃技能,為GenAI做準(zhǔn)備。她表示,尋找人才是“我也正面臨的挑戰(zhàn)”。
在峰會上,眾多AI初創(chuàng)公司和解決方案提供商出席,展示了聲稱能夠解決CIO和首席分析官(CAO)面臨的各種AI挑戰(zhàn)的解決方案。在另一個小組討論中,來自New Technology Ventures和Underscore VC的風(fēng)險投資家表示,用于創(chuàng)新的投資資金充裕,但承認(rèn)市場仍處于炒作周期中。
然而,正如風(fēng)險投資小組討論的主持人所指出的,大多數(shù)參與者都知道GenAI是一項顛覆性的技術(shù)。
“人們認(rèn)識到這種轉(zhuǎn)變是多么具有震撼性……人們正在涌入,”GenAI初創(chuàng)公司Collective[i]的聯(lián)合創(chuàng)始人兼風(fēng)險投資人海蒂·梅瑟(Heidi Messer)表示,該公司提供財務(wù)預(yù)測服務(wù),“我們確實需要透過噪音來閱讀,這很棘手,但在未來五到七年里,將會創(chuàng)造[巨大的]價值?!?/span>
與此同時,標(biāo)普全球的達(dá)亞爾吉表示,企業(yè)必須超越專業(yè)技能的范疇,設(shè)想員工與GenAI模型和處理瑣碎任務(wù)的AI助手互動后將產(chǎn)生的新角色的所有方面。
“我們繼續(xù)教育我們的員工,確保他們了解AI對他們角色的影響以及他們?nèi)绾温男凶约旱穆氊?zé),”他說,“其次,你如何為他們提供工具來做不同的工作和創(chuàng)新?”