不到兩年時間，自從ChatGPT發(fā)布以來，各大企業(yè)對在其運營和產(chǎn)品中使用GenAI表現(xiàn)出濃厚興趣。由Dataiku和Cognizant進行的一項新調(diào)查對全球200名企業(yè)公司高級分析和IT領(lǐng)導(dǎo)者進行了民意調(diào)查，結(jié)果顯示，大多數(shù)企業(yè)正在花費大量資金來探索GenAI的使用案例，或者已經(jīng)將其投入生產(chǎn)。

然而，全面采用和提高生產(chǎn)力的道路并非沒有障礙，這些挑戰(zhàn)為提供GenAI服務(wù)的公司提供了機會。

GenAI的重大投資

在VB Transform大會上公布的調(diào)查結(jié)果突顯了對GenAI項目的大量財務(wù)投入，近四分之三(73%)的受訪者計劃在未來12個月內(nèi)在GenAI上花費超過50萬美元，近一半(46%)的受訪者分配超過100萬美元。

然而，只有三分之一的受訪企業(yè)有專門用于GenAI項目的預(yù)算，超過一半的企業(yè)從其他來源(包括IT、數(shù)據(jù)科學(xué)或分析預(yù)算)為GenAI項目提供資金。

目前尚不清楚向GenAI投入的資金如何影響原本可以從預(yù)算中受益的部門，這些支出的投資回報率(ROI)也尚不明確，但人們樂觀地認為，隨著大型語言模型(LLM)和其他生成模型的不斷進步，附加值最終將證明這些成本是合理的。

“隨著更多LLM使用案例和應(yīng)用程序在企業(yè)中出現(xiàn)，IT團隊需要一種簡便的方法來監(jiān)控性能和成本，以最大限度地發(fā)揮投資的價值，并在出現(xiàn)重大影響之前識別出問題的使用模式?！毖芯康囊徊糠謨?nèi)容寫道。

Dataiku之前的調(diào)查顯示，各大企業(yè)正在探索各種應(yīng)用，從提升客戶體驗到改善內(nèi)部運營，如軟件開發(fā)和數(shù)據(jù)分析。

實施GenAI的持續(xù)挑戰(zhàn)

盡管對GenAI充滿熱情，整合并非易事。調(diào)查中的大多數(shù)受訪者報告稱，在按照他們希望的方式使用LLM時遇到了基礎(chǔ)設(shè)施障礙，此外，他們還面臨其他挑戰(zhàn)，包括遵守區(qū)域立法(如歐盟AI法案)和內(nèi)部政策的挑戰(zhàn)。

生成模型的運營成本仍然是一個障礙。Microsoft Azure ML、Amazon Bedrock和OpenAI API等托管的LLM服務(wù)在企業(yè)內(nèi)部探索和生產(chǎn)GenAI時仍然是受歡迎的選擇，這些服務(wù)易于使用，并且避免了設(shè)置GPU集群和推理引擎的技術(shù)困難，然而，其基于令牌的定價模型也使得CIO難以在規(guī)模上管理GenAI項目的成本。

另外，企業(yè)可以使用自托管的開源LLM，這些模型可以滿足企業(yè)應(yīng)用的需求，并顯著降低推理成本，但它們需要前期投入和許多企業(yè)沒有的內(nèi)部技術(shù)人才。

技術(shù)堆棧的復(fù)雜性進一步阻礙了GenAI的采用。令人震驚的是，60%的受訪者報告稱，他們在分析和AI生命周期的每個步驟(從數(shù)據(jù)攝取到MLOps和LLMOps)中使用了超過五種工具或軟件。

數(shù)據(jù)挑戰(zhàn)

GenAI的出現(xiàn)并沒有消除機器學(xué)習(xí)項目中現(xiàn)有的數(shù)據(jù)挑戰(zhàn)。事實上，數(shù)據(jù)質(zhì)量和可用性仍然是IT領(lǐng)導(dǎo)者面臨的最大數(shù)據(jù)基礎(chǔ)設(shè)施挑戰(zhàn)，45%的受訪者將其列為主要關(guān)切，其次是數(shù)據(jù)訪問問題，有27%的受訪者提到這一點。

大多數(shù)企業(yè)都擁有豐富的數(shù)據(jù)資源，但他們的數(shù)據(jù)基礎(chǔ)設(shè)施是在GenAI時代之前創(chuàng)建的，并沒有考慮到機器學(xué)習(xí)的需求。數(shù)據(jù)通常存在于不同的孤島中，并以不兼容的格式存儲。在用于機器學(xué)習(xí)之前，需要對數(shù)據(jù)進行預(yù)處理、清理、匿名化和整合。數(shù)據(jù)工程和數(shù)據(jù)所有權(quán)管理仍然是大多數(shù)機器學(xué)習(xí)和AI項目的重要挑戰(zhàn)。

“即使擁有今天可用的所有工具，人們?nèi)晕茨苷莆諗?shù)據(jù)質(zhì)量(以及可用性，即數(shù)據(jù)是否適合其目的并符合用戶需求)，”研究報告中寫道，“諷刺的是，現(xiàn)代數(shù)據(jù)堆棧面臨的最大挑戰(zhàn)實際上并不是那么現(xiàn)代化?！?/span>

挑戰(zhàn)中的機遇

“現(xiàn)實是，GenAI將繼續(xù)轉(zhuǎn)變和演進，不同的技術(shù)和提供商會來來去去。IT領(lǐng)導(dǎo)者如何在參與游戲的同時保持對未來的敏捷性?”Dataiku的現(xiàn)場CDO Conor Jensen說，“所有人都在關(guān)注這個挑戰(zhàn)——加上不斷攀升的成本和其他風(fēng)險——是否會超越GenAI的價值產(chǎn)出?！?/span>

隨著GenAI從探索性項目逐步轉(zhuǎn)向可擴展運營的底層技術(shù)，提供GenAI服務(wù)的公司可以通過更好的工具和平臺支持企業(yè)和開發(fā)人員。

隨著技術(shù)的成熟，將有很多機會簡化GenAI項目的技術(shù)和數(shù)據(jù)堆棧，減少集成的復(fù)雜性，幫助開發(fā)人員專注于解決問題和提供價值。

企業(yè)即使尚未探索GenAI技術(shù)，也可以為GenAI技術(shù)的浪潮做好準(zhǔn)備。通過運行小型試點項目和試驗新技術(shù)，企業(yè)可以發(fā)現(xiàn)其數(shù)據(jù)基礎(chǔ)設(shè)施和政策中的痛點，并開始為未來做準(zhǔn)備，同時，他們可以開始培養(yǎng)內(nèi)部技能，以確保擁有更多選擇，并更好地利用技術(shù)的全部潛力，在各自行業(yè)中推動創(chuàng)新。