不到兩年時間，自從ChatGPT發(fā)布以來，各大企業(yè)對在其運營和產(chǎn)品中使用GenAI表現(xiàn)出濃厚興趣。由Dataiku和Cognizant進行的一項新調查對全球200名企業(yè)公司高級分析和IT領導者進行了民意調查，結果顯示，大多數(shù)企業(yè)正在花費大量資金來探索GenAI的使用案例，或者已經(jīng)將其投入生產(chǎn)。
然而，全面采用和提高生產(chǎn)力的道路并非沒有障礙，這些挑戰(zhàn)為提供GenAI服務的公司提供了機會。
GenAI的重大投資
在VB Transform大會上公布的調查結果突顯了對GenAI項目的大量財務投入，近四分之三(73%)的受訪者計劃在未來12個月內在GenAI上花費超過50萬美元，近一半(46%)的受訪者分配超過100萬美元。
然而，只有三分之一的受訪企業(yè)有專門用于GenAI項目的預算，超過一半的企業(yè)從其他來源(包括IT、數(shù)據(jù)科學或分析預算)為GenAI項目提供資金。
目前尚不清楚向GenAI投入的資金如何影響原本可以從預算中受益的部門，這些支出的投資回報率(ROI)也尚不明確，但人們樂觀地認為，隨著大型語言模型(LLM)和其他生成模型的不斷進步，附加值最終將證明這些成本是合理的。
“隨著更多LLM使用案例和應用程序在企業(yè)中出現(xiàn)，IT團隊需要一種簡便的方法來監(jiān)控性能和成本，以最大限度地發(fā)揮投資的價值，并在出現(xiàn)重大影響之前識別出問題的使用模式。”研究的一部分內容寫道。
Dataiku之前的調查顯示，各大企業(yè)正在探索各種應用，從提升客戶體驗到改善內部運營，如軟件開發(fā)和數(shù)據(jù)分析。
實施GenAI的持續(xù)挑戰(zhàn)
盡管對GenAI充滿熱情，整合并非易事。調查中的大多數(shù)受訪者報告稱，在按照他們希望的方式使用LLM時遇到了基礎設施障礙，此外，他們還面臨其他挑戰(zhàn)，包括遵守區(qū)域立法(如歐盟AI法案)和內部政策的挑戰(zhàn)。
生成模型的運營成本仍然是一個障礙。Microsoft Azure ML、Amazon Bedrock和OpenAI API等托管的LLM服務在企業(yè)內部探索和生產(chǎn)GenAI時仍然是受歡迎的選擇，這些服務易于使用，并且避免了設置GPU集群和推理引擎的技術困難，然而，其基于令牌的定價模型也使得CIO難以在規(guī)模上管理GenAI項目的成本。
另外，企業(yè)可以使用自托管的開源LLM，這些模型可以滿足企業(yè)應用的需求，并顯著降低推理成本，但它們需要前期投入和許多企業(yè)沒有的內部技術人才。
技術堆棧的復雜性進一步阻礙了GenAI的采用。令人震驚的是，60%的受訪者報告稱，他們在分析和AI生命周期的每個步驟(從數(shù)據(jù)攝取到MLOps和LLMOps)中使用了超過五種工具或軟件。
數(shù)據(jù)挑戰(zhàn)
GenAI的出現(xiàn)并沒有消除機器學習項目中現(xiàn)有的數(shù)據(jù)挑戰(zhàn)。事實上，數(shù)據(jù)質量和可用性仍然是IT領導者面臨的最大數(shù)據(jù)基礎設施挑戰(zhàn)，45%的受訪者將其列為主要關切，其次是數(shù)據(jù)訪問問題，有27%的受訪者提到這一點。
大多數(shù)企業(yè)都擁有豐富的數(shù)據(jù)資源，但他們的數(shù)據(jù)基礎設施是在GenAI時代之前創(chuàng)建的，并沒有考慮到機器學習的需求。數(shù)據(jù)通常存在于不同的孤島中，并以不兼容的格式存儲。在用于機器學習之前，需要對數(shù)據(jù)進行預處理、清理、匿名化和整合。數(shù)據(jù)工程和數(shù)據(jù)所有權管理仍然是大多數(shù)機器學習和AI項目的重要挑戰(zhàn)。
“即使擁有今天可用的所有工具，人們仍未能掌握數(shù)據(jù)質量(以及可用性，即數(shù)據(jù)是否適合其目的并符合用戶需求)，”研究報告中寫道，“諷刺的是，現(xiàn)代數(shù)據(jù)堆棧面臨的最大挑戰(zhàn)實際上并不是那么現(xiàn)代化。”
挑戰(zhàn)中的機遇
“現(xiàn)實是，GenAI將繼續(xù)轉變和演進，不同的技術和提供商會來來去去。IT領導者如何在參與游戲的同時保持對未來的敏捷性?”Dataiku的現(xiàn)場CDO Conor Jensen說，“所有人都在關注這個挑戰(zhàn)——加上不斷攀升的成本和其他風險——是否會超越GenAI的價值產(chǎn)出?！?/span>
隨著GenAI從探索性項目逐步轉向可擴展運營的底層技術，提供GenAI服務的公司可以通過更好的工具和平臺支持企業(yè)和開發(fā)人員。
隨著技術的成熟，將有很多機會簡化GenAI項目的技術和數(shù)據(jù)堆棧，減少集成的復雜性，幫助開發(fā)人員專注于解決問題和提供價值。
企業(yè)即使尚未探索GenAI技術，也可以為GenAI技術的浪潮做好準備。通過運行小型試點項目和試驗新技術，企業(yè)可以發(fā)現(xiàn)其數(shù)據(jù)基礎設施和政策中的痛點，并開始為未來做準備，同時，他們可以開始培養(yǎng)內部技能，以確保擁有更多選擇，并更好地利用技術的全部潛力，在各自行業(yè)中推動創(chuàng)新。
