生成式人工智能(GenAI)的迅速崛起使得企業(yè)爭(zhēng)相尋找新的創(chuàng)新方法來利用這項(xiàng)技術(shù)在商業(yè)應(yīng)用中的力量。許多企業(yè)認(rèn)為，大型語言模型(LLM)已經(jīng)重塑了人工智能驅(qū)動(dòng)的商業(yè)應(yīng)用程序的構(gòu)建方式，所需要的只是將數(shù)據(jù)輸入到大型企業(yè)的LLM模型中，它就會(huì)完成工作。然而，事情并沒有那么容易。

研究和咨詢公司Forrester發(fā)布了一份新的報(bào)告，強(qiáng)調(diào)GenAI商業(yè)應(yīng)用需要的不僅僅是一個(gè)通用的LLM。即使是最精心調(diào)整和提示訓(xùn)練出來的LLM也可能不足以構(gòu)建和安全運(yùn)行基于GenAI的應(yīng)用程序。這種簡(jiǎn)單的方法不允許組織使用他們所有的專有知識(shí)來工作。它還存在其他一些風(fēng)險(xiǎn)，包括伸縮性、安全性和成本問題。

Forrester的報(bào)告是通過調(diào)查15家最大的服務(wù)提供商如何使用GenAI幫助全球2000多家公司來編寫GenAI驅(qū)動(dòng)的業(yè)務(wù)應(yīng)用程序。該報(bào)告的調(diào)查結(jié)果表明，企業(yè)需要組裝一個(gè)“層、門和管道”架構(gòu)，以安全有效地運(yùn)行基于GenAI的應(yīng)用程序。

“層、門和管道”架構(gòu)利用來自許多智能層的資源，將內(nèi)部和外部功能結(jié)合在一起。它還需要輸入和輸出控制門來保護(hù)人員、公司和模型本身。此外，它還需要應(yīng)用程序管道來提示、嵌入和編排智能層，以便將請(qǐng)求轉(zhuǎn)換為輸出。最后，需要測(cè)試和學(xué)習(xí)循環(huán)來測(cè)試和監(jiān)視結(jié)果并做出相應(yīng)的調(diào)整。

在深入挖掘“層、門和管道”架構(gòu)的元素時(shí)，報(bào)告指出，智能層包括廣泛的功能，包括通用的、嵌入式的和專門的GenAI模型。

組織應(yīng)該自己創(chuàng)建和管理的智能資源包括軟件應(yīng)用程序、AI/ML模型、私有GenAI模型、結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)，以及人們的提示和行為。組織應(yīng)該從供應(yīng)商處獲取的情報(bào)來源應(yīng)該包括特定于領(lǐng)域的GenAI模型、公共GenAI工具、綁定的GenAI模型，比如SaaS應(yīng)用程序。

使用輸入門有助于拒絕錯(cuò)誤的請(qǐng)求、虛假的提示和危險(xiǎn)的搜索。它還可以把模糊的請(qǐng)求變成可回答的提示。輸出門根據(jù)遵從性需求、安全性等幫助驗(yàn)證問題的輸出。

應(yīng)用程序管道用于通過API優(yōu)先工作流將所有這些連接在一起。它們幫助從智能層縫合資源，使它們能夠順利地端到端流動(dòng)。架構(gòu)的最后一個(gè)元素是通過用于測(cè)試的反饋循環(huán)進(jìn)行測(cè)試。它們有助于在應(yīng)用程序中建立信任、信心和有效性。

Forrester的報(bào)告還補(bǔ)充說，企業(yè)現(xiàn)在可以從各個(gè)部分組裝應(yīng)用程序，因?yàn)樗麄兛梢栽谖磥韼啄陜?nèi)構(gòu)建一個(gè)完整的體系結(jié)構(gòu)來支持GenAI應(yīng)用程序。只有通過適當(dāng)?shù)年P(guān)注，企業(yè)才能充分受益于GenAI業(yè)務(wù)應(yīng)用程序的強(qiáng)大功能。