開源軟件巨頭紅帽公司（Red Hat）今天在猶他州鹽湖城舉行的KubeCon + CloudNativeCon North America 2024大會(huì)上宣布，將對(duì)Red Hat OpenShift AI平臺(tái)進(jìn)行一系列更新，提升其在人工智能開發(fā)領(lǐng)域的競爭力。

Red Hat OpenShift AI是一個(gè)可擴(kuò)展的人工智能和機(jī)器學(xué)習(xí)開發(fā)平臺(tái)，使企業(yè)能夠在混合云環(huán)境中大規(guī)模創(chuàng)建并交付人工智能應(yīng)用。換句話說，企業(yè)可以利用該平臺(tái)創(chuàng)建人工智能模型和應(yīng)用，以此利用其數(shù)據(jù)，無論這些數(shù)據(jù)是位于云端還是在企業(yè)內(nèi)部。

新的偏見檢測工具的作用大致未改變，但它們更側(cè)重于人工智能模型的公平性。其目的是防止人工智能模型出現(xiàn)偏差。這是人工智能模型的常見問題。例如，負(fù)責(zé)篩選求職者的人工智能可能會(huì)對(duì)特定種族或教育背景的求職者產(chǎn)生偏見，新功能就是為了防止這種情況發(fā)生。

人工智能開發(fā)人員還將獲得更多工具來加強(qiáng)模型微調(diào)。Red Hat OpenShift AI 2.15增加了對(duì)LoRA（即低秩適配器）的支持，因此可以對(duì) LLM（如Meta Platforms的Llama 3）進(jìn)行微調(diào)，限制資源消耗，使其在大規(guī)模運(yùn)行時(shí)更經(jīng)濟(jì)。

今天發(fā)布的其他增強(qiáng)功能還包括集成了英偉達(dá)的NIM微服務(wù)，為生成式人工智能應(yīng)用提供了大量易于部署的大型語言模型，并支持AMD的圖形處理器，為客戶提供了更多的人工智能處理硬件選擇。開發(fā)人員還可以期待新的模型服務(wù)功能，例如為KServe提供vLLM服務(wù)運(yùn)行時(shí)，以及擴(kuò)展的人工智能訓(xùn)練和實(shí)驗(yàn)選項(xiàng)，例如超參數(shù)調(diào)整工具Ray Tune。

紅帽公司副總裁兼人工智能業(yè)務(wù)部總經(jīng)理Joe Fernandes表示，企業(yè)需要一個(gè)可靠、可擴(kuò)展和靈活的人工智能平臺(tái)，無論數(shù)據(jù)在哪里都能運(yùn)行。“我們在可擴(kuò)展性、性能和運(yùn)營效率方面提供了重大改進(jìn)……使IT企業(yè)能夠獲得強(qiáng)大的人工智能平臺(tái)的優(yōu)勢，同時(shí)在他們獨(dú)特的業(yè)務(wù)需求需要的任何環(huán)境中保持構(gòu)建、部署和運(yùn)行的能力?！?/span>

下一代Red Hat OpenShift進(jìn)入預(yù)覽階段

紅帽對(duì)人工智能的關(guān)注不僅在于幫助企業(yè)開發(fā)和部署智能應(yīng)用。此外，它還利用人工智能增強(qiáng)自家平臺(tái)的能力，例如經(jīng)典的Red Hat OpenShift，這是一個(gè)廣受歡迎的Kubernetes平臺(tái)，開發(fā)人員利用它在任何云或內(nèi)部部署環(huán)境中構(gòu)建和部署分布式可擴(kuò)展應(yīng)用。

Red Hat OpenShift Lightspeed平臺(tái)現(xiàn)在作為技術(shù)預(yù)覽版推出，是這些人工智能集成工作的結(jié)晶，它引入了一個(gè)新的生成式人工智能驅(qū)動(dòng)的助手，用戶可以用自然語言向它提問。

Red Hat表示，OpenShift 虛擬助手旨在協(xié)助用戶完成應(yīng)用程序故障診斷和調(diào)查集群資源等任務(wù)，目的是簡化用戶的生活，提高他們的工作效率。

雖然Lightspeed還只是預(yù)覽版，但最新的Red Hat OpenShift 4.17 版本已經(jīng)全面發(fā)布，不過新功能并不那么令人興奮。此次更新的主要重點(diǎn)是通過增強(qiáng)Red Hat OpenShift Virtualization來改進(jìn)虛擬化工作負(fù)載管理。此外，該公司還發(fā)布了先進(jìn)的Kubernetes管理功能，使跨多個(gè)集群管理虛擬機(jī)變得更加容易。

人工智能應(yīng)用模板

回到人工智能方面，Red Hat發(fā)布了紅帽開發(fā)者中心（Red Hat Developer Hub）的一系列新功能，這是一個(gè)基于開源Backstage項(xiàng)目的企業(yè)級(jí)開發(fā)者門戶。

為此，Red Hat推出了新的、以人工智能為重點(diǎn)的軟件模板，供開發(fā)人員采用更標(biāo)準(zhǔn)化的方法創(chuàng)建并部署人工智能增強(qiáng)型服務(wù)和組件。新模板涵蓋從音頻到文本、聊天機(jī)器人、代碼生成、對(duì)象檢測和檢索增強(qiáng)生成等常見應(yīng)用。通過使用這些模板，開發(fā)人員可以獲得相當(dāng)于預(yù)構(gòu)建的應(yīng)用程序，然后根據(jù)自己的喜好進(jìn)行定制，從而節(jié)省開發(fā)時(shí)間。

最后，該公司發(fā)布了Red Hat Device Edge 4.17，這次更新旨在簡化在傳感器、無人機(jī)和機(jī)器人等低功耗設(shè)備上部署邊緣人工智能應(yīng)用的工作。Red Hat Device Edge是一個(gè)用于資源受限的邊緣環(huán)境的平臺(tái)，在這種環(huán)境中，小型設(shè)備和計(jì)算資源需要較低延遲的操作。