作為數(shù)智轉(zhuǎn)型的新工具,生成式AI被越來越多的企業(yè)用來探索對(duì)商業(yè)模式、創(chuàng)新方法、工作流程以及客戶體驗(yàn)的重塑。
最近,德勤中國(guó)與亞馬遜云科技共同宣布創(chuàng)建生成式AI聯(lián)合實(shí)驗(yàn)室,德勤中國(guó)管理咨詢?cè)品?wù)領(lǐng)導(dǎo)合伙人及人工智能與數(shù)據(jù)服務(wù)副領(lǐng)導(dǎo)合伙人孫曉臻表示,該實(shí)驗(yàn)室創(chuàng)建的出發(fā)點(diǎn),就是“幫助企業(yè)加快在業(yè)務(wù)用例上的積累速度,縮短生成式AI的探索之旅,盡快進(jìn)入到生成式AI大規(guī)模應(yīng)用并發(fā)展的階段,以提升數(shù)據(jù)價(jià)值、業(yè)務(wù)價(jià)值”。
整合優(yōu)勢(shì)資源,展開“1+3”合作
某國(guó)際領(lǐng)先制造企業(yè),在中國(guó)擁有幾萬名員工,內(nèi)部產(chǎn)品支持及工作流程等長(zhǎng)期處于離散的狀態(tài),導(dǎo)致內(nèi)部效率受到制約。在這樣的背景下,生成式AI的應(yīng)用,成為了改善與升級(jí)的方向。
據(jù)了解,該企業(yè)在德勤和亞馬遜云科技的幫助下,應(yīng)用生成式AI知識(shí)管理解決方案,不僅整合了本身擁有的龐大知識(shí)庫,還集成了企業(yè)積累的獨(dú)特知識(shí)系統(tǒng),如各種產(chǎn)品和服務(wù)、平臺(tái)和工具、內(nèi)部流程等。
隨后,基于企業(yè)自有數(shù)據(jù)的方案能夠及時(shí)響應(yīng),自動(dòng)提取知識(shí),快速定位例產(chǎn)品描述、用戶手冊(cè)、技術(shù)規(guī)格、營(yíng)銷材料、常見問題解答、法規(guī)等內(nèi)容,在短短4個(gè)月內(nèi),已經(jīng)應(yīng)用于50多個(gè)內(nèi)部業(yè)務(wù)團(tuán)隊(duì),在產(chǎn)品研發(fā)、IT、公司運(yùn)營(yíng)、客戶服務(wù)等不同場(chǎng)景都獲得了效率提升。其中,在內(nèi)部員工的咨詢服務(wù)上,該方案能夠直接解決絕大多數(shù)的員工提問,大幅提高員工滿意度。
在類似案例中,德勤中國(guó)與亞馬遜云科技發(fā)現(xiàn)了更多共性和個(gè)性的需求,從而致力于為更多企業(yè)提供相關(guān)的專業(yè)服務(wù)。生成式AI聯(lián)合實(shí)驗(yàn)室,就此成立。
伴隨聯(lián)合實(shí)驗(yàn)室成立,雙方將整合優(yōu)勢(shì)資源,圍繞“1+3”展開合作:
“1”,是以亞馬遜云科技的堅(jiān)實(shí)技術(shù)為依托,在AI計(jì)算能力、亞馬遜云科技海外區(qū)域推出的全新托管生成式AI服務(wù)Amazon Bedrock、和全托管機(jī)器學(xué)習(xí)服務(wù)Amazon SageMaker等技術(shù)領(lǐng)域深入合作。
“3”,是結(jié)合德勤在戰(zhàn)略咨詢、技術(shù)實(shí)施和全球合規(guī)等方面的卓越能力,在生成式AI業(yè)務(wù)應(yīng)用戰(zhàn)略咨詢、生成式AI安全合規(guī)咨詢和生成式AI應(yīng)用落地場(chǎng)景創(chuàng)新等三大方面展開合作,幫助企業(yè)打通從業(yè)務(wù)戰(zhàn)略、應(yīng)用場(chǎng)景、安全合規(guī)到技術(shù)落地的業(yè)務(wù)閉環(huán),充分釋放生成式AI的巨大潛力。
堅(jiān)實(shí)技術(shù)支撐,完善賦能體系
技術(shù)層面,亞馬遜云科技提供完整的生成式AI云服務(wù)技術(shù),加速企業(yè)的生成式AI旅程。
具體而言,亞馬遜云科技在每一個(gè)技術(shù)棧,都提供相關(guān)的生成式AI服務(wù),形成從底層的加速層(如加速芯片、存儲(chǔ)優(yōu)化),到中間層模型構(gòu)建工具和服務(wù),再到最上層的生成式AI相關(guān)應(yīng)用的完善賦能體系。
在底層,有自研機(jī)器學(xué)習(xí)推理芯片Amazon Inferentia2和自研機(jī)器學(xué)習(xí)訓(xùn)練芯片Trainium?;贏mazon Inferentia2芯片的Amazon EC2 Inf2實(shí)例,可以打造具成本效益的生成式AI云基礎(chǔ)設(shè)施。生成式AI推理工作負(fù)載的要求很高,Inf2實(shí)例為在亞馬遜云科技上大規(guī)模運(yùn)行這類工作負(fù)載提供了可觀的性能、能效并降低成本。基于Amazon Trainium芯片的新型Trn1n實(shí)例,將網(wǎng)絡(luò)帶寬提高了一倍,為訓(xùn)練生成式AI模型提供了更高的性能。
在中間層,全新的托管生成式AI服務(wù)Amazon Bedrock和全托管機(jī)器學(xué)習(xí)服務(wù)Amazon SageMaker,幫助客戶去安全地、便捷地選擇適合的業(yè)務(wù)模型。
借助Amazon Bedrock,通過API使用基礎(chǔ)模型加速開發(fā)生成式AI應(yīng)用程序無需管理基礎(chǔ)設(shè)施;用戶可從亞馬遜云科技、AI21 Labs Anthropic和Stability AI等提供的基礎(chǔ)模型中找到適合用例的基礎(chǔ)模型;客戶還可利用自己的私有數(shù)據(jù)對(duì)模型進(jìn)行微調(diào),以滿足自身個(gè)性化需求。
至于Amazon SageMaker,可以從數(shù)據(jù)準(zhǔn)備、基礎(chǔ)模型選型、基礎(chǔ)模型微調(diào)到基礎(chǔ)模型部署和管理,幫助客戶完成基礎(chǔ)模型的微調(diào)與部署。
在最上層,有開箱即用的生成式AI應(yīng)用Amazon CodeWhisperer。它可以通過編寫大部分無差別的代碼,幫助開發(fā)人員消除重復(fù)性工作并專注創(chuàng)新本身。
三大合作,釋放生成式AI潛力
三個(gè)方向上的合作,具體來看:
生成式AI業(yè)務(wù)應(yīng)用戰(zhàn)略咨詢方面,重點(diǎn)幫助企業(yè)解決普遍存在的業(yè)務(wù)場(chǎng)景模糊問題。
憑借在管理與戰(zhàn)略咨詢、技術(shù)落地實(shí)施方面的積累,德勤幫助企業(yè)洞察行業(yè)趨勢(shì),發(fā)掘應(yīng)用場(chǎng)景,制定生成式AI戰(zhàn)略,發(fā)掘應(yīng)用場(chǎng)景,并利用亞馬遜云科技可靠、安全、高效的生成式AI服務(wù)快速落地商業(yè)應(yīng)用,降低企業(yè)利用生成式AI探索業(yè)務(wù)創(chuàng)新的門檻。
生成式AI安全合規(guī)咨詢方面,幫助企業(yè)做好數(shù)據(jù)、模型和應(yīng)用的安全防護(hù)。
德勤在全球安全合規(guī)咨詢方面擁有強(qiáng)大的實(shí)力,可在業(yè)務(wù)、數(shù)據(jù)層面為客戶提供生成式AI的安全合規(guī)咨詢服務(wù),并針對(duì)不同國(guó)家和地區(qū)的生成式AI法律法規(guī)進(jìn)行解讀,將其融入企業(yè)的業(yè)務(wù)流程和產(chǎn)品研發(fā),幫助企業(yè)提升整體業(yè)務(wù)和產(chǎn)品安全合規(guī)性。
亞馬遜云科技一方面通過技術(shù)、服務(wù)和工具幫助更多企業(yè)充分釋放生成式AI的潛力,助力企業(yè)在數(shù)據(jù)、模型以及應(yīng)用各個(gè)環(huán)節(jié)的安全和合規(guī);另一方面,將AI以及生成式AI技術(shù)應(yīng)用于安全及合規(guī)服務(wù)中,以更智能的安全、合規(guī)服務(wù)應(yīng)對(duì)復(fù)雜的安全威脅、提高合規(guī)效率。
生成式AI應(yīng)用落地場(chǎng)景創(chuàng)新方面,聯(lián)合實(shí)驗(yàn)室利用亞馬遜云科技海外區(qū)域全新的托管生成式AI服務(wù)Amazon Bedrock和全托管機(jī)器學(xué)習(xí)服務(wù)Amazon SageMaker推出了系列解決方案,以滿足企業(yè)的各類出海應(yīng)用場(chǎng)景需求。首批聚焦三項(xiàng)方案:
一是基于大語言模型的智能BI解決方案,以Amazon Bedrock和Amazon SageMaker為基礎(chǔ),預(yù)置了包括中文在內(nèi)的多種大語言模型,可實(shí)現(xiàn)自然語言到SQL查詢語言的無縫轉(zhuǎn)換,使企業(yè)普通業(yè)務(wù)人員無需具備SQL專業(yè)技能也能獲取所需數(shù)據(jù),并洞察業(yè)務(wù)價(jià)值。。
二是生成式AI知識(shí)管理解決方案,基于Amazon Bedrock和Amazon SageMaker,提供包括Amazon Titan和Anthropic Claude等領(lǐng)先人工智能公司的高性能基礎(chǔ)模型,以及多種開源大語言模型選項(xiàng)。通過構(gòu)建企業(yè)知識(shí)平臺(tái),幫助企業(yè)在保障內(nèi)部數(shù)據(jù)隱私和安全的前提下,快速高效地部署知識(shí)問答或檢索系統(tǒng)。該解決方案已經(jīng)在某國(guó)際領(lǐng)先制造企業(yè)用于內(nèi)部員工的咨詢服務(wù),能夠直接解決絕大多數(shù)的員工提問,大幅提高員工滿意度。
三是大語言模型運(yùn)維平臺(tái)(LLMOps)解決方案,通過采用Amazon SageMaker作為模型訓(xùn)練和推理平臺(tái),使客戶能自助對(duì)大語言模型調(diào)優(yōu)工作進(jìn)行流程化管理,利用基礎(chǔ)設(shè)施即代碼(IaC)快速生成工具鏈資源,實(shí)現(xiàn)操作自動(dòng)化,提高模型迭代效率。
除以上內(nèi)容外,人力方面,聯(lián)合實(shí)驗(yàn)室由雙方委派產(chǎn)品技術(shù)專家、云解決方案架構(gòu)師、數(shù)據(jù)科學(xué)家、AI專家和行業(yè)專家等組成,亞馬遜云科技投入云上計(jì)算資源、行業(yè)最佳實(shí)踐以及合作伙伴資源,德勤中國(guó)投入行業(yè)解決方案資產(chǎn)、商業(yè)最佳實(shí)踐、開發(fā)與運(yùn)營(yíng)能力,以及生成式AI業(yè)務(wù)應(yīng)用戰(zhàn)略咨詢服務(wù)和生成式AI安全合規(guī)咨詢服務(wù)。(丁科技網(wǎng)原創(chuàng),轉(zhuǎn)載務(wù)必注明“來源:丁科技網(wǎng)”)
- QQ:61149512