原標(biāo)題:挖掘生成式AI價(jià)值,亞馬遜云科技Amazon Bedrock進(jìn)一步擴(kuò)大可選模型范圍
Amazon Bedrock正式可用,幫助更多客戶構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序
Amazon Bedrock是一項(xiàng)完全托管的服務(wù),提供了來(lái)自眾多領(lǐng)先AI公司(包括AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜)面向海外業(yè)務(wù)的的高性能基礎(chǔ)模型,以及企業(yè)構(gòu)建生成式AI應(yīng)用程序所需的一系列功能,能夠在實(shí)現(xiàn)簡(jiǎn)化開(kāi)發(fā)的同時(shí)確保隱私性和安全性;A(chǔ)模型具有良好的適用性,可為信息搜索、內(nèi)容創(chuàng)建及藥物發(fā)現(xiàn)等諸多領(lǐng)域提供支持。但是對(duì)于許多希望利用生成式AI的企業(yè)來(lái)說(shuō),尚有一些問(wèn)題需要解決。首先,它們需要簡(jiǎn)單直觀的選取和訪問(wèn)高性能基礎(chǔ)模型,滿足其場(chǎng)景需求且表現(xiàn)優(yōu)異;其次,客戶希望應(yīng)用程序?qū)崿F(xiàn)無(wú)縫集成,無(wú)需管理龐大的基礎(chǔ)設(shè)施集群或花費(fèi)大量成本;最后,客戶希望借助基礎(chǔ)模型并結(jié)合自身數(shù)據(jù)來(lái)輕松構(gòu)建差異化的應(yīng)用程序,而這些客戶用于定制的數(shù)據(jù)無(wú)疑是非常寶貴的資產(chǎn),具有知識(shí)產(chǎn)權(quán),因此在使用過(guò)程中必須做到全面保護(hù),在確保安全和隱私的同時(shí),保證客戶對(duì)數(shù)據(jù)共享和使用方式擁有控制權(quán)。
借助Amazon Bedrock的完善功能,企業(yè)能夠更方便、輕松地嘗試多種領(lǐng)先的基礎(chǔ)模型,使用自己的專(zhuān)有數(shù)據(jù)定制模型。此外,Amazon Bedrock還提供差異化能力,例如無(wú)需再編寫(xiě)任何代碼便可創(chuàng)建的托管代理(AI agent),它可以執(zhí)行復(fù)雜任務(wù),如旅行預(yù)訂、處理保險(xiǎn)索賠、策劃廣告活動(dòng)和管理庫(kù)存等。由于Amazon Bedrock采用無(wú)服務(wù)器(serverless)技術(shù),客戶不必管理任何基礎(chǔ)設(shè)施,就可以使用已經(jīng)熟悉的亞馬遜云科技服務(wù)將生成式AI能力安全地集成和部署到應(yīng)用程序中。
Amazon Bedrock在開(kāi)發(fā)之初就考慮到安全性和隱私保護(hù),幫助客戶保護(hù)敏感數(shù)據(jù)?蛻艨梢允褂肁mazon PrivateLink,在Amazon Bedrock與虛擬私有網(wǎng)絡(luò)(VPC)之間建立專(zhuān)門(mén)的安全連接,確保任何數(shù)據(jù)傳輸都不會(huì)暴露在公共網(wǎng)絡(luò)。對(duì)于存在高度監(jiān)管需求的客戶,Amazon Bedrock符合HIPAA(《健康保險(xiǎn)流通與責(zé)任法案》)要求,并且可以在GDPR(歐盟《通用數(shù)據(jù)保護(hù)條例》)合規(guī)標(biāo)準(zhǔn)下使用,讓更多的客戶從生成式AI中獲益。
Amazon Bedrock通過(guò)Amazon Titan Embeddings和Llama 2進(jìn)一步擴(kuò)大可選模型范圍,
幫助每個(gè)客戶找到適合應(yīng)用場(chǎng)景的模型
事實(shí)上,沒(méi)有任何一個(gè)單一模型可以適用于所有的應(yīng)用場(chǎng)景。因此,為了挖掘生成式AI的價(jià)值,企業(yè)往往需要訪問(wèn)多個(gè)模型,根據(jù)自己的要求尋找最適合的那一個(gè)。為此,Amazon Bedrock讓出?蛻糁恍柰ㄟ^(guò)單一API就能找到和測(cè)試AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜提供的領(lǐng)先的基礎(chǔ)模型。此外,亞馬遜云科技近日還宣布了Anthropic未來(lái)的所有基礎(chǔ)模型都將在Amazon Bedrock上可用,并為亞馬遜云科技出?蛻籼峁┠P投ㄖ坪臀⒄{(diào)等特殊功能的優(yōu)先訪問(wèn)。而現(xiàn)在起,Amazon Bedrock再次引入新的基礎(chǔ)模型帶來(lái)更多選擇:
Amazon Titan Embeddings現(xiàn)正式可用:Amazon Titan基礎(chǔ)模型是由亞馬遜云科技在大型數(shù)據(jù)集上創(chuàng)建和預(yù)訓(xùn)練的一系列模型,可以支持各種應(yīng)用場(chǎng)景。作為這些模型中第一個(gè)正式可用的模型,Amazon Titan Embeddings是一種大語(yǔ)言模型(LLM),它將文本轉(zhuǎn)換成被稱(chēng)為嵌入向量(embeddings)的數(shù)值表示,以支持檢索增強(qiáng)生成(RAG)的應(yīng)用場(chǎng)景。基礎(chǔ)模型雖然適用于多種任務(wù),但卻只能根據(jù)從訓(xùn)練數(shù)據(jù)和提示詞上下文中學(xué)到的信息來(lái)回答問(wèn)題。一旦這些回答需要利用高時(shí)效性的知識(shí)或?qū)S袛?shù)據(jù)時(shí),其有效性就會(huì)受限。為了能通過(guò)擴(kuò)展數(shù)據(jù)來(lái)改進(jìn)基礎(chǔ)模型的回答,許多企業(yè)將目光轉(zhuǎn)向RAG——這一流行的模型定制技術(shù)能將基礎(chǔ)模型連接到可被引用的知識(shí)庫(kù),從而改進(jìn)響應(yīng)效果。要開(kāi)始使用RAG,客戶必須先訪問(wèn)一個(gè)嵌入模型,將數(shù)據(jù)轉(zhuǎn)換成嵌入向量,使基礎(chǔ)模型更容易理解數(shù)據(jù)之間的語(yǔ)義和關(guān)系。然而,構(gòu)建嵌入模型需要大量的數(shù)據(jù)和資源,以及深厚的機(jī)器學(xué)習(xí)專(zhuān)業(yè)知識(shí),因此很多客戶很難完成自行構(gòu)建,也就無(wú)法實(shí)現(xiàn)RAG。Amazon Titan Embeddings使客戶能夠更簡(jiǎn)單地啟用RAG,以便利用專(zhuān)有數(shù)據(jù)擴(kuò)展各種基礎(chǔ)模型的能力。Amazon Titan Embeddings支持超過(guò)25種語(yǔ)言和多達(dá)8192個(gè)token的上下文長(zhǎng)度,非常適合基于企業(yè)的應(yīng)用場(chǎng)景處理單個(gè)單詞、短語(yǔ)或整個(gè)文檔。該模型可返回1536個(gè)維度的輸出向量,確保高度準(zhǔn)確性的同時(shí)還專(zhuān)為實(shí)現(xiàn)更低延遲和更優(yōu)性?xún)r(jià)比進(jìn)行了優(yōu)化。
Llama 2即將在未來(lái)幾周推出:Amazon Bedrock是業(yè)界 通過(guò)托管API提供Meta下一代大語(yǔ)言模型Llama 2的完全托管的生成式AI服務(wù)。Llama 2模型比之前的Llama模型有了顯著改進(jìn),包括使用了比原始訓(xùn)練多40%的訓(xùn)練數(shù)據(jù),并具有更長(zhǎng)的上下文長(zhǎng)度(4000個(gè)token),以處理更大的文檔。Amazon Bedrock提供的Llama 2模型已經(jīng)過(guò)優(yōu)化,可以在亞馬遜云科技基礎(chǔ)設(shè)施上提供快速響應(yīng),非常適合對(duì)話式應(yīng)用場(chǎng)景?蛻艨梢詷(gòu)建由130億和700億個(gè)參數(shù)的Llama 2模型驅(qū)動(dòng)的生成式AI應(yīng)用程序,且無(wú)需設(shè)置和管理任何基礎(chǔ)設(shè)施。
Amazon CodeWhisperer新功能將允許客戶使用私有代碼庫(kù)安全地定制CodeWhisperer代碼建議,
進(jìn)一步提升開(kāi)發(fā)人員效率
Amazon CodeWhisperer是一款基于AI的編程助手,它通過(guò)對(duì)數(shù)十億行來(lái)自亞馬遜和公開(kāi)可用的代碼進(jìn)行訓(xùn)練,提高開(kāi)發(fā)人員的生產(chǎn)力。雖然開(kāi)發(fā)人員在日常工作中頻繁使用CodeWhisperer,但有時(shí)他們需要將其企業(yè)內(nèi)部私有代碼庫(kù)(例如內(nèi)部API、代碼庫(kù)、軟件包和類(lèi))整合到應(yīng)用程序中,而這些代碼都不屬于CodeWhisperer的訓(xùn)練數(shù)據(jù)。內(nèi)部代碼的使用也是一個(gè)難題,因?yàn)檎f(shuō)明文檔有限,并且沒(méi)有開(kāi)發(fā)人員可以求助的公共資源或論壇。
例如,要編寫(xiě)一個(gè)用于從購(gòu)物車(chē)中移除商品的函數(shù),開(kāi)發(fā)人員必須首先了解用于與應(yīng)用程序交互的API、集合和其他內(nèi)部代碼。以前,開(kāi)發(fā)人員可能需要花費(fèi)數(shù)小時(shí)來(lái)檢查以前編寫(xiě)的內(nèi)部代碼,從而找到所需信息并理解其工作原理。即使找到了正確的資源,他們?nèi)孕枳屑?xì)檢查代碼,以確保其符合公司編碼的 實(shí)踐,并且不會(huì)重復(fù)引用代碼中的任何缺陷或漏洞。
Amazon CodeWhisperer新定制功能將解鎖生成式AI編程的全部潛力,通過(guò)安全地利用客戶的內(nèi)部代碼庫(kù)和資源提供定制化建議。這使得開(kāi)發(fā)人員在各種任務(wù)中能夠更準(zhǔn)確地獲得代碼建議,從而節(jié)省時(shí)間。首先,管理員需要從源(例如GitLab或Amazon S3)連接到他們的私有代碼存儲(chǔ)庫(kù),并調(diào)度一個(gè)作業(yè)來(lái)創(chuàng)建自己的定制內(nèi)容。在創(chuàng)建定制內(nèi)容時(shí),CodeWhisperer利用各種模型和上下文定制技術(shù),學(xué)習(xí)客戶的代碼庫(kù)并改進(jìn)實(shí)時(shí)代碼建議,從而使開(kāi)發(fā)人員花更少的時(shí)間去尋找無(wú)差別的問(wèn)題的正確答案,同時(shí)將更多時(shí)間投入到創(chuàng)建新的差異化體驗(yàn)上。管理員可以在亞馬遜云科技控制臺(tái)(Amazon Console)集中管理所有定制功能、查看評(píng)估指標(biāo)、估算每個(gè)定制功能的性能,并有選擇地將它們部署給公司內(nèi)特定的開(kāi)發(fā)人員,以限制對(duì)敏感代碼的訪問(wèn)。
通過(guò)選擇高質(zhì)量的存儲(chǔ)庫(kù),管理員可以確保CodeWhisperer提供的定制建議不包含已棄用的代碼,以滿足企業(yè)質(zhì)量與安全標(biāo)準(zhǔn)?紤]到企業(yè)級(jí)安全和隱私,這項(xiàng)功能可以確保定制內(nèi)容完全私密,而支持CodeWhisperer的底層基礎(chǔ)模型在訓(xùn)練過(guò)程中不使用定制內(nèi)容,能夠保護(hù)客戶寶貴的知識(shí)產(chǎn)權(quán)。該自定義功能將很快作為CodeWhisperer企業(yè)版的一部分在預(yù)覽中提供給客戶使用。此外,CodeWhisperer的自定義設(shè)置默認(rèn)確保了安全性,無(wú)論客戶使用Amazon CodeWhisperer專(zhuān)業(yè)版還是企業(yè)版,在處理來(lái)自開(kāi)發(fā)人員 IDE 的請(qǐng)求時(shí),亞馬遜云科技均不會(huì)存儲(chǔ)或記錄任何客戶內(nèi)容。
Amazon QuickSight的新生成式BI創(chuàng)作功能,
可以幫助業(yè)務(wù)分析師使用自然語(yǔ)言命令輕松創(chuàng)建和定制數(shù)據(jù)可視化效果
Amazon QuickSight是一個(gè)為云端構(gòu)建的統(tǒng)一BI服務(wù),能夠創(chuàng)建交互式儀表盤(pán)、分頁(yè)報(bào)告以及嵌入式分析,同時(shí)具備使用QuickSight Q進(jìn)行自然語(yǔ)言查詢(xún)的能力,因此企業(yè)的每位用戶都能以他們偏好的格式獲取所需的洞察。
通常情況下,商業(yè)分析師需要花費(fèi)數(shù)小時(shí)使用BI工具來(lái)探索各種不同的數(shù)據(jù)源,添加計(jì)算、創(chuàng)建和完善可視化效果,然后將它們呈現(xiàn)在儀表盤(pán)中提供給業(yè)務(wù)利益相關(guān)者。要?jiǎng)?chuàng)建一個(gè)簡(jiǎn)單的圖表,分析師首先必須找到正確的數(shù)據(jù)源、識(shí)別數(shù)據(jù)字段、設(shè)置過(guò)濾器,同時(shí)進(jìn)行必要的個(gè)性化設(shè)置以實(shí)現(xiàn)良好的可視化效果。
如果進(jìn)行數(shù)據(jù)可視化需要進(jìn)行新的計(jì)算(例如年度銷(xiāo)售額),分析師還必須確定所需的參考數(shù)據(jù),然后創(chuàng)建、驗(yàn)證并將視覺(jué)效果添加到報(bào)告中。如果可以減少商業(yè)分析師手動(dòng)創(chuàng)建和調(diào)整圖表和計(jì)算所花費(fèi)的時(shí)間,讓他們將更多時(shí)間投入到高價(jià)值的任務(wù)中,企業(yè)也能從中獲益。
新的生成式BI創(chuàng)作功能擴(kuò)展了QuickSight Q的自然語(yǔ)言查詢(xún)功能,使其不僅能夠回答清晰表述的問(wèn)題(例如,“加利福尼亞州銷(xiāo)售排名前10的產(chǎn)品是什么?”),還能幫助分析師從問(wèn)題片段(例如,“銷(xiāo)售排名前10的產(chǎn)品”)快速創(chuàng)建可定制的視覺(jué)效果,通過(guò)提出后續(xù)問(wèn)題來(lái)澄清查詢(xún)意圖,優(yōu)化視覺(jué)效果,并完成復(fù)雜的計(jì)算。業(yè)務(wù)分析師只需描述想獲得的結(jié)果,QuickSight即可生成具有良好觀感的視覺(jué)對(duì)象。分析師僅需簡(jiǎn)單操作就能將其輕松添加到儀表盤(pán)或報(bào)告中。
例如,分析師可以要求QuickSight Q為“2022年和2023年運(yùn)動(dòng)鞋銷(xiāo)售額的月度趨勢(shì)”創(chuàng)建可視化內(nèi)容,該服務(wù)會(huì)自動(dòng)選擇合適的數(shù)據(jù),并根據(jù)請(qǐng)求使用最合理的圖表格式(比如線形圖或條形圖)繪制所需信息。QuickSight Q還將提供預(yù)設(shè)的提示問(wèn)題,幫助分析師澄清在多個(gè)數(shù)據(jù)字段與其匹配查詢(xún)時(shí)可能出現(xiàn)的歧義(比如圖表應(yīng)包括運(yùn)動(dòng)鞋銷(xiāo)售額的美元總額還是銷(xiāo)售的單位個(gè)數(shù))。
分析師獲得了最初的可視化內(nèi)容后,還可以使用自然語(yǔ)言添加復(fù)雜的計(jì)算,改變圖表類(lèi)型,或優(yōu)化可視化效果。QuickSight Q中新的生成式BI創(chuàng)作功能使業(yè)務(wù)分析師能夠輕松快捷地創(chuàng)建良好的視覺(jué)效果,更快速地為大規(guī)模數(shù)據(jù)驅(qū)動(dòng)型決策提供寶貴的信息依據(jù)。
投稿郵箱:chuanbeiol@163.com 詳情請(qǐng)?jiān)L問(wèn)川北在線:http://dstuf.com/