原標(biāo)題:生成式AI迎來(lái)搜索技術(shù)變革,亞馬遜云科技更新向量引擎適用,簡(jiǎn)化運(yùn)營(yíng)
一場(chǎng)關(guān)于生產(chǎn)力的革命已在醞釀之中。全球管理咨詢公司麥肯錫在最近的報(bào)告《生成式人工智能的經(jīng)濟(jì)潛力:下一波生產(chǎn)力浪潮》中指出,生成式AI每年可能為全球經(jīng)濟(jì)增加2.6萬(wàn)億到4.4萬(wàn)億美元的價(jià)值。在幾天前的亞馬遜云科技紐約峰會(huì)中,「生成式AI」同樣是全場(chǎng)提及頻率 的關(guān)鍵詞。
「如今,大模型可以在大量無(wú)標(biāo)注數(shù)據(jù)中進(jìn)行預(yù)訓(xùn)練,實(shí)現(xiàn)開(kāi)箱即用,以處理各種通用性問(wèn)題。此外,只需相對(duì)少量的標(biāo)注數(shù)據(jù)進(jìn)行微調(diào),它們就能用于特定領(lǐng)域的應(yīng)用!箒嗰R遜云科技數(shù)據(jù)庫(kù)、數(shù)據(jù)分析和機(jī)器學(xué)習(xí)全球副總裁Swami Sivasubramanian表示,「通過(guò)微調(diào)輕松定制預(yù)訓(xùn)練模型的能力, 是游戲規(guī)則的改變。」
憑借過(guò)去數(shù)年的客戶需求洞察和技術(shù)積累,亞馬遜云科技將大量的AI能力集成到了簡(jiǎn)單易用的產(chǎn)品之中,希望以最簡(jiǎn)潔的方式將技術(shù)進(jìn)步輸送到各行各業(yè)。在這場(chǎng)技術(shù)盛會(huì)上,亞馬遜云科技一口氣推出了七項(xiàng)生成式AI新功能。
最強(qiáng)的生成式AI大模型,在這里輕松調(diào)用
今年4月,亞馬遜云科技發(fā)布了全托管基礎(chǔ)模型服務(wù)「Amazon Bedrock」,以「關(guān)鍵基礎(chǔ)設(shè)施提供商」的角色加入了大模型之戰(zhàn)。
從希望應(yīng)用大模型的企業(yè)角度來(lái)說(shuō),自研大模型需要數(shù)十億美元和多年的訓(xùn)練,更優(yōu)的解決方案是對(duì)一些已經(jīng)非常強(qiáng)大的開(kāi)源基礎(chǔ)模型進(jìn)行定制化的微調(diào),以滿足自身的多樣化業(yè)務(wù)需求。Amazon Bedrock的重要價(jià)值就在于此。這項(xiàng)服務(wù)可以讓所有人都可以基于已有的大模型、專用的AI算力和工具,再結(jié)合自己的數(shù)據(jù)開(kāi)始構(gòu)建生成式AI應(yīng)用。
在 擴(kuò)展后的Amazon Bedrock中,匯聚了來(lái)自一批 大模型供應(yīng)商的 成果:
目前,Amazon Bedrock提供了Anthropic 語(yǔ)言模型Claude 2、AI21的JURASSIC-2、亞馬遜自研的Amazon Titan系列模型的訪問(wèn)。Stability AI也在Amazon Bedrock中首發(fā)了 版的文生圖模型套件Stable Diffusion XL 1.0。此外,Cohere成為了 加入Amazon Bedrock的基礎(chǔ)模型供應(yīng)商,并帶來(lái)了文本生成模型Command和文本理解模型EMBED。
相比于其他的一站式的大模型服務(wù)平臺(tái),Amazon Bedrock的優(yōu)勢(shì)在于,用戶可將其與亞馬遜云科技平臺(tái)的其余部分集成在一起,更輕松地訪問(wèn)存儲(chǔ)在Amazon S3對(duì)象存儲(chǔ)服務(wù)中的數(shù)據(jù),并能夠從亞馬遜云科技訪問(wèn)控制和治理策略中受益。
生成式AI讓云計(jì)算服務(wù)的競(jìng)爭(zhēng)格局發(fā)生了改變,除了原有的存儲(chǔ)、計(jì)算、網(wǎng)絡(luò)等基礎(chǔ)設(shè)施,模型、框架和應(yīng)用層面的能力提供變得更為重要。在過(guò)去一段時(shí)間,我們見(jiàn)到了「模型即服務(wù)」這種全新商業(yè)的誕生。如同Amazon Bedrock這樣的一系列平臺(tái),正在將大模型變?yōu)橹苯涌捎玫姆⻊?wù),幫助各行各業(yè)的用戶接入生成式AI,撬動(dòng)了一個(gè)全新的藍(lán)海市場(chǎng)。
推動(dòng)生成式AI走完落地的「最后一公里」
在今天,即使生成式AI模型的功能已經(jīng)如此強(qiáng)大,它們?nèi)匀粺o(wú)法代替人類「執(zhí)行」一部分關(guān)鍵的、個(gè)性化的任務(wù)。這恰恰是「生成式AI」轉(zhuǎn)化為「生產(chǎn)力」過(guò)程中非常關(guān)鍵的一步。
問(wèn)題并非不能解決:模型通?梢愿郊覣PI、插件、數(shù)據(jù)庫(kù)以擴(kuò)展功能,為用戶自動(dòng)完成某些特定的任務(wù)。比如ChatGPT此前就推出了插件機(jī)制,還為開(kāi)發(fā)者提供了開(kāi)放平臺(tái),允許更多用戶根據(jù)自己的需求、想法和專業(yè)能力進(jìn)行擴(kuò)展。為了簡(jiǎn)化這一環(huán)節(jié)所需的工作,亞馬遜云科技正式推出了Amazon Bedrock Agents。
Amazon Bedrock Agents可以擴(kuò)展基礎(chǔ)模型以理解用戶請(qǐng)求,將復(fù)雜任務(wù)分解為多個(gè)步驟,開(kāi)展對(duì)話以收集更多信息,并采取行動(dòng)來(lái)滿足用戶請(qǐng)求。開(kāi)發(fā)者只需點(diǎn)擊幾下,就能創(chuàng)建完全托管的Agents:
該功能創(chuàng)建的對(duì)話式智能體可根據(jù)專有數(shù)據(jù)提供個(gè)性化的 答案并執(zhí)行操作,幫助企業(yè)加速交付生成式AI應(yīng)用程序,推動(dòng)解決生成式AI落地的「最后一公里」問(wèn)題。比如,企業(yè)可以使用Amazon Bedrock Agents創(chuàng)建一個(gè)可以處理訂單的客戶服務(wù)聊天機(jī)器人,利用其內(nèi)部信息(包括客戶資料和退貨政策)來(lái)定制化服務(wù)于每個(gè)訂單。
如果做個(gè)比喻的話,Amazon Bedrock Agents就像是一個(gè)得力的助手;蛟S在不久的將來(lái),我們就能享受這一功能所提供的用戶端服務(wù):不只是顯示有哪些合適的航班、推薦口碑好的餐廳,還能直接幫忙預(yù)訂、跟進(jìn)。
生成式AI時(shí)代的搜索技術(shù)變革
在解決大模型落地挑戰(zhàn)的火熱討論中,「向量搜索」和「向量數(shù)據(jù)庫(kù)」的概念開(kāi)始被越來(lái)越多的人熟知。這是檢索技術(shù)層面在生成式AI時(shí)代正在發(fā)生的變革。
首先,伴隨數(shù)據(jù)規(guī)模的增長(zhǎng),關(guān)鍵詞檢索已經(jīng)不能滿足需求,向量檢索可作對(duì)傳統(tǒng)搜索技術(shù)的補(bǔ)充。通過(guò)將數(shù)據(jù)表示為向量,模型可以快速分析和理解大量信息,準(zhǔn)確地識(shí)別和匹配相似的項(xiàng)目。
其次,經(jīng)過(guò)預(yù)訓(xùn)練的大模型固然能力出眾,但也存在一些不足,比如缺乏領(lǐng)域知識(shí)、缺乏長(zhǎng)期記憶、缺乏事實(shí)一致性的問(wèn)題。而在數(shù)據(jù)規(guī)模不斷增長(zhǎng)、算力日益珍貴的現(xiàn)狀下,向量數(shù)據(jù)庫(kù)可作為大模型的「超級(jí)大腦」,打一份小抄,相對(duì)較低的成本補(bǔ)充動(dòng)態(tài)知識(shí),滿足用戶不斷增長(zhǎng)的需求。
對(duì)于這一方向,亞馬遜云科技早早發(fā)力,此前已上線多項(xiàng)支持向量的數(shù)據(jù)存儲(chǔ)服務(wù),包括Amazon Aurora PostgreSQL兼容版關(guān)系型數(shù)據(jù)庫(kù),兼容PostgreSQL的Amazon RDS(Amazon Relational Database Service)關(guān)系型數(shù)據(jù)庫(kù)等。
在這一次的峰會(huì)上,亞馬遜云科技又推出了適用于Amazon OpenSearch Serverless的向量引擎。該向量引擎支持簡(jiǎn)單的API調(diào)用,可用于存儲(chǔ)和查詢數(shù)十億個(gè)Embeddings。
該引擎由Amazon OpenSearch項(xiàng)目中的k最近鄰(kNN)搜索功能提供支持,為客戶提供無(wú)服務(wù)器環(huán)境下的語(yǔ)義搜索服務(wù)。即使向量從原型設(shè)計(jì)期間的幾千個(gè)增長(zhǎng)到數(shù)億甚至更多,引擎也能無(wú)縫擴(kuò)展,無(wú)需重新索引或重新加載數(shù)據(jù)來(lái)擴(kuò)展基礎(chǔ)設(shè)施。
順應(yīng)大模型時(shí)代的廣泛需求,亞馬遜云科技還正式宣布,平臺(tái)上所有的數(shù)據(jù)庫(kù)未來(lái)都將具有向量功能,幫助客戶簡(jiǎn)化運(yùn)營(yíng),方便集成數(shù)據(jù)。
讓生成式AI落地多重加速
在這些重磅發(fā)布之外,為了加速生成式AI的訓(xùn)練和應(yīng)用,亞馬遜云科技已推出了一系列服務(wù)和工具。
動(dòng)態(tài)是,兩項(xiàng)關(guān)鍵服務(wù)已正式可用:其中一項(xiàng)服務(wù)是關(guān)于計(jì)算基礎(chǔ)設(shè)施,基于英偉達(dá)H100 Tensor Core GPU的Amazon EC2 P5實(shí)例已正式可用,滿足客戶在運(yùn)行工作負(fù)載時(shí)對(duì)高性能和高擴(kuò)展性的需求。
很多業(yè)界知名的生成式AI模型同時(shí)涵蓋問(wèn)題回復(fù)、代碼生成、視頻和圖像生成、語(yǔ)音識(shí)別等功能,規(guī)模通常有千億或萬(wàn)億參數(shù),訓(xùn)練時(shí)間甚至長(zhǎng)達(dá)數(shù)月。這勢(shì)必會(huì)成為普遍影響生成式AI落地速度的因素之一。
與上一代基于GPU的實(shí)例相比,Amazon EC2 P5實(shí)例使得訓(xùn)練 提速6倍,曾經(jīng)的幾天訓(xùn)練時(shí)間可縮短到幾小時(shí),幫助客戶降低高達(dá)40%的訓(xùn)練成本。
另外一項(xiàng)服務(wù)是有關(guān)于開(kāi)發(fā)工具。去年,亞馬遜云科技推出了AI編程助手Amazon CodeWhisperer預(yù)覽版,獲得了開(kāi)發(fā)者的高度關(guān)注。數(shù)據(jù)表明,與未使用該編程助手的開(kāi)發(fā)者相比,使用者完成任務(wù)的速度平均快57%,F(xiàn)在,Amazon CodeWhisperer已經(jīng)正式可用,并且實(shí)現(xiàn)了與Amazon Glue的集成。
從此以后,開(kāi)發(fā)者可以用自然語(yǔ)言編寫(xiě)特定任務(wù),Amazon CodeWhispere會(huì)直接在Amazon Glue Notebooks中推薦一個(gè)或多個(gè)可完成此任務(wù)的代碼片段,用戶可以選擇「接受最推薦的建議」、「查看更多建議」或「繼續(xù)自己編寫(xiě)代碼」。也就是說(shuō),即使完全不會(huì)寫(xiě)代碼,你也可以嘗試用「說(shuō)人話」的方法構(gòu)建出完整的應(yīng)用程序。
寫(xiě)在最后
技術(shù)的發(fā)展往往超乎人們的預(yù)設(shè)。曾幾何時(shí),研究者們還需要花費(fèi)數(shù)月的時(shí)間進(jìn)行數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)處理和模型訓(xùn)練,不得不投入極其高昂的成本,只為了完成某一項(xiàng)特定的任務(wù)。
在這場(chǎng)浪潮中,亞馬遜云科技選擇的路線是做好「關(guān)鍵基礎(chǔ)設(shè)施提供商」的工作。它的優(yōu)勢(shì)在于過(guò)去20年在人工智能技術(shù)上的深厚積累,在于對(duì)于超過(guò)10萬(wàn)家客戶的深刻理解,在于打磨多年的高可用、強(qiáng)大的基礎(chǔ)設(shè)施。這些都會(huì)有力地推動(dòng)亞馬遜云科技加快生成式AI落地的征程,幫助到每一位開(kāi)發(fā)者或創(chuàng)業(yè)團(tuán)隊(duì)。
投稿郵箱:chuanbeiol@163.com 詳情請(qǐng)?jiān)L問(wèn)川北在線:http://dstuf.com/