前不久，亞馬遜云科技投資的Anthropic發(fā)布了模型Claude3，并且第一時間在Amazon Bedrock平臺上完成了發(fā)布。Anthropic做出長期承諾，將通過Amazon Bedrock為世界各地的亞馬遜云科技用戶提供訪問其下一代基礎(chǔ)模型的能力。在日前的生成式AI溝通會上，亞馬遜云科技方面演示了Claude3的能力；并且再次闡釋了如何將大模型能力提供給千行百業(yè)的用戶，Amazon Bedrock是其中一分部。

Amazon Bedrock 是一項完全托管的服務(wù)，通過單個 API 提供來自 AI21 Labs、Cohere、Meta、Stability AI和Amazon Titan等領(lǐng)先人工智能公司的高性能基礎(chǔ)模型，以及通過安全性、隱私性和負(fù)責(zé)任的 AI 構(gòu)建生成式人工智能應(yīng)用程序所需的一系列廣泛功能。

當(dāng)前企業(yè)對大模型的重視，與多年前對云的接受類似，為了降本增效、激發(fā)創(chuàng)新。即便是在這個“數(shù)字化生存”加速展開的時代，企業(yè)上云，從外驅(qū)到自發(fā)，依舊用了超過十年時間。相較之下，大模型與生成式AI的應(yīng)用，在相當(dāng)數(shù)量的企業(yè)被迅速提上日程，算是個小小的“奇跡”。當(dāng)然，快速跟進(jìn)之下，痛點同樣突出：從模型能力的獲得到對運營生產(chǎn)生成真實驅(qū)動力之間，存在不小的“鴻溝”。

幫助企業(yè)在大模型層面“跨越鴻溝”，這是亞馬遜云科技作為云服務(wù)探路者驅(qū)策數(shù)字生產(chǎn)力之后，想做的又一件事。

去年6月的“2023亞馬遜云科技中國峰會”，大模型、生成式AI、AI創(chuàng)新，是貫穿議程的線索。也就是從2023年下半年開始，從外部觀察，亞馬遜云科技對AI的重視程度達(dá)到了空前高度，除了成立生成式AI創(chuàng)新中心、投資模型公司Anthropic、強化和開放自家模型Amazon Titan、豐富相關(guān)服務(wù)架構(gòu)外，與其他模型公司的合作也在深化。

今年來看，亞馬遜云科技的發(fā)展重心，很大程度上還會在大模型與生成式AI上。

Claude 3強勢登陸B(tài)edrock

Claude 3作為當(dāng)前全球最領(lǐng)先的大模型之一，不同于某些語言模型或者視覺模型等等，主打“多模態(tài)”，這也是大模型本身發(fā)展的趨向。系列包括Claude 3 Opus、Claude 3 Sonnet和Claude 3 Haiku，被亞馬遜云科技形象地稱之為“超大杯”“大杯”“中杯”，分別指向高度復(fù)雜任務(wù)、在技能與速度之間達(dá)到理想平衡、幾乎即時響應(yīng)且最緊湊，供客戶根據(jù)自己的商業(yè)需求，從中選擇適合的智能、速度和價格組合。

Claude3系列模型提供200k長度的上下文召回，并針對不同的用例進(jìn)行了優(yōu)化。Opus具有深度推理、高級數(shù)學(xué)和編碼能力，在高度復(fù)雜的任務(wù)上具有頂級性能；Sonnet適用于絕大多數(shù)工作負(fù)載；Haiku突出快速、緊湊，幾乎及時響應(yīng)，成本相對平易。

基準(zhǔn)性能來看，據(jù)稱Claude 3創(chuàng)造了模型智能水平新紀(jì)錄，在數(shù)學(xué)問題、編程練習(xí)和科學(xué)推理等標(biāo)準(zhǔn)評估中超越了所有現(xiàn)有模型，特別是Opus，不僅在包括本科生水平專業(yè)知識（MMLU）、研究生水平專業(yè)推理（GPQA）、基礎(chǔ)數(shù)學(xué)（GSM8K）在內(nèi)的常見AI系統(tǒng)評估基準(zhǔn)測試中表現(xiàn)優(yōu)異，在復(fù)雜任務(wù)中也表現(xiàn)出了優(yōu)秀的理解能力和流暢性。

多模態(tài)能力來看，Claude 3可以接受基于圖像的輸入，能力與其他前沿模型大致相同，且延遲低于其他多模態(tài)模型，在兼具速度和智能要求的用例中表現(xiàn)出色。

AI幻覺來看，Claude 3在處理挑戰(zhàn)性開放問題上準(zhǔn)確性相較Claude 2有著明顯的提升，從舉例上看，Claude 3對于不明確的問題會表示并不足夠了解，Claude 2可能會出現(xiàn)“放飛自我”自由表達(dá)的情況。

應(yīng)用場景來看，Claude 3可提供包括內(nèi)容續(xù)寫、代碼輔助、電商商品描述撰寫以及長文本知識召回在內(nèi)的多種功能。

現(xiàn)場演示來看，亞馬遜云科技主要展示了Haiku，部分展示了Sonnet，Haiku在即時性出色的前提下，輸出結(jié)果的素質(zhì)也有保障；Sonnet的輸出結(jié)果顯然更出色，或許可以理解為職業(yè)頭顯中加“高級”與否的差別。

Amazon Bedrock不止對接領(lǐng)先模型

對Amazon Bedrock的能力，亞馬遜云科技方面也進(jìn)行了一次全新解讀，除了提供對全球領(lǐng)先基礎(chǔ)模型的接入，其還提供知識庫、代理等各種便捷工具，同時確保數(shù)據(jù)隱私和安全，助力企業(yè)構(gòu)建和應(yīng)用生成式AI。

知識庫功能 Knowledge Bases for Amazon Bedrock，為基礎(chǔ)模型和Agent提供來自企業(yè)私人數(shù)據(jù)源的上下文信息，用于檢索增強生成 (RAG)，以提供更相關(guān)、更準(zhǔn)確和更個性化的響應(yīng)。

代理功能 Agents for Amazon Bedrock，使生成式 AI 應(yīng)用能夠使用自然語言來執(zhí)行多步驟的業(yè)務(wù)任務(wù)。如果需要用戶輸入特定信息，Agent會主動詢問，用自然語言獲取所需的附加細(xì)節(jié)。最重要的是，Agent始終利用最新的信息，并在保證安全與隱私的前提下為用戶提供解決方案。

加速實現(xiàn)負(fù)責(zé)任AI的Guardrails for Amazon Bedrock，允許客戶根據(jù)應(yīng)用程序特定要求和負(fù)責(zé)任的 AI策略來管理用戶體驗。構(gòu)建適合其應(yīng)用場景且符合其安全和隱私要求的生成式人工智能應(yīng)用程序，能夠為Amazon Bedrock上的多種基礎(chǔ)模型和代理提供保護(hù)；根據(jù)用戶設(shè)置的負(fù)責(zé)任AI策略來配置有害內(nèi)容過濾器；能夠通過簡短的自然語言描述來定義并拒絕生成被禁止的話題；能夠在基礎(chǔ)模型的回復(fù)結(jié)果中屏幕個人隱私數(shù)據(jù)。

合規(guī)方面，Amazon Bedrock是基于全面的數(shù)據(jù)保護(hù)和隱私保護(hù)構(gòu)建的，傳輸中數(shù)據(jù)和靜態(tài)數(shù)據(jù)都會被加密，數(shù)據(jù)不會與模型提供者共享，也不會用于改進(jìn)基礎(chǔ)模型。

支持構(gòu)建生成式AI的三層架構(gòu)

亞馬遜云科技與眾多客戶開展了生成式AI合作過程中發(fā)現(xiàn)，各行各業(yè)的場景千變?nèi)f化，即使單一大模型的技術(shù)能力再強，也不能適用所有業(yè)務(wù)場景；同時，模型也并不是生成式AI創(chuàng)新的全部。因此，亞馬遜云科技在生成式AI領(lǐng)域為客戶提供了三層架構(gòu)。

底層基礎(chǔ)設(shè)施層，提供基礎(chǔ)算力與基礎(chǔ)架構(gòu)。

算力方面，主要是芯片，現(xiàn)階段還加入了英偉達(dá)最新推出的G200。亞馬遜云科技還投入大量的力量自研芯片，包括Amazon Trainium用于訓(xùn)練的芯片，目前已經(jīng)是第二代，推理芯片Amazon Inferentia也已經(jīng)進(jìn)入第二代。還包括用于訓(xùn)練和推理的平臺Amazon Sagemaker。

用于大規(guī)模并行訓(xùn)練一整套基礎(chǔ)架構(gòu)也有非常重要，集中體現(xiàn)為UltralClusters，可以支持最多10萬多個最新的Trainium2在一起進(jìn)行并行訓(xùn)練。

中間模型層，亞馬遜云科技提供基于生成式AI的一系列全新產(chǎn)品，其中就包括Amazon Bedrock。

應(yīng)用層，提供生成式AI驅(qū)動的應(yīng)用程序。目前最主要的就是Amazon Q，與自身的多個產(chǎn)品，比如BI產(chǎn)品Amazon QuickSight、智能客服產(chǎn)品Amazon Connect、面向編程開發(fā)人員的平臺Amazon CodeWhisperer等，都實現(xiàn)了非常有效的結(jié)合。

通過這三層，不同的客戶可以根據(jù)需求選擇不同層級的產(chǎn)品來支持他們的業(yè)務(wù)，這比模型選擇，還要再進(jìn)一步。

打通生成式AI“最后三公里”

可以說，在技術(shù)服務(wù)方面，亞馬遜云科技的準(zhǔn)備還是比價充分的。但在同時，客戶也面臨著場景應(yīng)用落地的壓力，這種壓力，很大程度上會給到亞馬遜云科技。

就此，亞馬遜云科技，除了用技術(shù)將客戶的生成式AI構(gòu)建項目“扶上馬”，還要在后續(xù)的應(yīng)用階段再“送一程”。

亞馬遜云科技通過包括架構(gòu)師、產(chǎn)品專家、人工智能實驗室、數(shù)據(jù)實驗室、快速原型團(tuán)隊、專業(yè)服務(wù)團(tuán)隊等的豐富的專業(yè)技術(shù)支持資源，幫客戶打通應(yīng)用生成式AI的最后三公里的工程化挑戰(zhàn)。

包括：解決方案架構(gòu)師和客戶一起尋找場景與解決方案，產(chǎn)品技術(shù)專家根據(jù)客戶需求來提供產(chǎn)品構(gòu)建的專業(yè)方案，人工智能實驗幫客戶打磨算法，數(shù)據(jù)實驗室?guī)兔蛻舸蛟於说蕉说臄?shù)據(jù)創(chuàng)新嘗試，快速原型團(tuán)隊助力客戶構(gòu)建 MVP，專業(yè)服務(wù)團(tuán)隊提供專業(yè)的咨詢到實施的全流程服務(wù)，以及培訓(xùn)與認(rèn)證部門提供專業(yè)的機器學(xué)習(xí)培訓(xùn)等等。

正如去年6月的“2023亞馬遜云科技中國峰會”上，亞馬遜云科技全球產(chǎn)品副總裁Matt Wood，在他的主題發(fā)言中談到的：

“亞馬遜云科技始終希望將擁有廣闊前景的且令人興奮的技術(shù)提供給每個人。在云計算時代我們提供通過API訪問云上應(yīng)用的快捷訪問，這一愿景不會因為生成式AI的出現(xiàn)而改變。我們想用生成式AI做同樣（指亞馬遜云科技的愿景）的事情，我們想把這個非常廣闊的、創(chuàng)造性的、重要的技術(shù)放到每一個構(gòu)建者和每一個商業(yè)用戶的手中?！保ㄞD(zhuǎn)載注明“來源：丁科技網(wǎng)”）