原標(biāo)題：亞馬遜云科技Amazon Bedrock，幫助用戶私密且安全地釋放數(shù)據(jù)價(jià)值

　　企業(yè)希望在各種場(chǎng)景中應(yīng)用生成式AI，例如提高生產(chǎn)效率，創(chuàng)新用戶體驗(yàn)和開(kāi)啟全新工作方式。然而，生成式AI技術(shù)正快速發(fā)展，每天都有新的服務(wù)和創(chuàng)新發(fā)生。在日新月異的當(dāng)下，客戶的適應(yīng)能力至關(guān)重要。企業(yè)需要能夠使用 、最好的可用模型進(jìn)行試驗(yàn)、部署、迭代和調(diào)整，并時(shí)刻準(zhǔn)備好迎接變化。

　　為了應(yīng)對(duì)這些挑戰(zhàn)，亞馬遜云科技開(kāi)發(fā)了Amazon Bedrock，使一系列模型的構(gòu)建和移動(dòng)就像API調(diào)用一樣簡(jiǎn)單，讓所有開(kāi)發(fā)人員都可以獲得模型定制的 ，并確�？蛻舻陌踩�和數(shù)據(jù)隱私。包括Alida、Automation Anywhere、Blueshift、寶馬集團(tuán)、Clariant、Coinbase、Cox Automotive、dentsu、Druva、Genesys、Gilead、GoDaddy、Hellmann Worldwide Logistics、INRIX、KONE、LexisNexis Legal&Professional、Lonely Planet、NatWest、Nexxiot、OfferUp、宏盟集團(tuán)、The PGA Tour、Proofpoint、Salesforce、西門(mén)子、竹中公司和Verint在內(nèi)的眾多企業(yè)已率先采用Amazon Bedrock應(yīng)用生成式AI。此次發(fā)布引入了新的模型和功能，使客戶能夠更輕松地構(gòu)建和規(guī)�；�生成式AI應(yīng)用。

　　擴(kuò)展的全新模型定制功能可幫助客戶在亞馬遜云科技上

　　私密且安全地釋放數(shù)據(jù)價(jià)值

　　企業(yè)希望最大限度地釋放數(shù)據(jù)價(jià)值，以大規(guī)模提供卓越的用戶體驗(yàn)，這些體驗(yàn)經(jīng)過(guò)獨(dú)特定制，能夠反映公司的風(fēng)格、聲音和服務(wù)。Amazon Bedrock中提供的新的專門(mén)構(gòu)建的功能可幫助客戶使用自己的數(shù)據(jù)私密且安全地定制模型，以構(gòu)建差異化的生成式AI驅(qū)動(dòng)的應(yīng)用程序。

　　Amazon Bedrock知識(shí)庫(kù)功能使用上下文和相關(guān)公司數(shù)據(jù)定制模型響應(yīng)：

　　組織希望使用專有數(shù)據(jù)補(bǔ)充現(xiàn)有模型，以獲得更相關(guān)和更準(zhǔn)確的響應(yīng)。為了給模型配備 信息，組織轉(zhuǎn)向RAG，這種技術(shù)通過(guò)從多個(gè)來(lái)源(例如資源池、數(shù)據(jù)庫(kù)和API)獲取數(shù)據(jù)，將數(shù)據(jù)與提示詞結(jié)合。Amazon Bedrock知識(shí)庫(kù)功能現(xiàn)已全面可用，可將模型安全地連接到公司內(nèi)部數(shù)據(jù)源用于RAG，以便為聊天機(jī)器人和問(wèn)答系統(tǒng)等用例提供更準(zhǔn)確、針對(duì)特定上下文的響應(yīng)。

　　知識(shí)庫(kù)是完全托管的，因此客戶只需指明數(shù)據(jù)位置，然后知識(shí)庫(kù)就會(huì)獲取文本文檔，并將數(shù)據(jù)保存到向量數(shù)據(jù)庫(kù)或代表客戶設(shè)置一個(gè)向量數(shù)據(jù)庫(kù)。當(dāng)用戶進(jìn)行查詢時(shí)，Amazon Bedrock會(huì)自動(dòng)編排RAG，通過(guò)模型獲取相關(guān)文本來(lái)增強(qiáng)提示詞，將提示詞發(fā)給模型，最終返回響應(yīng)。Amazon Bedrock知識(shí)庫(kù)支持?jǐn)?shù)據(jù)庫(kù)用于向量功能，包括Amazon OpenSearch、Pinecone和Redis Enterprise Cloud的向量引擎，Amazon Aurora和MongoDB也即將推出。

　　Cohere Command、Meta Llama 2和Amazon Titan模型現(xiàn)在可以在Amazon Bedrock上進(jìn)行微調(diào)，并且即將推出對(duì)Anthropic Claude 2的支持：

　　除了RAG之外，企業(yè)還可以利用微調(diào)功能在具體任務(wù)(例如，文本生成)中進(jìn)一步訓(xùn)練模型，使用標(biāo)記數(shù)據(jù)集調(diào)整模型參數(shù)，使其適合業(yè)務(wù)需求，將掌握的知識(shí)擴(kuò)展到組織和終端用戶使用的詞匯庫(kù)。例如，零售客戶可以在產(chǎn)品描述數(shù)據(jù)集上微調(diào)模型，以幫助其了解品牌風(fēng)格，從而為網(wǎng)站生成更準(zhǔn)確的描述。Amazon Bedrock現(xiàn)在支持對(duì)Cohere Command和Meta Llama 2，以及Amazon Titan Text Express、Amazon Titan Text Lite、Amazon Titan Multimodal Embeddings和Amazon Titan Image Generator(預(yù)覽版)的完全托管微調(diào)，因此客戶可以使用帶標(biāo)簽的數(shù)據(jù)集提高特定任務(wù)的模型準(zhǔn)確性。

　　此外，亞馬遜云科技客戶很快就能夠利用自己的數(shù)據(jù)源微調(diào)Anthropic Claude 2的性能。要微調(diào)模型，客戶可以選擇模型，使用Amazon Bedrock制作副本。之后，客戶可以在Amazon Simple Storage Service(Amazon S3)中的標(biāo)記示例。Amazon Bedrock(利用新信息增強(qiáng)復(fù)制模型)對(duì)其進(jìn)行訓(xùn)練，在保證隱私的情況下返回結(jié)果。模型越是經(jīng)過(guò)精準(zhǔn)調(diào)優(yōu)，返回的結(jié)果越是相關(guān)且定制化。客戶數(shù)據(jù)在傳輸過(guò)程中和靜態(tài)時(shí)都經(jīng)過(guò)加密，因此所有有價(jià)值的客戶數(shù)據(jù)都是始終安全且私密的。亞馬遜云科技和第三方模型提供商不會(huì)使用Amazon Bedrock的任何輸入或輸出來(lái)訓(xùn)練其基本模型。

　　借助Agents for Amazon Bedrock，

　　生成式AI應(yīng)用程序可以使用公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)

　　雖然模型能夠有效地進(jìn)行對(duì)話和創(chuàng)建新內(nèi)容，但如果能夠執(zhí)行復(fù)雜的操作，例如解決問(wèn)題以及與公司系統(tǒng)交互以完成任務(wù)(例如，旅行預(yù)定或訂購(gòu)替換零件)，它們可以提供更多價(jià)值。然而，這需要定制化地將模型與公司數(shù)據(jù)源、API以及內(nèi)部和外部系統(tǒng)集成起來(lái)。開(kāi)發(fā)人員必須編寫(xiě)代碼來(lái)協(xié)調(diào)模型、系統(tǒng)和用戶之間的交互，以便應(yīng)用程序可以按邏輯順序執(zhí)行一系列API調(diào)用。為了將模型與數(shù)據(jù)源連接起來(lái)，開(kāi)發(fā)人員必須部署RAG，以便模型可以根據(jù)任務(wù)調(diào)整其響應(yīng)。最后，開(kāi)發(fā)人員必須配置和管理必要的基礎(chǔ)設(shè)施，并制定數(shù)據(jù)安全和隱私策略。這些步驟非常耗時(shí)且需要專業(yè)知識(shí)，從而減慢了生成式AI應(yīng)用程序的開(kāi)發(fā)速度。

　　現(xiàn)在正式可用、完全托管的Agents for Amazon Bedrock功能使生成式AI應(yīng)用程序能夠跨公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)。Agents可以計(jì)劃和執(zhí)行大多數(shù)業(yè)務(wù)任務(wù)，例如回答有關(guān)產(chǎn)品可用性的問(wèn)題或接受訂單�？蛻艨梢允褂煤�(jiǎn)單的設(shè)置過(guò)程創(chuàng)建Agents——首先選擇所需的模型，用自然語(yǔ)言編寫(xiě)一些說(shuō)明(例如，“你是一位友好的客戶服務(wù)Agents”，和“在庫(kù)存系統(tǒng)中檢查產(chǎn)品庫(kù)存情況”)，并開(kāi)放其對(duì)公司企業(yè)系統(tǒng)和知識(shí)庫(kù)的訪問(wèn);Agents自動(dòng)分析請(qǐng)求并將其分解為邏輯序列，使用模型的Agents功能來(lái)確定所需的信息;然后，Agents通過(guò)識(shí)別要調(diào)用的API并決定何時(shí)調(diào)用它們來(lái)采取行動(dòng)、滿足請(qǐng)求。Agents還可以從專有數(shù)據(jù)源檢索所需信息，以提供準(zhǔn)確且相關(guān)的響應(yīng)。Agents每次都會(huì)在后臺(tái)安全、私密地執(zhí)行此過(guò)程，使客戶無(wú)需設(shè)計(jì)提示、管理會(huì)話上下文或手動(dòng)編排系統(tǒng)。借助Agents for Amazon Bedrock，客戶可以提升準(zhǔn)確性，加速生成式AI應(yīng)用程序的開(kāi)發(fā)。

　　借助Amazon Bedrock的Guardrails功能，

　　客戶可以根據(jù)應(yīng)用程序要求和負(fù)責(zé)任的AI策略跨模型實(shí)施保護(hù)措施

　　企業(yè)認(rèn)識(shí)到需要管理生成式AI應(yīng)用程序中的交互，以提供所答即所問(wèn)的用戶體驗(yàn)并確保安全。雖然許多模型使用內(nèi)置控件來(lái)過(guò)濾不良和有害內(nèi)容，但企業(yè)希望進(jìn)一步定制交互，以保證話題始終與業(yè)務(wù)相關(guān)，符合公司政策，并遵守“負(fù)責(zé)任的AI”的原則。

　　例如，銀行可能希望這樣設(shè)置其在線助手：避免查詢競(jìng)爭(zhēng)對(duì)手、避免提供投資建議、以及限制有害內(nèi)容。此外，應(yīng)用戶要求，可能要變換或隱去用戶的個(gè)人身份信息(PII)以保證安全。企業(yè)可能需要更改模型、使用多個(gè)模型或跨應(yīng)用程序復(fù)制策略，他們需要一種簡(jiǎn)單的方法來(lái)同時(shí)在所有這些領(lǐng)域一致地部署他們的要求。這需要深厚的專業(yè)知識(shí)來(lái)構(gòu)建具有此類保護(hù)措施的定制保護(hù)系統(tǒng)并將其集成到應(yīng)用程序中，并且該過(guò)程可能需要數(shù)月時(shí)間。企業(yè)希望以一種簡(jiǎn)化的方式在生成AI應(yīng)用程序中強(qiáng)化關(guān)鍵策略和規(guī)則，以提供所答即所問(wèn)的用戶體驗(yàn)并支持更安全地使用該技術(shù)。

　　Amazon Bedrock的Guardrails功能現(xiàn)已推出預(yù)覽版，使客戶能夠?yàn)樯�成式AI應(yīng)用程序?qū)嵤┍Ｗo(hù)措施。這些應(yīng)用程序根據(jù)客戶應(yīng)用場(chǎng)景和“負(fù)責(zé)任的AI”原則進(jìn)行定制，因此這一功能可以增強(qiáng)用戶交互的安全性和隱私性。Guardrails功能可以提高Amazon Bedrock上的模型對(duì)應(yīng)用程序中不良和有害內(nèi)容的響應(yīng)方式的一致性。客戶可以將Guardrails功能應(yīng)用于Amazon Bedrock上的所有大型語(yǔ)言模型，以及微調(diào)模型并與Agents for Amazon Bedrock功能結(jié)合使用。

　　要在Amazon Bedrock控制臺(tái)中創(chuàng)建一個(gè)Guardrail，客戶首先使用自然語(yǔ)言描述來(lái)定義其應(yīng)用程序中需要被拒絕的話題�？蛻暨�可以配置仇恨言論、侮辱、性語(yǔ)言和暴力的閾值，以將有害內(nèi)容過(guò)濾到他們想要的水平。在2024年初，客戶還可以設(shè)定模型響應(yīng)中的個(gè)人身份信息(PII)的變換方法以保證安全、設(shè)置臟話過(guò)濾器，并提供自定義單詞列表來(lái)阻止用戶和模型之間的交互。Guardrails自動(dòng)評(píng)估用戶查詢和模型響應(yīng)，以檢測(cè)并防止出現(xiàn)屬于受限類別的內(nèi)容�？蛻艨梢詣�(chuàng)建多個(gè)Guardrails來(lái)支持不同的用例，也可以在多個(gè)模型中應(yīng)用相同的Guardrail。Amazon Bedrock的Guardrails功能通過(guò)提供一致的用戶體驗(yàn)并標(biāo)準(zhǔn)化生成型AI應(yīng)用程序的安全和隱私控制，使客戶能夠安全地進(jìn)行創(chuàng)新。

　　電通是全球最大的整合營(yíng)銷(xiāo)和技術(shù)服務(wù)提供商之一。電通創(chuàng)新與新興技術(shù)執(zhí)行副總裁Brian Klochkoff表示：“我們致力于將營(yíng)銷(xiāo)、技術(shù)和咨詢整合起來(lái)，助力那些希望造福社會(huì)的品牌實(shí)現(xiàn)以人為本的轉(zhuǎn)型。生成式AI能夠讓我們以更大規(guī)模、更快速地為客戶提供服務(wù)。這項(xiàng)技術(shù)不會(huì)取代我們的員工，而是為我們?nèi)��?2000名員工提供助力。具體來(lái)說(shuō)，Amazon Bedrock為我們提供了企業(yè)級(jí)的控制能力和便捷部署第三方模型的能力，以便我們的產(chǎn)品和技術(shù)團(tuán)隊(duì)能夠跨團(tuán)隊(duì)分散使用。這讓團(tuán)隊(duì)能夠在一個(gè)安全和負(fù)責(zé)任的環(huán)境下，借助 、最前沿的生成式AI技術(shù)進(jìn)行革新，為客戶打造創(chuàng)新機(jī)遇。”

　　MongoDB的使命是通過(guò)釋放軟件和數(shù)據(jù)的力量，幫助創(chuàng)新者創(chuàng)造、變革和顛覆行業(yè)。MongoDB首席產(chǎn)品官Sahir Azam表示：“各行各業(yè)越來(lái)越多的客戶希望利用生成式AI來(lái)構(gòu)建下一代應(yīng)用程序，但許多人擔(dān)心數(shù)據(jù)隱私以及人工智能驅(qū)動(dòng)的系統(tǒng)輸出的準(zhǔn)確性。為了滿足客戶的需求，我們將MongoDB Atlas作為Amazon Bedrock的知識(shí)庫(kù)，以便我們的共同客戶可以利用其運(yùn)營(yíng)數(shù)據(jù)安全地構(gòu)建生成式AI應(yīng)用程序，以符合最終用戶期望的信任度和準(zhǔn)確性來(lái)創(chuàng)建個(gè)性化體驗(yàn)。通過(guò)這種集成，客戶可以訪問(wèn)行業(yè)領(lǐng)先的基礎(chǔ)模型，并使用MongoDB Atlas Vector Search處理過(guò)的數(shù)據(jù)來(lái)創(chuàng)建應(yīng)用程序，在正確的上下文中提供更多相關(guān)的輸出。利用Amazon Bedrock知識(shí)庫(kù)中內(nèi)置的數(shù)據(jù)隱私 實(shí)踐，客戶可以節(jié)省在生成式AI運(yùn)營(yíng)上花費(fèi)的時(shí)間，從而更專注于技術(shù)部署，以在亞馬遜云科技上提供更有吸引力的最終用戶體驗(yàn)。”

　　Salesforce是領(lǐng)先的AI客戶關(guān)系管理(CRM)平臺(tái)，通過(guò)AI、CRM和數(shù)據(jù)的力量實(shí)現(xiàn)高效和可信賴的客戶體驗(yàn)。Salesforce產(chǎn)品高級(jí)副總裁Kaushal Kurapati表示：“我們致力于幫助企業(yè)以全新、個(gè)性化的方式與客戶建立連接，AI對(duì)實(shí)現(xiàn)這一 來(lái)說(shuō)不可或缺。Amazon Bedrock是我們開(kāi)放模型生態(tài)戰(zhàn)略的重要組成部分，能夠?qū)⒛Ｐ团c客戶的數(shù)據(jù)無(wú)縫整合，并集成到Salesforce工作流程當(dāng)中。新增的評(píng)估能力可以從多維度對(duì)比基礎(chǔ)模型，包括從友好性、風(fēng)格和品牌相關(guān)性等定性方面進(jìn)行比較，從而讓模型落地變得前所未有的簡(jiǎn)單、快捷。”

   投稿郵箱：chuanbeiol@163.com   詳情請(qǐng)?jiān)L問(wèn)川北在線：http://fishbao.com.cn/