作者：MarinaKaganovich、HeidiHellwig1,2章節(jié)01：負責任的創(chuàng)新7920章節(jié)02：共進退章節(jié)03：最佳實踐28303GoogleCloud的生成式AI方案優(yōu)先考慮滿出疑問。許多人還表達了對隱私權、透明度和可信度的擔憂。遇，助力實現以下目標：自自提高客戶互動度強化產品價值和提高客提高客戶忠誠度和在本白皮書中，我們將探討GoogleCloud如何幫助企業(yè)實現這些好處。本白皮書介紹了我們如何以負責任的方式構建企業(yè)級生成式AI，以及在通過Vertex片、音樂、音頻和視頻，或者由多模態(tài)生成式AI實現的某種變體。），4信，我們的AI方法必須既大膽又負責任。大膽體現球用戶使用并從中受益，推動科學進步，加深我們要滿足用戶需求，又要履行更廣泛的責任，同時保障用戶的信息安全、系統(tǒng)安全和隱私權。我們還將這些價值觀融入到了GoogleCloudPlatform使用限制政策和生成式AI禁用政策中，以便透明、清晰地傳達這些價值觀。此外，我們還認識到，在AI方面，良好的個人實踐和共同的業(yè)界標準，二者可。我們不斷改進實踐，開展行業(yè)領先的AI影響和風險管理研究，并評估新的AI研究和應用提案，確保它們符合我們的原則。我們持續(xù)迭代并重新評估在工作中踐行問責制原則和安全機制的方式，并公布進展，以鼓勵在此方面開展協(xié)作，共同進步。要知道，GoogleCloud會利制舉措和最佳實踐為您實施AI提供保護。 借助GoogleCloud透明、全面負責的從設計上保障用戶隱私的AI方法，堅持卓越的隱私保護標準。03.Cloud都能為您提供合規(guī)方面的支持，助您在不斷變化的復雜合規(guī)環(huán)境中緊跟時代步伐。 a.數據來訓練模型。5負責任的創(chuàng)新AI發(fā)展如此迅猛，我們如何才能在創(chuàng)新、可靠性和風險緩釋之間取得恰當的平衡？在本章中，您將了解GoogleCloud如何通過仔細考慮從風險評估和數據治理，到隱私權、安全性和合規(guī)性，以及可02030203與任何其他顛覆性的新技術一樣，生成式AI也伴隨著結構的一部分加以管理。AI帶來了一些關鍵問題，我們正在努力以負責任的方式構建AI，讓AI造福我們的客戶和我們業(yè)務所及的更廣泛的社會群體。挑戰(zhàn)且值得信賴的AI應用，同時仍要推動創(chuàng)新，實現AI造福社會的愿景。建AI技術方面，我們采用原則性方法，致力于制定和的開發(fā)和使用中。我們認識到，嚴格的評估對于構建成早期階段與客戶共同開發(fā)的機會，我們都會讓專業(yè)團隊進行分析和風險評估。負責任的產品開發(fā)實踐涉及多個方面。有些是技術些與產品體驗相關；還有一些涉及政策，從產品角享），以便審查項目是否符合AI原則，并與隱私、安全和合規(guī)等領域的專家合作。最初的研究和設計階段鼓勵創(chuàng)新，而治理和分享階段則側重于風險評估、測試、監(jiān)控和透明度。包括計算機科學家、社會科學家和用戶體驗研員。我們還會定期公布進展，以確保我們的工作公開透明，助力打造更安全、更負責任的產品，贏得并保持客戶的信任，培養(yǎng)負責任的創(chuàng)新文化。并以Google之前在保障平臺用戶安全方面的經驗為實施相關政策。此外，在用戶輸入提示以及模型提續(xù)根據用戶反饋和監(jiān)測結果，不斷完善相關政策。將責任意識根植于產品的設計，還包括從一開始就將安全機制融入產品中。我們已經將這種方法編入現有的安全知識，針對這些新威脅調整緩解措施，02030203風險評估是：如何幫助組織利用AI的力量，同時盡量降低風險？GoogleCloud通過多種方式幫助客戶解答這個問題。我們會在模型層面以及將模型集成到產品或服務時，識別和評估潛在風險。我們的社會技術方法會考慮AI將如何與世界和現有的社會系統(tǒng)互動，并評估在首次發(fā)布時以及隨著時間的推移可能產生的潛在影響和風險。審核人員明白，模型層面和應用層面的潛在風險與影響可能有所不同，并會相應地考慮緩解措施。我們會借鑒各種信息來源，包括學術文獻、外部和內部專業(yè)知識，以及我們內部的倫這使我們的產品團隊能夠在發(fā)布正式版之前收集寶貴的反饋意見。采納反饋意見后，我們會更新產品文檔，體現所做的所有變動。此文檔通常會提供模型的已知限制，并可能包含服務專用條款，以進一步指導客戶正確使用我們的產品。ExplainableAI、ModelFairness、ModelEvaluation、ModelMonitoring和ModelRegistry，可支持數據和模型治理。03.應對潛在風險的緩解策略這些策略適用于在產品正式發(fā)布(GA)之前發(fā)現的任發(fā)過程中評估并改進模型，建立政策驅動的安全防護措施，或者提讓客戶在自己的項目中進一步加強安全性。政策限制通常以相關的使用限制政策、服務條款和隱私權限制為指導，具體如下文的AI數據治理和隱私權部702030203可調整的屏蔽回答可調整的屏蔽回答閾值，幫助企業(yè)根據自己的業(yè)和嚴重性級別來配置安全設置。客戶可以使用與我們的安全過濾器中的模型類似的模型，通過我們的文本審核服務來掃描整個訓練集數據語料庫，查找屬于預定義的“有害類別”的字詞和可能被視為敏感的主題，從而確保持續(xù)合規(guī)?？勺远x的技術控制措施，例如安全過濾器，這些過濾器可以屏蔽違反政策指南（例如涉及兒童安全的指南）的模型回答?？蛻艨梢岳冒踩珜傩詠韯?chuàng)建安全過濾器，這些安全屬性包括“有害類別”和可能被視為敏感的主題，例如“毒品”或“詆毀性內容”。VertexVertexAI上的模型評估，其中包含的指標可用在訓練期間以及日后評估數據和模型輸出，突出需要關注的領域并提供補救建議，從而促進公平性。包可提供指導及多種工具，幫助開發(fā)者使用這些釋機器學習模型作出的預測，這些工具和框架已與許多GoogleCloud產品和服務原生集成。文檔，詳細闡釋了模型的優(yōu)點和局限性。802030203雖然我們會處理客戶數據以提供服務，但未經客戶事先許可或指示，我們不會使用客戶數據來訓練基礎模型。VertexAI上的基礎模型是為處理一般應用場景而開發(fā)的?？蛻艨梢允褂梦覀兊恼{參API針對特定應用場景自定義基礎模型。這種方法結合了我們的研究成果和產品開發(fā)專業(yè)知識，能夠實現出色的AI功能，同時不會影響客戶對其數據的控制權VertexAI上的基礎模型是為處理一般應用場景而開發(fā)的?？蛻艨梢允褂梦覀兊恼{參API針對特定應用場景自定義基礎模型。這種方法結合了我們的研究成果和產品開發(fā)專業(yè)知識，能夠實現出色的AI功能，同時不會影響客戶對其數據的控制權。參閱我們關于基礎模型調整的白皮書。這些數據被視為客戶數據，在各個環(huán)節(jié)都得到安全存儲，在靜態(tài)存儲時和傳輸過程中均進行加控制所存儲適配器權重的加密信息，并可隨時刪除適配器權重。未經客戶許可，我們不會記錄用據用于改進基礎模型。02030203依托企業(yè)真實數據為生成式AI接地礎模型接地。在GoogleCloud，我們將這些實時信息稱為“企業(yè)真實數據”。使用真實可靠的數據可大幅提高模型輸出的可信度，進而促進用戶建立對模應用場景，并為下一代AI智能體奠定基礎。模型能夠提供與特定背景直接相關、更具參考性、更準確細致的輸出。這對于需要專業(yè)性或細節(jié)的應用特別有用。生成模型會從統(tǒng)計關系中學習，有時會生成看似合理但實際并不符合事實的輸出結果。接地可確保模型將其回答與可驗證的事實進行交叉對比。GoogleCloud客戶可獲得業(yè)內首創(chuàng)的賠償保障，這意味著，如果客戶因我們使用的訓練數據或他們生成的容的版權問題而受到質疑，我們將承擔由此帶來的潛在法律風險。02030203模型是基于某個時間點的數據進行訓練的。如需將生成GoogleCloud提供了最全面的方法，依托企業(yè)真實數據實現），02030203在本節(jié)中，我們初步探討了如何應用問責制、透明度和基本原則，以負責任的方式收集和使用數據來訓練模障措施。我們的方法包括遵循隱私保護設計原則、設構，以及讓用戶對數據的使用有適當的知情權和控制時，我們將這些原則貫穿于整個產品生命周期，并采02030203的方式與人類核心價值觀相符。Google負責任的開發(fā)和部署實踐，有助于指導我們在徹這一原則，我們使用結構化的產品發(fā)布流程，確保在名化技術和其他隱私保護措施。我們的發(fā)布審核工作依賴于工程師、產品專家以及隱私、法律和安全等領域的其他專家團隊，他們負責采取合理措施來評估相關隱私風險。Google擁有穩(wěn)健的AI要求。這些審核還會考慮我們是否履行了對客戶做出的關于數據隱私權和數據保護的承諾，具體而言，就是GoogleCloudPlatform服務條款和云端數據處理附錄中闡明的控制客戶數據訪問、使用和處理方式的能力。此外，我們還為客戶提供了查看誰可以訪問他們的數據以及訪問原因的選項。用戶掌控權讓用戶能夠管理自己的個人數據有助于建立信任基礎，并為用戶提供行使權利所需的工具。GoogleCloud的企業(yè)客戶可以掌控他們自己的數據。在VertexAI平臺上，輸入模型的客戶數據以及VertexAI根據這些輸入生成的輸出均屬于“客戶數據”，Google僅會根據客戶的指示來處理客戶數據?？删褪褂每蛻魯祿湍Ｐ蛠碛柧毼覀兊幕A模型，也不會將這些數據和模型泄露給其他客戶。GoogleCloud在自身架構中構建了隱訪問提供明確的披露和承諾。此外，Goog自己的模型。02030203VPCServiceControlsVPCServiceControls，該服務允許在定義的數據滲漏或泄露的風險。我們的SensitiveDataProtection服務，該服務），（從訓練到調參再到推理）中提供額外的數據保護層。要求。02030203隱私權與安全性緊密相連，兩者都是GoogleCloud上所有產品的主要設計準則。體做法如下：助力客戶實施AI技術02.03.02030203GoogleCloud的AI產品受益并繼承了GoogleCloud平臺的基本控制措施。我們通過多種方式來加強安全性：我們的技術棧不是依賴單一技術來確保基礎設施的安全，而是以分層方式逐步構建安全機制，實現了默認啟用的大規(guī)模縱深防御。這意味著，數據和系層防御機制受到保護，這些機制利用針對身份和訪絡組建和管理、檢測、日志記錄和監(jiān)控等功能配置的策略與控制措施來實現。從設計上保證安全的基礎運營控制措施包括深入的安全審核、漏洞掃描、持續(xù)威脅監(jiān)控以及入侵檢測機制，以確保安全地部署服務并保護客戶數據。還有專門針對VertexAI和生成AIProtection可以幫助團隊全面管理AI風險，具體方式包括：發(fā)現環(huán)境中的AI資源并評估其潛在漏洞；通過控制、政策和防護措施保障AI資產安全；利測、調查和響應功能管理針對AI系統(tǒng)的威脅。02030203構建AI/機器學習系統(tǒng)需要大量數據來適當地訓練模型。這些數據通常是敏感數據，因此保護這些數據至關重要。GoogleCloud中存儲的所有數據均進行了靜態(tài)加密，所用的加密方式正是Google為保護自身加密數據而采用的鑰管理系統(tǒng)。這些系統(tǒng)提供嚴格的密鑰訪問權限控制和審核機制，并使用AES-256加密標準加密用戶的靜態(tài)數據，無需進行設置、配置或管理。您也可以通過CloudKeyManagement(CMEK)，這樣可以更好地控制密鑰生成、密鑰輪替頻率和密的增加意味著妥善管理密鑰的責任也隨之增加方式是否足以滿足您的合規(guī)需求。如需了解詳情，請參閱如何滿足靜態(tài)加密的合擴展現有軟件供應鏈解決方案，這是應對與AI軟件供應鏈相關諸多風險的有效方法。我們可以像處理傳統(tǒng)軟件一樣處理AI模型，而不是創(chuàng)建新的解決方案。在型來源進行簽名。此元數據文檔通過加密方式將模型綁定到用于訓練該模型的服務賬號（一種代表應用而非人類用戶的識別賬號）。這還使Google能夠根據預期的簽名密鑰驗證所有模型，這樣一來，內部人員就無法在不為人知的情況下覆蓋或更改模型（包括決定模型行為的權重）。Google在確保開源軟件領域的安全0203附錄Protection服務中獲益，該服務可根據模式或列表識別遮蓋或標記化等方法自動隱藏或轉換這些數據。Protection服務中獲益，該服務可根據模式或列表識別遮蓋或標記化等方法自動隱藏或轉換這些數據。架，涵蓋了構成AI系統(tǒng)的四個維度：數據、基礎設施、應用和模型。實踐（例如審核、測試和控制供應鏈），同時還融入了我們對安全領域的大趨勢和AI系統(tǒng)特有風險的理解。它題，包括安全性、AI/機器學習模型風險02030203像SAIF這樣覆蓋公共和私營部門的框架，對于保護支持AI發(fā)展的技術至關重要，這樣，在實施AI模型時，它們就能從設計這些步驟并非僅僅停留在概念層面上。事實上，它是一個通用的有蓋這些核心要素，而不需要采用全新的方法。如需了解詳情，請?zhí)剿鰽I網絡安全方面變與未變之處，02030203此外，GoogleAI紅隊還專注于安全和隱私風險測試。紅隊測試又稱為對抗性測試，是一種“道德黑客”為了一種實用工具，可幫助團隊系統(tǒng)性地改進模型和產品，并為發(fā)布決策提供依據。為了進一步應對內容安全風險，我們組建了一支新團隊，利用對抗性測試技術，識別生成式AI產品中新出現的意外模式。我們還提供MandiantAI安全咨詢服絡防御能力。工作并擴大測試工作的范圍。我們在發(fā)布前責任評估期間采用的對抗性測試方法同樣可運用于發(fā)布后評估，這不僅有助于我們根據用戶反饋改進模型性能，還能幫助我們識別新出現的風險。強有力的安全控制措施，并根據具體產品和用戶面臨的風險進行調整。這一點非常重要，因為這樣可以盡早納入預防和檢測控制措施，并通過對抗性測試和紅隊測試進一步增強安全性。我們還使用威脅情報來及時發(fā)現新型攻擊。我們的模型在Google基礎設施中開發(fā)、訓練和存儲，并由我們的全球安全工程師團隊提供支持。風險管理要求的約束。在金融服務和醫(yī)療保健等受監(jiān)管行業(yè)，以及對于某些關鍵服務或關鍵基礎設施提供狀況，這通常需要獨立第三方提供文件，來證實這些控制措施的存在及其有效性。為了讓用戶臺的控制措施，GoogleCloud會提供隨時可用的GoogleCloud平臺的合規(guī)性進行驗證，以及對VertexAI的合規(guī)性和安全控制措施進行評估。2020的開發(fā)和部署符合法律、規(guī)范和人權，可能需要采取哪些要監(jiān)管得當。因此，我們主張采用基于風險的框架，在現有通用概念的基礎上，反映AI生態(tài)系統(tǒng)的復雜性。我們之前發(fā)布了關于規(guī)范AI的建議，其中概述了一種通用方切實可行的AI法規(guī)時參考。我們的主要建議包括：認識到透明度是實現認識到透明度是實現目的0304采用基于現有法規(guī)的行業(yè)特0502此后，我們進一步闡明了我們的立場，并發(fā)布了APolicyAgendaforResponsibleProArtificialIntelligence（關于負責任地推進人工智能發(fā)展的政策議程）、ApplyingModelRiskManagementGuidancetoArtificialIntelligence/MachineLearning-basedRiskModels（將模型風險管理指導方針應用于基于人工智能/機器學習的風險模型）Institutions（金融機構的生成式AI風險管理）。此外，我們團隊還采用了風險評估流程，來幫助完成以下任務：GoogleCloud在國際和區(qū)域標準制定社區(qū)中備受信賴，頗具影響力。我們積極提供反饋意見，幫助制定法規(guī)、標準和框架。我們還密切跟蹤、監(jiān)控并積極支持業(yè)界標準，例如以確保我們持續(xù)開發(fā)和提供滿足客戶需求的工具。02030203將這些風險與適當的緩解措施對應起來我們深知AI存在復雜性和風險，為了確保我們?yōu)槲磥砜蚣苓M行基準測試。為了將我們的承諾付諸實踐，我們邀請了網絡安全領域備受推崇的領先企業(yè)Coalfire來審寶貴的分析洞見，讓我們能夠不斷努力堅持最高的數據保護和隱私權標準，從而提升安全狀況。我們相信，獨立的外部視角可以提供重要的客觀性，我們很自豪能成為首批開展第三方AI就緒性評估的組織之一。同樣，我們密切關注監(jiān)管動態(tài)，例如歐盟《AI法案》。《AI法案》是一個法律框架，根據AI系統(tǒng)的潛在風險險系統(tǒng)提出要求。Google正在積極為遵守《AI法案》做準備。在內部，我們的《AI法案》就緒計劃致力于確保我們的產品和服務符合該法案的要求，同時繼續(xù)提供客戶期望的創(chuàng)新解決方案。這是全公司范圍的一項計02030203風險與合規(guī)性團隊確保實施穩(wěn)健的流程。與客戶密切合作，了解他們的需求以及對《AI確保我們的AI系統(tǒng)在設計和構建過程中始終遵循不斷改進用戶體驗，同時納入《AI法案》中關于測試、監(jiān)控和文檔的要求。而這種理念遠不止于能夠利用各種AI模型這么簡單。它強制束縛客戶。這意味著允許客戶輕松連接到現有本地和持續(xù)改進模型，無論這些模型是開源的、合作伙伴開發(fā)的，還是Google內部開發(fā)的。這種方法反過來支持可移植性，使客戶能夠將自定義代簡化了從任何模型提供商處選擇最為廣泛的模型選項型還是開源模型）從開發(fā)到落地的過程，并確保正蹤變更。ModelGarden鼓勵采用模塊化方法，使您可以更輕松地在機器學習流水線中更換各個030202030203AI模型和服務可能消耗大量能源，這就要求我們擔起責任，管理由訓練和運行基礎模型所需算力產生的碳足跡。作為我們持續(xù)工作的一部分，我們確定了四條可顯著降低能耗和碳排放量的最佳實踐，我們稱之為“4M”，目前所有這些實踐都已投入應用，任何使用GoogleCloud服務的用戶都可以采用。下面將簡要介紹這四條實踐，它們共同實施時，可將能耗降低100倍，碳排放降低1,000倍。此外，云平臺還使客戶能夠選擇采用清潔能源的此外，云平臺還使客戶能夠選擇采用清潔能源的50,000臺服務器，從而實現非常出色的能效因此無法分攤新的節(jié)能型冷卻和電力分配系統(tǒng)的我我們投入了大量資金，將我們的數據中心打造成為全球效率最高的數據中心之一，并增加了無碳能源的采購量，從而發(fā)展更清潔的云計算。平均而言，Google自有自營數據中我們不斷尋找新方法來開發(fā)產品，從設計上消除廢棄物和污染，并盡可能延長各種材料和資源的使用期限。我們的目標是，在所有運營、產品和供應鏈中最大限度地以減少排放并緩解氣候變化帶來的風險。例如，GoogleCloud客戶可以使用Active的工作負載，如果移除這些工作負載，則可以減少碳排放。AI和機器學習工作負載正迅速變得規(guī)模更大、功能更強，這引發(fā)了人們對其能耗和環(huán)境影響的擔憂。隨著AI的未來增長情況并非易事。歷史研究表明，隨著器學習計算需求的增長，驅動該技術所需的能源增長速度比許多機構預測的速度要慢得多。足跡；這些原則共同將訓練模型的能耗降低了多達100倍，排放量降低了多達1,000倍。我們計劃繼續(xù)運用這算效率。Google數據中心的設計、建造和運營旨在實02030203隨著我們持續(xù)開發(fā)AI平臺、系統(tǒng)和基礎模型，我們秉持的“共進退”信念以及我們在使用這些技術方面的經驗，指引著我們投資于端到端治理工具、專業(yè)指導和最佳實踐，以幫助我們的0303章節(jié)02雜。重要的是，風險管理可能會有所不同，具體取決于組織選擇如何使用AI：是開發(fā)自己的AICloud開發(fā)的應用），還是雙管齊下？這些服務是否適合企業(yè)使用也是一個考慮因素。有四種基本場景需要不同的風險管理策略：自接使用現成模型。這四種場景之間的一個關鍵Cloud）相比，組織對AI模型的同。在所有這四種場景中，客戶都可以依靠GoogleCloud來履行我們堅定的AI隱私權承諾并保護客戶數據，從而能夠在遵守相關法律法規(guī)的同時，實現數據豐富的應用場景。GoogleGoogle和客戶在保護AI系統(tǒng)方面都發(fā)揮著至關重要的作用。了解并履行您的主要職責對于保障GoogleCloud上AI工作負載的安全至關重要。我們的共進退方法確保您擁有Google具和指導來為您保駕護航。最佳實踐了解治理、使用限制政策、安全性和隱私保護對于動態(tài)。02章02章節(jié)03組織可以通過遵循最佳實踐來成功實施AI，例如確定利益相關方、制定原則、上報機制、提供狀態(tài)可見性，以及實施AI培訓計劃。這些實踐可幫助組織從容應對AI實施挑戰(zhàn)并確保負責任地集成AI。如果組織希望以安全、可靠且穩(wěn)健的方式使用AI，則應成式AI的關系，因為它與組織的其他治理要素（包括大規(guī)模宣及持續(xù)的合規(guī)性監(jiān)測）息息相關。并不會徹底顛覆安全最佳實踐，安全團隊積累的寶貴經驗仍然行之有效且具有適用性。我們認為，適用于傳統(tǒng)系統(tǒng)的許多安全原則和做法同樣適用于AI系統(tǒng)。了解傳統(tǒng)企業(yè)軟件系統(tǒng)安全防護和AI系統(tǒng)安全防護之間的差異后，組織可以制定更全面的安全策略來保護其AI系統(tǒng)免受各之急是從源頭采取措施阻斷潛在攻擊。在保障AI系統(tǒng)安全時，要像攻擊者一樣思考。考慮已知的薄弱環(huán)節(jié)，找出攻擊者可能利用系統(tǒng)的方式。與組織中的其02章02章節(jié)03Q情況下進行Q情況下進行訓練，例如，利用非敏感數據集或從機器學習模型會從訓練數據中學習，并基于輸入數據做出預測。有時，訓練數據、輸入數據或兩者都可能非常必須考慮使用敏感數據對隱私權的潛在影響。如果必須處理敏感的訓練數據，則應設法盡量減少此類數據的使用。處理敏感數據要慎之又慎：例如，遵守相關法律和標準；向用戶提供明確通知，并向用戶賦予對數據使用的必要控制權；遵如果必須處理敏感的訓練數據，則應設法盡量減少此類數據的使用。處理敏感數據要慎之又慎：例如，遵守相關法律和標準；向用戶提供明確通知，并向用戶賦予對數據使用的必要控制權；遵循相關最佳實踐，例如傳輸中加密和靜態(tài)加密；以及恪守隱私保護原則，例如GoogleCloud隱私權資源中心中所述的原則。降低機器學習模型泄露底層數據的可能性，其中一些技術包括：使用數據清理流水使用數據清理流水線最佳實踐對傳入的數據進行匿名化處理和匯總：例如，考慮移除個人身份信30章章節(jié)03我們經常會被問到如何掌握AI發(fā)展動態(tài)，包括技術和監(jiān)管方面的動態(tài)，以及如何讓團隊具備使用生成式AI的知識和技能，并了解其中的風險。在考慮如何讓員工技術，還關乎對員工的投資。通過揭開生成式秘面紗，專注于戰(zhàn)略技能培養(yǎng)，并營造重視持續(xù)學習的文化，貴企業(yè)可以發(fā)掘生成式AI作為變革性技術的全以及如何應對這些風險。對模型進行實驗，花時間研究模型，并將模型應用于工作中。我們還提供了學習路線，為不同角色和專業(yè)知識概念、大語言模型的基礎知識以及ResponsibleAI原則。此外，我們推薦的