生成式AI與大語(yǔ)言模型迎來(lái)了井噴時(shí)代，但是同時(shí)也給企業(yè)帶來(lái)了更多的安全隱患。
生成式AI應(yīng)用井噴時(shí)代的安全隱患
隨著云計(jì)算、大數(shù)據(jù)、機(jī)器學(xué)習(xí)等新興技術(shù)的高速發(fā)展，曾經(jīng)困擾人工智能技術(shù)的數(shù)據(jù)、算力、算法等瓶頸被不斷打破，于是在近幾年里，我們親眼目睹了AI人工智能技術(shù)的飛躍式進(jìn)展。從輕松擊敗世界圍棋冠軍的阿爾法狗，到讓全世界為之驚艷的ChatGPT，在短短數(shù)年時(shí)間里，AI實(shí)在給我們帶來(lái)了太多的驚喜。智能客服、機(jī)器人、低代碼、文字轉(zhuǎn)圖片甚至視頻、各種創(chuàng)意制作……2023年火爆異常的生成式AI與大語(yǔ)言模型，在全球引發(fā)了AIGC應(yīng)用場(chǎng)景的井噴，并且從真正意義上改變了各行各業(yè)的游戲規(guī)則。諸多行業(yè)巨頭和科技企業(yè)更是紛紛下場(chǎng)，在業(yè)界掀起了一場(chǎng)前所未有的“百模大戰(zhàn)”。
然而在AIGC熱潮席卷全球的同時(shí)，許多企業(yè)的技術(shù)部門(mén)也迎來(lái)了前所未有的嚴(yán)峻挑戰(zhàn)。不久前，國(guó)際開(kāi)源安全組織發(fā)布了2023年針對(duì)大語(yǔ)言模型應(yīng)用的十大安全威脅，其中一個(gè)范例就是某大型國(guó)際企業(yè)在采用了某個(gè)基于大語(yǔ)言模型的聊天應(yīng)用服務(wù)之后，在短短20天里連續(xù)出現(xiàn)了3起數(shù)據(jù)泄露事件。AIGC時(shí)代企業(yè)面臨的安全隱患與挑戰(zhàn)，也引發(fā)了眾多企業(yè)的警覺(jué)與擔(dān)憂。
“生成式AI應(yīng)用就像是海面上的冰山，我們想要在企業(yè)里安全地駕馭這項(xiàng)新技術(shù)，還需要關(guān)注海面下的冰川?！痹诮照匍_(kāi)的2023亞馬遜云科技re:Inforce中國(guó)站活動(dòng)上，亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞在主題演講中如是表示。
代聞指出，從定位上來(lái)講，安全是構(gòu)建生成式AI應(yīng)用不可回避的一個(gè)議題。從構(gòu)建開(kāi)始，企業(yè)就需要把安全作為企業(yè)AI戰(zhàn)略發(fā)展的一個(gè)核心環(huán)節(jié)。但是應(yīng)該從哪里開(kāi)始？依靠一個(gè)什么樣的框架？這就要求企業(yè)不能只是關(guān)注AI應(yīng)用本身，而是應(yīng)該從一個(gè)全棧的角度，去全面審視應(yīng)用、模型、數(shù)據(jù)、基礎(chǔ)架構(gòu)的安全規(guī)范、技術(shù)策略和平臺(tái)工具。而這一問(wèn)題可以分別從數(shù)據(jù)和模型安全、應(yīng)用安全、全球合規(guī)等三個(gè)方面進(jìn)行討論。
數(shù)據(jù)和模型安全是構(gòu)建AI應(yīng)用的關(guān)鍵
在數(shù)據(jù)安全方面，從數(shù)據(jù)源的獲取，到數(shù)據(jù)的存儲(chǔ)和查詢(xún)，再到將數(shù)據(jù)傳輸給AI平臺(tái)進(jìn)行模型的訓(xùn)練、調(diào)優(yōu)和推理，以及全面實(shí)施數(shù)據(jù)分類(lèi)和治理，亞馬遜云科技提供了貫穿生成式AI全周期的數(shù)據(jù)治理。其整套的解決方案、產(chǎn)品服務(wù)和最佳實(shí)踐，能夠幫助企業(yè)加速落地端到端的云原生數(shù)據(jù)戰(zhàn)略，為生成式AI提供高質(zhì)量的數(shù)據(jù)支持。
如何保護(hù)存儲(chǔ)中的數(shù)據(jù)？大多數(shù)企業(yè)會(huì)使用一些開(kāi)源或者商用的大語(yǔ)言模型，這就需要有一個(gè)很好的行業(yè)化、場(chǎng)景化的數(shù)據(jù)進(jìn)行微調(diào)。而這部分高質(zhì)量的數(shù)據(jù)有兩個(gè)保護(hù)重點(diǎn)：一是防止數(shù)據(jù)泄露；二是防止數(shù)據(jù)篡改。通過(guò)實(shí)施安全密鑰管理、靜態(tài)數(shù)據(jù)加密、強(qiáng)制實(shí)施訪問(wèn)控制、利用機(jī)制限制數(shù)據(jù)訪問(wèn)，亞馬遜云科技可以很好地保護(hù)存儲(chǔ)中的數(shù)據(jù)，并且還在2023 亞馬遜云科技re:Inforce中國(guó)站上推出了敏感數(shù)據(jù)保護(hù)解決方案，可實(shí)現(xiàn)對(duì)企業(yè)敏感數(shù)據(jù)的自動(dòng)化發(fā)現(xiàn)并在統(tǒng)一平臺(tái)管理數(shù)據(jù)資產(chǎn)。
如何保護(hù)傳輸中的數(shù)據(jù)？亞馬遜云科技能夠從實(shí)施安全密鑰和證書(shū)管理、執(zhí)行傳輸中加密、自動(dòng)檢測(cè)意外數(shù)據(jù)訪問(wèn)、對(duì)網(wǎng)絡(luò)通信進(jìn)行身份驗(yàn)證四個(gè)方面，對(duì)傳輸中的數(shù)據(jù)進(jìn)行保護(hù)。針對(duì)多層次保護(hù)傳輸中的數(shù)據(jù)，亞馬遜云科技通過(guò)跨區(qū)域之間的數(shù)據(jù)傳輸、VPC內(nèi)部以及VPC之間的傳輸、遷移上云的過(guò)程中、以及TLS1.2+AES256從整個(gè)的基礎(chǔ)架構(gòu)上實(shí)現(xiàn)應(yīng)用層的加密和傳輸?shù)谋Ｗo(hù)。
如何保護(hù)使用中的數(shù)據(jù)？亞馬遜云科技可以從身份認(rèn)證、隔離環(huán)境、多方協(xié)作、數(shù)據(jù)共享等四個(gè)方面，對(duì)企業(yè)使用中的數(shù)據(jù)進(jìn)行保護(hù)。
而在模型安全方面，亞馬遜云科技則推出了Amazon Bedrock和多種生成式AI服務(wù)和功能，以幫助客戶構(gòu)建和擴(kuò)展自己的生成式AI應(yīng)用程序。
Amazon Bedrock提供了廣泛的基礎(chǔ)模型，譬如Amazon Bedrock后面接入了基礎(chǔ)模型，為客戶提供了一個(gè)API可以使用大模型加速生成式AI的應(yīng)用程序和開(kāi)發(fā)，無(wú)須管理底層的基礎(chǔ)設(shè)施；Amazon Bedrock會(huì)負(fù)責(zé)任地選取一些合作伙伴以及自己的基礎(chǔ)模型，以方便客戶最快速地找到最合適的、能力最強(qiáng)的基礎(chǔ)模型；Amazon Bedrock使用組織內(nèi)部的數(shù)據(jù)來(lái)訓(xùn)練大模型，同時(shí)又保證大模型的私有拷貝只是給客戶服務(wù)，而不會(huì)再跟其他任何大模型共享，同時(shí)訓(xùn)練數(shù)據(jù)只是在客戶賬戶里來(lái)幫助工作，而不會(huì)拿任何用戶的數(shù)據(jù)來(lái)增進(jìn)自己的模型；Amazon Bedrock還能全面使用亞馬遜云科技提供的安全功能，與Amazon KMS、Amazon IAM等完善集成，集成后還可以很好地管理加密、權(quán)限控制和所有行為的日志。
值得一提的是，亞馬遜云科技還提供了自己的大模型Amazon Titan給客戶使用。Amazon Titan有兩個(gè)基礎(chǔ)模型，一個(gè)是能夠執(zhí)行文本類(lèi)任務(wù)的Titan Text，另一個(gè)是能執(zhí)行個(gè)性化推薦任務(wù)的Titan Embeddings。另外在負(fù)責(zé)任的AI方面，亞馬遜云科技致力于開(kāi)發(fā)公平且準(zhǔn)確的AI和機(jī)器學(xué)習(xí)服務(wù)，并為客戶提供負(fù)責(zé)任地構(gòu)建相關(guān)應(yīng)用程序所需的工具和指導(dǎo)。
應(yīng)用安全是實(shí)現(xiàn)AI價(jià)值的保障
代聞指出，應(yīng)用是來(lái)創(chuàng)造價(jià)值的，因此應(yīng)用安全也是實(shí)現(xiàn)AI價(jià)值的保障。應(yīng)用安全的防護(hù)主要包括兩個(gè)階段：
1、開(kāi)發(fā)流程中的安全（DevSecOps）
亞馬遜云科技將AI防護(hù)應(yīng)用到軟件開(kāi)發(fā)的全生命周期，而該階段的安全也貫穿了從開(kāi)發(fā)到持續(xù)集成、持續(xù)部署再到投產(chǎn)、監(jiān)控以及整個(gè)反饋的過(guò)程。亞馬遜云科技近期發(fā)布的AI開(kāi)發(fā)安全能力包括有Amazon CodeWhisperer和Amazon CodeGuru Security。其中Amazon CodeWhisperer是亞馬遜云科技推出的AI編程助手，內(nèi)置了代碼安全掃描功能，可根據(jù)開(kāi)發(fā)者指令利用內(nèi)嵌的基礎(chǔ)模型實(shí)時(shí)生成代碼建議，以及查找難以檢測(cè)的漏洞并提出補(bǔ)救建議；Amazon CodeGuru Security則可以尋找代碼中的漏洞，還能夠在CICD通過(guò)AI和機(jī)器學(xué)習(xí)的方式自動(dòng)降低誤報(bào)率，同時(shí)能夠非常方便地集成到開(kāi)發(fā)工作流里，實(shí)現(xiàn)集中化和擴(kuò)展性。
2、運(yùn)行中的安全
最近幾年，零信任常被作為新技術(shù)提出，但是在亞馬遜云科技看來(lái)，零信任并不是一個(gè)標(biāo)準(zhǔn)的工具或者解決方案，而是一套機(jī)制，需要經(jīng)過(guò)不斷的演練和考驗(yàn)。針對(duì)應(yīng)用的安全訪問(wèn)，企業(yè)可構(gòu)建零信任的應(yīng)用安全訪問(wèn)策略。我們需要對(duì)訪問(wèn)大模型的應(yīng)用進(jìn)行權(quán)限管理，確保只有在擁有特定權(quán)限的應(yīng)用，才能訪問(wèn)或者調(diào)用大模型里的制定API。
為了幫助客戶在亞馬遜云科技環(huán)境下構(gòu)建這套機(jī)制，亞馬遜云科技推出了幾款工具：首先需要建立一個(gè)可信任的網(wǎng)絡(luò)通道，Amazon Verified Access能夠搭建一套無(wú)需VPN的網(wǎng)絡(luò)驗(yàn)證系統(tǒng)，可以使用Amazon IAM或是客戶自己的用戶認(rèn)證系統(tǒng)來(lái)完成認(rèn)證程序，并且還支持規(guī)則設(shè)置；Amazon Verified Permissions可以為用戶構(gòu)建的應(yīng)用程序提供細(xì)粒度授權(quán)和權(quán)限管理，讓用戶管理其應(yīng)用程序的角色和屬性的訪問(wèn)控制；為了方便用戶來(lái)書(shū)寫(xiě)所有的授權(quán)規(guī)則，亞馬遜云科技還發(fā)布了一個(gè)新的開(kāi)源語(yǔ)言CEDAR，可用于編寫(xiě)和執(zhí)行授權(quán)策略的開(kāi)源的語(yǔ)言，讓用戶更加輕松、快速地創(chuàng)建訪問(wèn)控制權(quán)限。
代聞表示，在大模型時(shí)代，零信任和網(wǎng)絡(luò)控制并不是一個(gè)二選一的關(guān)系，而是應(yīng)該把這兩個(gè)概念加起來(lái)，才能實(shí)現(xiàn)企業(yè)端到端的應(yīng)用安全。
其中針對(duì)網(wǎng)絡(luò)防護(hù)，Amazon Shield用于防DDos攻擊，Amazon WAF提供防火墻支撐，Amazon Firewall Manager可以輕松管制防火墻策略。根據(jù)數(shù)據(jù)統(tǒng)計(jì)，每年亞馬遜云科技防護(hù)的DDos攻擊就高達(dá)70萬(wàn)件，Amazon WAF上每天托管規(guī)則請(qǐng)求超過(guò)3500億條。而針對(duì)威脅識(shí)別，Amazon GuardDuty使用了基于AI和機(jī)器學(xué)習(xí)的技術(shù)，使安全事件的誤報(bào)率減少了50%。除了能夠?qū)崿F(xiàn)初期的檢測(cè)之外，它還可以做持續(xù)分析，包括使用機(jī)器學(xué)習(xí)技術(shù)來(lái)檢測(cè)所有威脅，以智能化的手段給予采取行動(dòng)的建議。
利用AI提升安全合規(guī)效率
在當(dāng)前的全球環(huán)境下，安全合規(guī)正在變得越來(lái)越重要，已經(jīng)有超過(guò)130多個(gè)國(guó)家和地區(qū)制定和頒布了數(shù)據(jù)保護(hù)和隱私安全相關(guān)的法律法規(guī)。同時(shí)由于云計(jì)算的大規(guī)模普及，越來(lái)越多的重要數(shù)據(jù)正在加速上云，而且數(shù)量和種類(lèi)也在不斷增加。業(yè)務(wù)的持續(xù)變化也給安全合規(guī)帶來(lái)了新的挑戰(zhàn)。
代聞指出，截至目前為止，亞馬遜云科技已經(jīng)在全球獲得了140多個(gè)安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證，并將AI技術(shù)應(yīng)用到其安全及合規(guī)服務(wù)中，能夠?yàn)榇笠?guī)模批量審查提供安全控制，利用自動(dòng)化減少手工操作以降低錯(cuò)誤，利用AI提供一致性判斷，利用AI/ML技術(shù)實(shí)現(xiàn)自動(dòng)審查，全面提升合規(guī)效率。在其500多項(xiàng)自身合規(guī)審計(jì)控制項(xiàng)中，亞馬遜云科技通過(guò)使用AI技術(shù)，將審計(jì)時(shí)間節(jié)約了53%，節(jié)約了超過(guò)3300個(gè)小時(shí)。
在保護(hù)用戶安全合規(guī)的同時(shí)，亞馬遜云科技及其合作伙伴也在積極使用AI技術(shù)來(lái)提升自己安全合規(guī)的能力。亞馬遜云科技APN合作伙伴網(wǎng)絡(luò)可以提供數(shù)百種行業(yè)領(lǐng)先的安全解決方案，多層保護(hù)客戶的應(yīng)用和數(shù)據(jù)安全。通過(guò)全球安全伙伴提供的解決方案，達(dá)到1+1＞2的實(shí)施效果。在技術(shù)方面，亞馬遜云科技合作伙伴可以提供網(wǎng)絡(luò)安全、主機(jī)安全、應(yīng)用安全、身份認(rèn)證、威脅檢測(cè)和事件分析、數(shù)據(jù)治理、安全自動(dòng)化運(yùn)維等服務(wù)。另外一塊很大的咨詢(xún)業(yè)務(wù)，則可以提供方案建議、合規(guī)建議以及全面的安全咨詢(xún)服務(wù)和合規(guī)服務(wù)。
在IDC近期發(fā)布的《2023中國(guó)公有云托管安全服務(wù)能力報(bào)告》中，亞馬遜云科技不僅是獲得滿分最多的廠商之一，而且還是“生態(tài)建設(shè)”評(píng)估維度中唯一的一家獲得滿分的廠商。對(duì)此IDC中國(guó)研究總監(jiān)王軍民認(rèn)為：“IDC通過(guò)調(diào)研，看到企業(yè)組織在整個(gè)的數(shù)字化轉(zhuǎn)型過(guò)程中，對(duì)于網(wǎng)絡(luò)安全的擔(dān)憂是最大的。安全是全球最高管理層數(shù)字化舉措面臨的最大障礙，因此安全也是最高管理層技術(shù)投資的關(guān)鍵任務(wù)，尤其是云計(jì)算市場(chǎng)在全球的快速發(fā)展極大推動(dòng)了客戶對(duì)IT安全軟件及服務(wù)的需求。亞馬遜云科技用高標(biāo)準(zhǔn)的安全理念，不斷提升安全合規(guī)能力及標(biāo)準(zhǔn)?！?/p>
“安全始終是亞馬遜云科技的首要任務(wù)，是我們的首要優(yōu)先級(jí)。我也希望大家能夠讓安全變成我們共同的首要優(yōu)先級(jí)。讓我們共同構(gòu)建一個(gè)安全、智能的未來(lái)?！贝?wù)f道。
聯(lián)系客服
