作為人工智能領域頗具里程碑式的進展，ChatGPT以其驚艷的表現(xiàn)，迅速掀起了行業(yè)熱潮，使得大模型成為當下最為炙手可熱的技術方向之一。但在大模型落地過程中，如何既能保障大模型使用方的數(shù)據(jù)安全，又能保護大模型提供方的部署安全?
基于行業(yè)需求，金山云立足自身深耕云賽道十余年所積累的技術和服務優(yōu)勢，推出MaaS(Model as a Service)互信推理專區(qū)方案。作為中國知名的中立云服務商，金山云推出該方案的目的是在大模型廠商、用戶和金山云之間建立互信，以解決模型及數(shù)據(jù)的互信問題。
【資料圖】
為了實現(xiàn)“互信”這個目標，金山云在技術思路和架構設計方面兼顧了基礎設施層面(網(wǎng)絡、存儲等)的安全和云原生層面(容器等)的安全。
金山云MaaS互信推理專區(qū)方案邏輯架構圖
在金山云MaaS互信推理專區(qū)方案中，模型廠商的互信虛擬網(wǎng)絡(Mutual Trust Virtual Private Cloud,以下簡稱互信VPC)是經(jīng)過安全加固定制的(如上圖中所示)，通過私有連接(Private Link )與用戶業(yè)務區(qū)域連通，經(jīng)由堡壘機連接模型運維和開發(fā)區(qū)區(qū)域。互聯(lián)網(wǎng)相關的EIP、NAT和Peering等功能都會被禁用。互信VPC提供了豐富的流量管控手段，可通過私有連接、對等連接、安全組、ACL等功能靈活控制VPC與公網(wǎng)、VPC與VPC、VPC內(nèi)云產(chǎn)品的流量進出，既保證了網(wǎng)絡的隔離，又能夠按需提供網(wǎng)絡的連通。
在堡壘機層面，為了保障系統(tǒng)的安全性和合規(guī)性，同時也為了防范數(shù)據(jù)泄漏事件的發(fā)生，金山云在模型開發(fā)和推理區(qū)之間提供了行為與流量審計系統(tǒng)，用以跟蹤和監(jiān)控數(shù)據(jù)的流動，確保所有流量都可以被審計和驗證，可及時檢測和記錄任何非法流量的存在，識別潛在的安全威脅或數(shù)據(jù)泄露風險。
在金山云MaaS互信推理專區(qū)方案中，互信VPC通過私有連接進行點對點的打通，在保障業(yè)務流量安全穩(wěn)定的情況下，還具備一定的靈活性。訪問VPC內(nèi)服務的流量均在金山云內(nèi)網(wǎng)轉發(fā)，不經(jīng)過公網(wǎng)，避免了通過公網(wǎng)訪問服務帶來的潛在安全風險。同時基于金山云內(nèi)網(wǎng)建設的完備性，可提供大帶寬、低延時的高質(zhì)量通信服務。
此外，金山云對MaaS互信推理專區(qū)內(nèi)所有的出入流量進行記錄和行為審計，禁止所有未經(jīng)審計的流量流出，定期向客戶提供審計報告。專區(qū)內(nèi)部有文件存儲或?qū)ο蟠鎯懭氲男枨?如日志服務等)，會在VPC內(nèi)獨立部署一套存儲服務，對外不可讀寫。專區(qū)外可讀寫的對象存儲KS3(Kingsoft Cloud Standard Storage Service)，其控制權收歸于金山云，金山云通過權限控制保證該對象存儲只接收自研存儲網(wǎng)關Nas-J的讀寫請求，除此之外沒有其他任何權限。
云原生層面，出于數(shù)據(jù)安全性考慮，在采用容器服務納管GPU裸金屬服務器實現(xiàn)容器化改造的同時，金山云搭建了基于數(shù)據(jù)層面“Read Only”容器只讀環(huán)境，只將訓練好的模型進行推理運算，并在推理后將結果輸出到應用平臺中呈現(xiàn)給最終用戶。在模型推理期間，容器只讀取推理模型，不會把企業(yè)用戶的敏感數(shù)據(jù)暴露給模型廠商，能夠打消企業(yè)用戶對自身數(shù)據(jù)安全性方面的顧慮。
作為金山云重要的戰(zhàn)略伙伴之一，目前，MiniMax與金山云積極推動大模型生態(tài)建設。為了提供持續(xù)穩(wěn)定的模型能力服務，金山云MaaS互信推理專區(qū)方案已應用于“金山辦公+MiniMax”的實踐場景，保證了用戶數(shù)據(jù)及模型的安全和互信。根據(jù)實際業(yè)務需求，MiniMax將持續(xù)對模型進行Fine-tuning優(yōu)化，構建易用且規(guī)范的API接口和平臺，同時不斷對模型進行升級和優(yōu)化。
金山辦公-MiniMax實施架構圖
經(jīng)過長時間積累，MiniMax是國內(nèi)少有的同時擁有文本、語音、視覺三模態(tài)融合的通用大模型引擎能力，并打通產(chǎn)品全鏈路的創(chuàng)業(yè)公司。團隊將前沿的人工智能引擎技術，應用于多維度多場景的交互中，并以此進一步加速和賦能模型的進步和迭代。MiniMax于今年3月推出面向企業(yè)級的大模型解決方案，為企業(yè)和開發(fā)者提供領先的通用大模型能力，通過人工智能引擎技術底座幫助模型與業(yè)務流程順利融合，保障穩(wěn)定性及安全合規(guī)性。目前已接入數(shù)百家企業(yè)客戶，打通辦公協(xié)作、智能硬件、教育、醫(yī)療、客服等十余個行業(yè)場景。基于MiniMax出色的大模型能力，金山辦公已經(jīng)與MiniMax開展深度合作，未來會進一步推動大模型在辦公領域的應用和快速落地。
在為金山辦公和MiniMax提供服務的過程中，金山云積累了MaaS服務的經(jīng)驗。隨著技術迭代升級，該方案后續(xù)將引入大模型多租戶隔離、Finetuning訓練和推理一體化專區(qū)等更多功能和業(yè)務模塊，為越來越多大模型領域的企業(yè)提供服務。
（免責聲明：此文內(nèi)容為廣告，相關素材由廣告主提供，廣告主對本廣告內(nèi)容的真實性負責。本網(wǎng)發(fā)布目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負責，請自行核實相關內(nèi)容。廣告內(nèi)容僅供讀者參考。）
（責任編輯：賀翀 ）關鍵詞：
