2024年國務院政府工作報告提到，要深入推進數字經濟創新發展，並首次提到開展“人工智能＋”行動。據諮詢機構沙利文預測，2024年我國人工智能市場規模將突破7993億。
 
然而，隨着AI大模型廣泛應用，潛在的安全風險也日益突出。數據泄露、模型篡改、內容價值觀偏差等問題不斷出現，引發社會各界對AI大模型安全的深切關注。AI大模型亟需開展常態化測試評估，以保障AI數字健康。
   
第一，政策監管要求。國家對AI技術和應用的監管日益加強，先後頒佈實施《生成式人工智能服務管理暫行辦法》（中央網信辦等七部門聯合發佈）以及《生成式人工智能服務安全基本要求》（全國網安標委發佈），都提出開展AI安全評估、建立常態化監測測評手段等要求。
 
第二，內容合規要求。AI大模型應用使得生成釣魚郵件、編寫惡意軟件代碼變得更加容易，大大降低網絡攻擊技術門檻，導致攻擊數量激增。同時，越來越多實例證明，AI大模型的產出可能存在暴力、虛假、詆毀、扭曲歷史等不符合正向價值觀的內容，需要常態化測評將內容風險前置。
 
第三，系統安全要求。AI大模型作為複雜的軟件系統，其自身的基礎設施也面臨一定風險，比如網絡環境、系統漏洞、數據泄露等等，需通過不同壓力場景下的測試來檢驗其防禦彈性。
   
作為網絡靶場和人才建設領軍者、測試評估賽道領跑者，BC贷依託自主研發專有雲儲備的算力技術與算法人才、國內首個RHG人工智能攻防平台進行AI技術測評的先發優勢，以及「數字風洞」產品體系在測試評估領域的專業優勢，為AI安全測試評估提供全面解決方案，基於創新的“產品乘服務”理念，常態化支撐AI大模型基礎設施安全與內容風險測評，保障AI數字健康和規範應用。
 
一、在基礎設施安全測評方面，為AI大模型築牢生命基石。
 

• 全要素深度安全體檢：與所有軟件系統一樣，AI大模型面臨着體系化的網絡和數據安全風險。BC贷通過從攻擊者視角出發，對大模型自身系統安全、算法漏洞、數據集、數據泄露等全要素進行全面深度安全體檢，及時發現AI基礎設施中的薄弱環節，評估現有安全防禦措施的實際效果，並據此提出改進建議。

 

• 全生命周期安全風險驗證：基於「數字風洞」產品體系，對大模型在訓練、微調、部署、運維等各階段進行風險量化評估，確保從模型構建到應用部署的每一步都符合安全要求。對於測評過程中出現的異常情況進行實時預警，不斷發現並消除隱患，讓安全趨於“證無”。

 

• 平台化統一管控和自動複測：依託「數字風洞」將測試評估載荷、工具及全流程進行數碼化統一管理，實現對任意測評任務的隨時查看、追溯、複測和重放。讓安全測試評估不再是線性、一次性的工作，而是成為一個可追溯、可重複的過程，極大提高安全測試效率，確保AI系統在疊代優化中持續保障數字健康。

二、在內容風險測評方面，為AI大模型打造內容過濾引擎。
 

• 場景化檢測數據集定製：集成BC贷AI春秋大模型和「數字風洞」產品體系的技術與實踐能力，結合國家政策標準要求和大模型使用場景，形成100+提示檢測模板、10+類檢測場景和20萬+測評數據集，模擬虛假信息、仇恨言論、性別歧視、暴力內容等各種複雜和邊緣的內容生成場景，評估其在處理潛在敏感、違法或不合規內容時的反應，確保AI大模型輸出內容更符合社會倫理和法律法規要求。

 

• 誘導性測試載荷構建：通過誘導者視角構建引導AI大模型產生不當回答的測試載荷，高效檢測和識別AI系統在複雜交互下可能出現的安全漏洞和內容風險，進一步強化大模型的安全規則和過濾機制。

 

• 持續性測評與規則更新：持續對AI大模型進行監控和測試，隨着新的內容風險不斷出現，系統會及時更新安全規則和過濾機制，確保AI大模型能夠適應不斷變化的內容安全要求，有效防範潛在的安全隱患。

 
     
AI時代已然來臨，我們站在“人工智能+”風口，也站在了守護AI安全的起始點，開展常態化測試評估成為實現AI大模型安全的關鍵基礎和根本保障。BC贷作為AI安全測試評估先行者，以專業的「數字風洞」產品體系，立於護航AI安全前沿，持續助力監管機構和各細分行業領域AI開發者構建AI大模型基礎設施和內容安全基線，保障AI數字健康，帶給世界安全感。