近日,在“全球數(shù)字經濟大會—云智算安全論壇暨2025第三屆SecGo安全會議”上,中國信息通信研究院正式授牌成立“云上大模型安全推進方陣”,發(fā)布“2025年可信安全最新評估結果”。憑借在人工智能安全領域深厚積累與創(chuàng)新實踐,啟明星辰當選方陣副理事長單位;啟明星辰天清MAF大模型應用防火墻首批通過中國信通院“大模型內容安全防護產品能力評估”。

本次評估嚴格依據(jù)《大模型內容安全防護產品能力評估辦法》,聚焦用戶關切與實際生產場景中的核心風險與威脅,重點覆蓋高對抗攻防測試、違規(guī)內容識別、端到端安全能力閉環(huán)、生態(tài)集成、防護性能等八類關鍵指標,全面涵蓋內容風險識別、檢測分析、安全防護及安全管理等維度。在此權威評估中,啟明星辰天清MAF大模型應用防火墻表現(xiàn)優(yōu)異,充分展現(xiàn)了卓越的綜合實力。

為有效應對大模型安全挑戰(zhàn),啟明星辰聚焦前沿趨勢研究、推動標準體系完善、探索行業(yè)最佳實踐、促進產業(yè)生態(tài)協(xié)同,積極了構建全面的大模型安全能力體系。其中,面向DeepSeek等企業(yè)級大模型服務商,啟明星辰推出業(yè)內首個大模型安全防護產品 —— 天清MAF大模型應用防火墻。

該產品旨在保護使用大模型或由大模型驅動的應用程序免受威脅或降低其風險,為大模型推理服務、智能體及MCP服務提供實時安全防護,在模型安全、數(shù)據(jù)安全、應用安全、內容安全等領域提供一體化解決方案。

模型安全:全面覆蓋OWASP LLM TOP10大模型相關風險,有效防御提示詞注入攻擊、過度代理、算力拒絕服務攻擊、不當輸出等威脅。

數(shù)據(jù)安全:對大模型/智能體輸出內容進行全面檢測和過濾,實現(xiàn)敏感個人數(shù)據(jù)過濾、系統(tǒng)提示詞防護、數(shù)據(jù)泄露防護。

應用安全: 一站式提供大模型應用層防護,包括組件漏洞防護、Web攻擊防護、BOT流量管理、API安全防護等。

內容安全:覆蓋《生成式人工智能服務安全基本要求》、《生成式人工智能服務管理暫行辦法》等公安、網信合規(guī)要求。

針對大模型業(yè)務場景的內容級、應用級新型威脅,天清MAF創(chuàng)新性采用“大模型技術”對抗“大模型威脅”路徑,有效解決傳統(tǒng)安全產品難以應對大模型自然語言交互風險場景的痛點;通過大小模型結合的自然語義檢測,融合神經網絡語義理解與智腦對決技術,全面保障大模型服務安全;基于多項算法優(yōu)化及動態(tài)防御矩陣技術,實現(xiàn)毫秒級響應的高性能內容檢測。

隨著生成式人工智能技術在企業(yè)級應用的爆發(fā)式增長,其帶來的內容安全、數(shù)據(jù)泄露、模型濫用等新型安全風險日益凸顯。啟明星辰將持續(xù)深耕大模型安全領域,全力推動大模型安全應用落地實踐,促進大模型安全產品服務水平提升,為產業(yè)健康發(fā)展保駕護航。