7 月 14 日消息，據螞蟻技術消息，世界數字科學院(WDTA)在聯合國日內瓦總部日前正式發布 AI STR 系列新標準《AI 智能體運行安全測試標準》，標準由螞蟻集團、清華大學、中國電信牽頭，聯合普華永道、新加坡南洋理工大學、美國圣路易斯華盛頓大學等二十余家國內外機構、企業及高校共同編制，為全球首個單智能體運行安全測試標準。
據介紹，該標準針對智能體跨越“語言墻”所帶來的“行為”風險，首次將輸入輸出、大模型、RAG、記憶和工具五個關鍵鏈路與運行環境對應起來，構建了全鏈路風險分析框架;同時，細分了智能體風險類型，完善并創新提出了模型檢測、網絡通信分析和工具模糊測試等測試方法，彌補了智能體安全測試技術標準的空白。
從螞蟻技術獲悉，該標準不僅提供了一套可行可靠的智能體安全基準，也為全球 AI 智能體生態的安全、可信和可持續發展增加了有益的探索。目前，部分標準的測評與認證已在金融、醫療等領域落地應用。
此前，WDTA 已發布 3 項 AI STR 標準，包括“生成式人工智能應用安全測試標準”,“大語言模型安全測試方法”和“大模型供應鏈安全要求”，由 OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同參與。
網站客服
粵公網安備 44030402000946號