OpenAI、螞蟻集團、谷歌等聯合編制的大模型安全國際標準正式發布

2024-04-18 09:22:04來源：TechWeb.com.cn 關鍵詞：大語言模型生成式AI應用閱讀量：25673

導讀：日前，世界數字技術院(WDTA)發布了一系列突破性成果，包括《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。

　　4月17日消息，日前，世界數字技術院(WDTA)發布了一系列突破性成果，包括《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。這是國際組織首次就大模型安全領域發布國際標準，代表全球人工智能安全評估和測試進入新的基準。

　　信息顯示，此次發布的兩項國際標準是大模型及生成式AI應用方面的安全測試標準。由OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同編制而成。

　　其中，《生成式人工智能應用安全測試標準》由WDTA作為牽頭單位。該標準為測試和驗證生成式AI應用的安全性提供了一個框架，特別是那些使用大語言模型(LLM)構建的應用程序。它定義了人工智能應用程序架構每一層的測試和驗證范圍，包括基礎模型選擇、嵌入和矢量數據庫、RAG或檢索增強生成、AI應用運行時安全等等，確保AI應用各個方面都經過嚴格的安全性和合規性評估，保障其在整個生命周期內免受威脅和漏洞侵害。

　　《大語言模型安全測試方法》由螞蟻集團作為牽頭單位。該標準則為大模型本身的安全性評估提供了一套全面、嚴謹且實操性強的結構性方案。它提出了大語言模型的安全風險分類、攻擊的分類分級方法以及測試方法，并率先給出了四種不同攻擊強度的攻擊手法分類標準，提供了嚴格的評估指標和測試程序等，可解決大語言模型固有的復雜性，全面測試其抵御敵對攻擊的能力，使開發人員和組織能夠識別和緩解潛在漏洞，并最終提高使用大語言模型構建的人工智能系統的安全性和可靠性。

　　與會的WDTA人工智能安全可信負責任工作組組長黃連金表示，隨著人工智能系統，特別是大語言模型繼續成為社會各方面不可或缺的一部分，以一個全面的標準來解決它們的安全挑戰變得至關重要。此次發布的標準匯集了全球AI安全領域的專家智慧，填補了大語言模型和生成式AI應用方面安全測試領域的空白，為業界提供了統一的測試框架和明確的測試方法，有助于提高AI系統安全性，促進AI技術負責任發展，增強公眾信任。

　　據了解，近年來，世界各國都在加強對于大模型安全的研究和管控。我國先后發布了《全球人工智能治理倡議》《生成式人工智能服務管理暫行辦法》《生成式人工智能服務安全基本要求》等，旨在促進生成式人工智能安全可信發展，推進全球人工智能治理領域合作共識。

上一篇：我國發布全球首個海底智算中心平臺！總算力超過2000PFlops 用海水散熱

下一篇：第六批專精特新“小巨人”企業培育和第三批專精特新“小巨人”企業復核工作

我要評論

昵稱

匿名

文明上網，理性發言。（您還可以輸入200個字符)

表情

所有評論僅代表網友意見，與本站立場無關。

大語言模型與生成式人工智能的區別
本文旨在通過對大語言模型和生成式人工智能的深入分析，了解這兩種技術的區別，以及它們各自的行業應用和未來發展趨勢。
大語言模型生成式人工智能
2024-09-02 10:09:27
啟明創投發布2024生成式AI十大展望
2024世界人工智能大會上，啟明創投圍繞大語言模型、多模態模型、商業機會等做出2024生成式AI十大展望。
生成式AI大語言模型
2024-07-08 11:01:29
大手筆！“歐洲版OpenAI”獲微軟投資
從外媒最新的報道來看，除了對OpenAI大手筆的投資，微軟也投資了有著歐洲版OpenAI之稱的法國人工智能公司Mistral AI。
大語言模型聊天機器人
2024-02-28 09:02:16
早報|阿里云核心銷售業務調整；訊飛醫療在港交所提交上市申請
教科文組織將于2月5日至6日在斯洛文尼亞克拉尼舉辦全球人工智能論壇，以評估全球人工智能治理進展；阿里云核心銷售業務層面進行調整，將混合云事業部更名為政企事業部；1月26日晚，訊飛醫療科技股份有限公司向港交所提交上市申請書......
人工智能大語言模型
2024-01-29 09:29:30
阿里云通義千問開源72B、1.8B兩款大語言模型并首度開源音頻大模型
從18億、70億、140億到720億參數規模，通義千問成為業界首個“全尺寸開源”的大模型。此外，阿里云還首次開源音頻理解大模型Qwen-Audio。
大語言模型音頻大模型
2023-12-04 10:15:23
消息稱谷歌將推遲至明年第一季度發布大語言模型Gemini
據兩位知情人士透露，谷歌將推遲發布其大語言模型Gemini，發布時間從原定的今年11月份推遲到了2024年第一季度。
大語言模型AI聊天機器人
2023-11-20 10:03:06

版權與免責聲明：

凡本站注明“來源：智能制造網”的所有作品，均為浙江興旺寶明通網絡有限公司-智能制造網合法擁有版權或有權使用的作品，未經本站授權不得轉載、摘編或利用其它方式使用上述作品。已經本網授權使用作品的，應在授權范圍內使用，并注明“來源：智能制造網”。違反上述聲明者，本站將追究其相關法律責任。

本站轉載并注明自其它來源（非智能制造網）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點或和對其真實性負責，不承擔此類作品侵權行為的直接責任及連帶責任。如其他媒體、平臺或個人從本站轉載時，必須保留本站注明的作品第一來源，并自負版權等法律責任。如擅自篡改為“稿件來源：智能制造網”，本站將依法追究責任。

鑒于本站稿件來源廣泛、數量較多，如涉及作品內容、版權等問題，請與本站聯系并提供相關證明材料：聯系電話：0571-89719789；郵箱：1271141964@qq.com。