化工儀器網(wǎng)首頁>資訊中心>行業(yè)百態(tài)>正文

全球首個AI智能體安全測試標準發(fā)布
2025年07月15日 14:40:24 來源：化工儀器網(wǎng) 點擊量：3568

AI STR系列新標準《AI智能體運行安全測試標準》正式發(fā)布，目前，部分標準的測評與認證已在金融、醫(yī)療等領(lǐng)域落地應(yīng)用。

　　日前，世界數(shù)字科學(xué)院(WDTA)在聯(lián)合國日內(nèi)瓦總部正式發(fā)布AI STR系列新標準《AI智能體運行安全測試標準》。該標準由螞蟻集團、清華大學(xué)、中國電信牽頭，聯(lián)合普華永道、新加坡南洋理工大學(xué)、美國圣路易斯華盛頓大學(xué)等二十余家國內(nèi)外機構(gòu)、企業(yè)及高校共同編制，為全球首個單智能體運行安全測試標準。
 
　　在科技飛速發(fā)展的時代背景下，人工智能(AI)已成為推動社會進步的重要力量。然而，隨著AI技術(shù)的廣泛應(yīng)用，其安全性問題也日益凸顯，成為全球關(guān)注的焦點。
 
　　最新調(diào)研顯示，超過70%的智能體從業(yè)者擔(dān)憂AI幻覺與錯誤決策、數(shù)據(jù)泄露等問題，因為AI生成的內(nèi)容往往包含事實錯誤，或者對指令產(chǎn)生誤解，其中超半數(shù)受訪者表示，所在企業(yè)尚未設(shè)立明確的智能體安全負責(zé)人。
 
　　據(jù)了解，該標準針對智能體跨越“語言墻”所帶來的“行為”風(fēng)險，首次將輸入輸出、大模型、RAG(檢索增強生成)、記憶和工具五個關(guān)鍵鏈路與運行環(huán)境對應(yīng)起來，構(gòu)建了全鏈路風(fēng)險分析框架。同時細分了智能體風(fēng)險類型，完善并創(chuàng)新提出了模型檢測、網(wǎng)絡(luò)通信分析和工具模糊測試等測試方法，彌補了智能體安全測試技術(shù)標準的空白。
 
　　值得注意的是，與其他國際標準不同，AI STR(人工智能安全、可信和負責(zé)任)不僅關(guān)注風(fēng)險識別和風(fēng)險分級，更提供全流程管理方案，即從數(shù)據(jù)治理到模型落地，配套具體測試工具和認證流程，助力企業(yè)提升AI應(yīng)用的安全性與可信度。
 
　　AI STR系列新標準《AI智能體運行安全測試標準》的發(fā)布，為AI技術(shù)的安全應(yīng)用提供了有力保障，將對AI行業(yè)的高質(zhì)量發(fā)展產(chǎn)生深遠的影響。未來在這一標準的指引下，AI技術(shù)能夠更加穩(wěn)健地發(fā)展，為各行各業(yè)創(chuàng)造更多可能。目前，部分標準的測評與認證已在金融、醫(yī)療等領(lǐng)域落地應(yīng)用。
 
　　素材來源：科技日報
關(guān)鍵詞

相關(guān)閱讀 Related Reading

查看更多+

  • 《四川省工業(yè)園區(qū)新污染物調(diào)查評估技術(shù)規(guī)范(征求意見稿)》發(fā)布

    《四川省工業(yè)園區(qū)新污染物調(diào)查評估技術(shù)規(guī)范(征求意見稿)》旨在進一步完善全省新污染物篩查和評估技術(shù)體系，公開征求意見時間為2025年...
    2025-07-30 15:44:14

  • 預(yù)算250萬 東南大學(xué)采購高通量分子互作儀

    近日，東南大學(xué)委托江蘇省招標中心有限公司就“東南大學(xué)生命科學(xué)與技術(shù)學(xué)院高通量分子互作儀采購項目”進行公開招標，項目編號JSTCC2...
    2025-07-30 14:45:40

  • 工信部將修訂高新技術(shù)企業(yè)認定管理辦法

    7月28日，全國工業(yè)和信息化主管部門負責(zé)人座談會在京召開。會議在部署下半年重點工作時提到，將修訂高新技術(shù)企業(yè)認定管理辦法。
    2025-07-30 13:54:39

  • 預(yù)算550萬元 中國科學(xué)院采購一批儀器設(shè)備

    中國科學(xué)院2025年儀器設(shè)備部門集中采購項目(第二批)的預(yù)算金額為550萬元，項目編號為 OITC-G250262823-2。
    2025-07-30 13:48:42

  • 國自然基金委：2025年度國家自然科學(xué)基金委員會與德國研究聯(lián)合會合作研究項目指南

    日前，根據(jù)國家自然科學(xué)基金委員會（NSFC）與德國研究聯(lián)合會（DFG）簽署的合作協(xié)議，2025年雙方將共同資助合作研究項目，支持兩...
    2025-07-30 11:21:18

  • 2025年中國測繪學(xué)會科學(xué)技術(shù)獎評審結(jié)果公示

    日前，中國測繪學(xué)會發(fā)布《2025年中國測繪學(xué)會科學(xué)技術(shù)獎評審結(jié)果公示》，進行了2025年中國測繪學(xué)會科學(xué)技術(shù)獎的優(yōu)秀測繪工程獎和科...
    2025-07-30 10:49:41

版權(quán)與免責(zé)聲明

  • ①凡本網(wǎng)注明“來源：化工儀器網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-化工儀器網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其他方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：化工儀器網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。
  • ②本網(wǎng)轉(zhuǎn)載并注明自其他來源（非化工儀器網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉(zhuǎn)載時，必須保留本網(wǎng)注明的作品第一來源，并自負版權(quán)等法律責(zé)任。
  • ③如涉及作品內(nèi)容、版權(quán)等問題，請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。
工業(yè)苛刻工況pH應(yīng)用在線監(jiān)測解決方案
關(guān)閉