12月19日消息，國內首個智能體安全生態協作組織—“IIFAA智能體可信互連工作組”（以下簡稱“工作組”）在北京宣布成立，該工作組致力于推動行業共同制定跨智能體交互的相關安全技術規范，以應對智能體高速發展所帶來的安全協作挑戰，共建開放、合作、共贏的智能體生態。中國信通院、榮耀、OPPO、小米、華為、智譜、字節、阿里、螞蟻、京東、中國移動、高通等二十余家頭部科技企業和單位成為工作組首批成員。
工作組由IIFAA互聯網可信認證聯盟發起成立。據了解，該聯盟成立于2015年，致力于可信身份認證等工作，擁有300多家成員單位。
近年來，AI智能體生態搭建成為賽道內各玩家的重要戰略布局，手機終端、大模型及APP廠商紛紛推出“AI管家”等智能體產品，用戶可以與設備或APP進行自然語言交互，快速實現訂票、點餐、打車、查詢附近吃喝玩樂等操作。其中，典型代表包括以蘋果、榮耀、vivo等為代表推出的手機廠商系統智能體，以螞蟻集團推出的AI生活管家“支小寶”、智譜AI推出的AutoGLM等為代表的AI智能體產品。
通過共享感知數據和任務協調優化實現智能響應，多個智能體協同工作，可以為用戶提供更豐富的功能體驗。比如，用戶通過手機上的語音助手說“我想聽周杰倫的歌，順便幫我點個附近的披薩外賣”，語音助手智能體識別用戶指令后，立即調用音樂播放智能體和外賣智能體。
“對用戶而言，一條指令，往往會涉及到多個app智能體產品，而智能體之間的打通很難，如何在端上實現多智能體間的可信互連，成為智能體發展中至關重要的問題。目前行業還在初期階段，新技術在給用戶帶來便利的同時，也隱藏著安全風險。”信通院泰爾終端實驗室信息安全部副主任傅山在成立現場表示。
IIFAA聯盟秘書長鄭亮指出，智能體之間的服務互聯最終要完成用戶指令，這中間涉及到意圖數據的共享傳遞和復雜任務拆解等必經流程，這些流程在沒有規范約束的情況下，就像開車沒有紅綠燈，非常容易滋生亂象。事實上，即使現在處于多智能體發展早期，已經出現了諸多問題。“黑灰產有時候對新技術的掌握速度比防御方更快。我們不能在問題出現之后再開始討論秩序，這也是這個工作組存在的必要性。”鄭亮認為，智能體之間需要開放協作，也需要共建安全互信的行業規范。這對行業長遠的健康發展有至關重要的意義。
在此背景下，IIFAA互聯網可信認證聯盟正式成立“IIFAA智能體可信互連工作組”，希望通過制定跨智能體交互的相關標準等形式，為智能體行業的發展提供一個更加規范健康的協作環境。目前，工作組成員由手機終端廠商、硬件廠商、應用開發商以及相關監管機構等成員組成。
作為成員單位，智譜AI CEO張鵬提出，“作為專注AI的公司，智譜非常注重技術安全和治理的同步發展，成立智能體行業組織在當下很有必要，可有效避免由于缺乏統一標準而可能導致的惡意攻擊、隱私侵犯等安全隱患，促進整個行業的健康發展。”
螞蟻集團副總裁李俊奎則表示，“創新與開放是螞蟻持續發展的基石，我們將會支持工作組推動智能體技術在各個應用場景中的廣泛普及與信任建立，讓AI更安全的服務于用戶和行業。”
“接下來，工作組將圍繞智能體可信認證、服務可信調用、數據可信流轉、用戶隱私與權益保護等方向，建設智能體可信互連行業規范，推動行業安全、健康發展。”工作組技術總監張璇介紹。
掃碼下載
中文網微信