登录

IIFAA互联网可信认证联盟成立智能体可信互连工作组推动多智能体可信协作


速读:12月19日,国内首个智能体安全生态协作组织—“IIFAA智能体可信互连工作组”(以下简称“工作组”)在北京宣布成立。
2024年12月19日 16:58

在AI的浪潮中,智能体其具备自主感知环境、智能决策并执行任务的能力,能让大模型长出“手和脚”,为用户提供更丰富的服务。但随着各个智能体的落地,服务信息的总量将会指数级增加,服务信息的匹配和分发效率也将极大提升,同时也会带来信息安全、用户隐私方面的挑战。

12月19日,国内首个智能体安全生态协作组织—“IIFAA智能体可信互连工作组”(以下简称“工作组”)在北京宣布成立,该工作组致力于推动行业共同制定跨智能体交互的相关安全技术规范,以应对智能体高速发展所带来的安全协作挑战。

据悉,目前中国信通院、荣耀、OPPO、小米、华为、智谱、字节、阿里、蚂蚁、京东、中国移动、高通等二十余家头部科技企业成为工作组成员。

近年来,随着AI技术的发展,智能体发展迅速。手机终端、大模型及APP厂商纷纷推出“AI管家”等智能体产品,用户可以与设备或APP进行自然语言交互,快速实现订票、点餐、打车、查询附近吃喝玩乐等操作。其中,典型代表包括以苹果、荣耀、vivo等为代表推出的手机厂商系统智能体,以蚂蚁集团推出的AI生活管家“支小宝”、智谱AI推出的AutoGLM等为代表的AI智能体产品。

而这个市场规模也在不断扩大,市场研究机构Gartner将Agentic AI(人工智能代理,同“AI Agent”)列为2025年十大技术趋势之一,并预测到2028年,至少有15%的日常工作决策将由Agentic AI自主完成。Research and Market最新发布的报告则显示,AI智能体的市场规模将从2024年的51亿美元增长到2030年的471亿美元,年均复合增长率为44.8%。

IIFAA互联网可信认证联盟技术负责人万小飞表示,“当系统智能体满足是人类比较全面的时候,涉及智能体之间必须合作的时候,会出现两个智能体之间协同的问题。”

蓬勃发展的同时,智能体行业尚处于发展的初期阶段,多智能体应用的协作,在为用户带来便利的同时,也隐藏着潜在的安全风险。

随着越来越多厂商的布局,市面上出现许多的“AI管家”等智能体产品,这些产品与用户的行为息息相关。手机终端厂商与应用开发者致力于优化智能体产品,以强大的产品竞争力赢得用户,从而掌握新入口的主动权。然而,对用户而言,一条指令,往往会涉及到多个app智能体产品,而智能体之间的打通很难,如何在端上实现多智能体间的可信互连,成为智能体发展中至关重要的问题。

“对用户而言,一条指令,往往会涉及到多个app智能体产品,而智能体之间的打通很难,如何在端上实现多智能体间的可信互连,成为智能体发展中至关重要的问题。目前行业还在初期阶段,新技术在给用户带来便利的同时,也隐藏着安全风险。”信通院泰尔终端实验室信息安全部副主任傅山在成立现场表示。

在此背景下, IIFAA互联网可信认证联盟正式成立“IIFAA智能体可信互连工作组”,希望通过制定跨智能体交互的相关标准等形式,为智能体行业的发展提供一个更加规范健康的协作环境。

“接下来,工作组将围绕智能体可信认证、服务可信调用、数据可信流转、用户隐私与权益保护等方向,建设智能体可信互连行业规范,推动行业安全、健康发展。”工作组技术总监张璇介绍。

主题:智能体