登录

专家:除了技术和产品更重要是全球人工智能治理的竞争


速读:ChatGPT自2022年11月横空出世就在全球受到极大追捧,掀起新一轮的人工智能产业浪潮,各类生成式人工智能进入应用爆发阶段。 专家:除了技术和产品更重要是全球人工智能治理的竞争2024-05-0521:54:55来源:央广网。 为抢占新一轮发展机遇,国内外公司都在加快布局人工智能产业。 央广网北京5月5日消息(记者樊瑞)作为新一轮科技革命和产业变革的重要驱动力量,人工智能技术发展与应用拓展正在按下“快进键”。 这一轮人工智能的竞赛中,OpenAI凭借旗下大语言模型驱动的对话机器人ChatGPT,迅速崛起为新一轮人工智能领域的领军公司。
2024-05-05 21:54:55 来源:央广网

央广网北京5月5日消息(记者 樊瑞)作为新一轮科技革命和产业变革的重要驱动力量,人工智能技术发展与应用拓展正在按下“快进键”。为抢占新一轮发展机遇,国内外公司都在加快布局人工智能产业。

ChatGPT自2022年11月横空出世就在全球受到极大追捧,掀起新一轮的人工智能产业浪潮,各类生成式人工智能进入应用爆发阶段。从文生文,到文生图(诸如 Midjourney),再到文生视频(Sora大模型),乃至文生音乐(Suno V3大模型),生成式人工智能应用已经迅速出圈,为未来人工智能产业发展提供无限想象空间。

当前,人工智能发展呈现何种趋势?新时代人工智能产业的发展机遇在哪里?政策能为人工智能发展提供怎样的助力?就此,记者采访相关专家。

社会发展进入新拐点

这一轮人工智能的竞赛中,Open AI凭借旗下大语言模型驱动的对话机器人ChatGPT,迅速崛起为新一轮人工智能领域的领军公司。Open AI能够崛起,与微软与其大量的资金投入、商业场景的支持密不可分。与Open AI共舞的微软,已经成为这一轮人工智能竞赛中的赢家。

在微软全球助理法律总顾问、微软亚太研发集团法律事务部总经理罗立凡看来,2024年人工智能有三大发展趋势。其一是小语言模型,即能在设备上离线运行,在使用高质量数据训练执行具体任务上性能与大语言模型相当;其二是多模态人工智能,多模态理解与生成(类似图像、视频、音频);其三是人工智能助力科学研究,可整体加快科学发现速度,包括气候变化上精准气候预报、碳排放预估等。此外,人工智能也能在生命科学上发挥作用,可缩短新药研发周期。

“生成式人工智能不仅带来技术变革,更是让整个社会的发展步入新纪元。”对外经济贸易大学数字经济与法律创新研究中心主任张欣表示,从整个社会发展的角度来看,人类已经从生成式人工智能向通用人工智能演进,整个社会发展已经进入新的拐点。

张欣进一步指出,在互联网时代,信息发展和生成是PGC(专业生产内容)模式;当进入移动互联网时代,信息生成模式变革成UGC(用户生产内容);到今日人工智能开始辅助人们进行内容生产,就意味着在未来的信息和知识生产中人类的生产主体地位可能会受到机器和技术的冲击与挑战。“人工智能带来的将是新一轮的产业革命和时代革命”,她如此向央广网记者总结。

在全球争相布局人工智能产业之时,人工智能的竞争日益白热化。张欣指出,发展人工智能,不仅需要技术、产品,也需要制度的保障。作为法律人,她一直在思考的是,如何从法律制度上为中国人工智能发展提供助力。在此契机下,她主编《智能新纪元:生成式人工智能的发展与治理》一书,认为秉持创新与治理双轮驱动的理念,积极探索与之适配的治理框架具有重要的理论与实践意义。

人工智能治理已是全球热点

张欣指出,放眼全球,人工智能竞争不仅仅是技术和产品的竞争,更重要的是全球人工智能治理的竞争,这也是目前全球政策议题当中的热点,全球的人工智能立法也在紧锣密鼓制定之中。

据相关数据统计,截至今年2月底,全球和人工智能直接相关的立法(包括次级立法)中,已通过且生效的有68个;通过但是没有生效的有16个;提案阶段的有92个,其中政策及相关文件有73个。

中国的人工智能相关立法也呈现加速状态。从顶层设计到技术性法律,再到部门规章、地方性法规、国标和行标,皆是如此。

从2022开始,中国科技产业的立法开始采取“小快灵”的方式,“小切口立法比较灵活,能够以较小的体量规定最为核心的事项,同时在行业发展的过程中及时发挥实效性。”张欣说。

当人工智能与行业碰撞,在中国发生的一个强烈的化学反应就是涌现出诸多行业大模型,这些大模型在不断进行升级和迭代。张欣表示,截至2023年11月,国内大模型厂商已经全部完成交卷,发布公司的大模型平均完成3轮更新。她观察到,公司的竞争的重点也在悄然发生变化,已从模型参数量的比拼转变成模型更新能力的较量。此外,公司也在应用层深化探索,开始进入到具体场景的发掘和应用阶段。

张欣指出,大模型的确有很多优秀的性能、令人惊艳的表现,但从治理的视角来看,技术专家也对大模型带来的风险和挑战表示担忧。这些风险可能出现在数据层、算法层和应用层等各个层级当中。

“风险并不可怕,只要我们能够创建与之相配适的框架,让人工智能得以在可控的轨道上发展。”张欣表示,当国内的科技企业投身于生成式人工智能的开发浪潮时,应该秉持着创新和治理双轮驱动的理念,探索一个与之配适的治理理念。

北京师范大学网络法治国际中心执行主任吴沈括认为,当前全球有关人工智能的相关立法都呈现综合治理的思路,欧盟、美国和中国各有差异。欧盟更加侧重的是组织管理层面的风险治理,即欧盟根据不同程度、不同等级的人工智能风险,就特定的主体设定不同程度的合规义务。美国的人工智能治理相对而言更侧重于对技术本身的关注,是一种强调技术要素治理的思路,对于技术相关的产业链、供应链关注更为密切。

“中国体现的是一种生态式的治理”,吴沈括向央广网记者介绍,即围绕人工智能的应用,从技术要素、组织管理到信息内容、特定的主体资质要求等,是一种生态式的治理思路。

吴沈括认为,中国在人工智能领域的治理具有先进性,其一是在治理层面的监管落地场景更加丰富多元,系因中国的人工智能产业应用较为丰富;其二是治理使用的落地工具较为多样,诸如风险评估、安全审查等各项机制。

从算法备案到监管机构的创新

按照我国的相关法律,生成式人工智能实施“备案制”,需向国家网信办履行相关备案手续。

据国家网信办4月2日发布的消息,按照《生成式人工智能服务管理暂行办法》要求,截至2024年3月,中国共有117个大模型完成生成式人工智能服务备案。这些大模型包括百度文心一言、抖音云雀、阿里巴巴通义千问、华为云盘古、腾讯混元助手、OPPO安第斯、vivo蓝心等。

中国信息通信研究院政策与经济研究所高级工程师程莹长期从事人工智能和算法治理研究工作。她指出,从国际视角来看,在对人工智能的治理上,我国引领推动建立人工智能备案制度,与欧美有所差异。“在对人工智能的治理中,透明度是全球普遍认可的伦理价值追求,中国通过备案制度,一定程度已走在世界前列。”

程莹表示,中国的备案法规依据,从《算法推荐管理规定》至《生成式人工智能服务管理暂行办法》中都有相关相关规定。

欧盟《人工智能法案》对大模型确立双层监管义务要求。一般的通用人工智能需披露模型的技术文件、测试过程和评估结果;具有系统性风险的通用人工智能(浮点运算值、用户数等超过一定界限)还要披露重大事故、能源消耗等信息。

美国在2023年10月出台的《安全、稳定、可信的人工智能》行政令中,也关注透明度要求,要求关涉国家安全的基础模型向联邦政府共享红队安全测试结果、模型权重等信息。

除了监管内容的创新,各国也还在探索探索人工智能监管机构创新。

程莹介绍,欧盟将成立专门的人工智能监管机构。根据《人工智能法案》,欧盟各成员国将建立独立的人工智能监管机构,例如,西班牙率先成立西班牙人工智能监管局(AESIA)。

同时,将在欧盟委员会内设立人工智能办公案,负责监督GP人工智能模型风险、制定标准等,并由独立专家组成的科学小组协助评估GP人工智能能力、选定系统性风险GP人工智能等。

美国在现有机构体系下推进监管协调。白宫人工智能委员会主要功能是协调联邦政府机构的活动,以确保有效制定、发展、沟通、行业参与和及时实施人工智能相关政策。英国《支持创新的人工智能监管方案》白皮书,强调应加强中央层面的监管协调。

在实践中,强化不同监管机构的协调配合,已是国际的共识。为此程莹建议,未来,国内可进一步建立完善大模型监管的工作协调机制,衔接协调不同部门监管措施,以协同提升监管效率。

主题: