人工智能全球治理的困境及启示2024版.docx
《人工智能全球治理的困境及启示2024版.docx》由会员分享,可在线阅读,更多相关《人工智能全球治理的困境及启示2024版.docx(16页珍藏版)》请在优知文库上搜索。
1、人工智能全球治理的困境及启示2024版目录摘要1引言11 .人工智能对国际安全的挑战21.1. 刺激军备竞赛论:引发大国军备争优,加深危机升级风险21.2. 破坏危机稳定论:增加战略决策不确定性,冲击危机稳定性41.3. 3.加深大国竞争论:人工智能竞争的意识形态化加剧了国际体系的分裂51.4. 风险高估论:军事应用受阻,安全挑战被高估62 .全球主要经济体加速Al监管探索73 .全球Al监管合作的主要困境83.1.监管碎片化加剧,不平衡问题突出83.2.监管方式存在分歧,互操作性不足93. 3.国际协调缓慢,国际组织作用发挥受限IO4.国际安全规范演化路径的多元视角114.1. 军备控制路径
2、:大国借鉴国际军控的经验教训114.2. 全面“禁武”的手段:国际组织倡导禁止完全自主的致命性自主武器124. 3.技术发展规制的道路:知识共同体规范技术发展的专业治理134. 4.多路径演化的国际规范145. 总结及启示16摘要近一年来,以ChatGPT为代表的生成式人工智能快速发展,给各国监管机构带来重大挑战。全球迫切需要在Al治理尤其是Al监管方面达成共识,防范可能出现的重大风险。但目前全球监管格局碎片化,主要经济体对Al及其治理的基本概念、价值理念和路径策略等均存在分歧,同时主要经济体也在激烈争夺Al治理的话语权。对此,我国应在迭代完善国内Al治理体系基础上,通过推动全球共治共享、构建
3、监管合作规则、加快国际标准制定和创新多边协调机制等举措,持续提升国际Al治理的影响力。引言人工智能武器化对国际安全的挑战到底几何?一些战略学者对人工智能的军事效能有很高期待,认为它如同核武器横空出世一般引发军事革命,改变了人们对国际冲突和战场的基本认知。一些军事安全研究者则态度保守,将之视为既有武器的“放大器”,认为它不足以改变国际安全体系,并质疑其战场应用效果能否满足预期。在学者争论和政策辩论热闹非凡之时,中美对人工智能前沿技术的追赶竞争,使这项具有颠覆性潜能的技术成为“权力游戏”的新宠。在大国战略竞争和军备竞赛升温的背景下,以自主武器为代表的人工智能赋能的武器备受推崇,人们的关注已从该技术
4、在军事领域的发展机遇转向随之而来的严峻挑战,以及以何种理念、方式、工具开展有效的安全治理。参与到这场论辩的各方纷纷提出开展军备控制的倡议,但在如何实现维护国际稳定的方式上存在巨大差异。通常而言,当某一种巨大且急迫的危机降临,引起精英和大众的广泛关注和行动意愿,经历一段相对漫长的时间将催生出新的国际规范。在人工智能的军事应用还没有展现出全球性恶果之前,该如何平衡技术发展红利和潜在风险是一项难题。基于上述理论思考的目标,本文结合国际安全的现有理论视角,从人工智能引发的国际安全挑战,比如军备竞赛、安全困境、危机稳定、中美科技领导权竞争等方面进行文献梳理,而后梳理多元行为体对于正在演进的国际安全规范过
5、程的主张。有鉴于管控人工智能军事化的国际规范还处于争论发展阶段,本研究的目标不是提出规范建构的理论框架,而是对现有纷杂的各种治理观点及其逻辑假设进行梳理,为探索人工智能规范演进的路径提供新的思考方向和视角。1 .人工智能对国际安全的挑战弗兰克斯利珀(FrankSlijPer)等学者对美国、中国、俄罗斯、法国、以色列和韩国的人工智能军事化行为的研究发现,这些国家正加大研发投资,联合企业和科研机构落实研究方案,都竞争性地坚持绝不能落后于人的人工智能战略。人工智能属于军民两用技术,易于扩散的特性意味着斥巨资带来的技术优势很可能不会长期保持。但是,一些国家对人工智能军事化的执念不仅会挤兑提升国民福利的
6、财政储备,还会引发军备竞赛,破坏战略稳定,零和的人工智能军备竞赛似乎成为自我实现的预言。1.1. 刺激军备竞赛论:引发大国军备争优,加深危机升级风险人工智能有可能掀起一场军事革命。与核武器时代追求弹头数量优势相比,算法战时代追求的远非武器数量优势,而是信息技术领导地位,以获得军事实力“质”的突破。面对智能技术迭代速度加快的趋势,军事技术差距放大了国家的生存恐惧,由此军备竞赛似乎不可避免。令人担心的不只是军备竞赛本身,还有尖端武器部署和反制技术研发的竞争,恶化了国家安全预期并陷入不断升级的安全困境。国际军控学者认为,优势争夺引发军备竞赛,加大国际安全风险。2020年9月27日,阿塞拜疆和亚美尼亚
7、两国为争夺纳卡地区控制权爆发冲突。在地面进攻受阻的情况下,阿塞拜疆动用TB-2察打一体无人机、“赫尔墨斯”长程侦察无人机、“哈洛普”自杀无人机、“搜索者”中程侦察无人机、“人造卫星”短程侦察无人机和阿塞拜疆改装的安-2无人机等取得纳卡冲突主导权。有观点认为,无人机展现出来的战场颠覆性效果恐怕会让更多国家购买先进无人机,导致武装无人机扩散问题。另一方面,国家可能迫于军备竞赛压力而部署危险的人工智能系统。人工智能技术虽然强大却不一定可靠。很多系统易受攻击,或者在非训练环境中失灵。从技术安全角度看,人工智能武器的固有安全风险有助于降低决策者的部署意愿,进而在一定程度上延缓军备竞赛。但是,国家渴求权力
8、的现实会打破这种理想状态。有的国家迫于军备竞赛压力,会不断放宽对智能武器的安全限制,甚至会接受不合格的以及未经检测的武器系统。更为谨慎的分析认为,人工智能武器化使国家陷入安全困境。国家既难以明晰对方的战略意图,又恐惧于别国终将获得比自己更强大的军事力量,为了提高自身安全,应对他国的潜在进攻,从而选择增加军备。有观点认为,中美已经被拖入一场安全困境中,即美国将中国的人工智能发展看作一种安全威胁,而中国认为必须加快发展速度以反制美国的各种压制政策。由于人工智能技术具有军民两用的特性,可通过公开渠道获取相关技术要素并辅助训练军用系统,它的赋能效果带来何种程度的军事优势具有不确定性,这进一步放大了国家
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 全球 治理 困境 启示 2024