论坛·全球人工智能治理 | 美国人工智能治理体系的底层逻辑浅析

发布时间:2024-06-26   来源:严明  浏览次数:57
文 | 敛海智库发起人、中国“智权”研究联合实验室高级顾问 严明随着美国的 OpenAI、谷歌、Meta 等科技公司不断推出新一代人工智能(AI)应用,以大模型为代表的生成式人工智能掀起全球人工智能技术发展新浪潮,引发舆论对人工智能领域风险控制的担忧,也引发了对人工智能治理全面和系统的思考。例如,联合国大会于 2024 年 3 月21 日通过的首个关于人工智能的全球决议《抓住安全、可靠和值得信赖的人工智能系统带来的机遇,促进可持续发展》(Seizing the Opportunities of Safe,Secure, and Trustworthy Artificial Intelligence Systems for Sustainable Development)等,都是重要的信号。然而,我国国内大多数人工智能领域的研究者往往依托美国等西方国家的计算机科学理论与技术成果,进行人工智能的应用创新研究,习惯了强调场景应用,而忽视了人工智能的交叉学科属性。其中,为数不多的研究者会开展部分基础理论研究。这种情况使研究人员对美国人工智能体系认知往往停留在碎片化、片面化过程与现象层面,缺乏对其背后通盘底层逻辑的系统性认知和理解。正所谓“没有底层逻辑,听什么都对;没有顶层设计,做什么都错”。为了正确把握中国人工智能生态建设路径和方法,避免盲目跟进,有必要展开对美国人工智能治理体系底层逻辑的通盘梳理工作,并持续对其进行研究。这在信息大爆炸时代并非易事,因为除了要从人工智能发展的哲学科学史的实际情况出发,结合美国国家层面的战略措施和美国智库机构发布的研究成果,通过对大量碎片化信息抽丝剥茧地分析探究美国人工智能治理体系的形成、特点与影响,才能揭示美国人工智能治理体系的底层逻辑。

一、美国人工智能治理体系的形成

美国在人工智能技术领域拥有全球领导地位,得益于其人才和教育机制、先进的科研基础设施和重视科学研究、技术创新的社会文化土壤,以及政府和军方的大力支持。所谓美国人工智能治理体系,简言之,就是基于一套完整的系统逻辑、顶层设计框架下的技术演进和功能拓展脉络。这个体系体现在其历史背景、技术基础和治理目标等多个维度。

(一)美国人工智能治理体系的形成离不开西方现代科学技术的发展历史,包括西方哲学发展史人工智能技术发展离不开哲学科学理论。人工智能领域相关的哲学和科学理论基础可以追溯到两千多年前的柏拉图、亚里士多德,到康德、罗素、库恩、维纳、香农和图灵等,再到当代的乔姆斯基、辛顿、杨立昆和弗里斯顿等,不胜枚举。正是这个哲学家和科学家群体,成就了今天庞大的现代科学技术体系,尤其是语言学、逻辑学、数学、物理学和生物学等,涉及计算机科学和认知科学、复杂性科学等诸多科学领域的研究和发展,对今天的人工智能技术发展具有深远影响。实际上,人工智能并非单一学科研究,而是多领域知识融合的交叉学科和体系综合。唯有对此有清醒认知,才能保持系统的思考能力。 (二)美国人工智能治理体系的形成与人工智能技术本身的发展历史不可分割,并与其经验来源相关联人工智能技术发展是伴随整个科技发展演进的过程。20 世纪 50 年代,人工智能概念诞生。1950 年,被称为“人工智能之父”的英国计算机科学家艾伦·麦席森·图灵(Alan Mathison Turing)提出的“图灵测试”成为评估机器智能的首个标准。1956 年,在美国汉诺斯小镇召开的达特茅斯会议首次将讨论的内容以“人工智能”作为该领域的名称,标志着人工智能研究的正式起步。美国的政府和学界开始大量投资人工智能研究领域,尤其是国防领域。从人工智能的科学研究范式角度看,先后出现了符号主义、连接主义、行为主义三大派研究群体。在六七十年代占据主导地位的符号主义(或逻辑主义)认为,智能可以通过符号操作实现。八九十年代兴起的连接主义认为,智能可以通过模拟人脑神经元的连接模式实现。这就是以神经网络为代表的机器学习、强化学习、深度学习。控制论范畴的行为主义,作为经典范式也随着认知科学的出现,又为人工智能发展提供了新的视角,强调模拟人类的认知过程,包括感知、记忆、学习、语言和问题解决等。始终伴随人工智能发展进程的关于强人工智能与弱人工智能的争论,也是这个领域关注的焦点。强人工智能主张者认为,机器最终会拥有与人类相似的智能,包括意识和自由意志等。弱人工智能主张者则认为,机器虽然能模拟智能行为,但不会具备真正的智能或意识。此外,包括哲学家在内的更多研究者和政策制定者开始关注人工智能伦理问题,例如机器的道德与责任、隐私权、自主性,以及人工智能给人类社会会带来的影响等,而这又与人工智能哲学发展息息相关。在美国,人工智能技术的发展不仅推动了科技进步,也为其社会和经济带来了深远影响。 (三)美国人工智能治理体系的形成与美国日益增长的全球治理需求密不可分,尤其是国家安全需求除了科学发现驱动技术进步,需求也是美国人工智能治理体系形成的重要驱动力。作为数字科技领域的“国际公共产品”,人工智能技术除了为美国社会服务外,更是其实现全球国际秩序、维护美国国家利益的重要手段。人工智能在军事领域的应用或许是美国人工智能治理体系最集中最充分的体现。依据美国《国家安全战略》(National Security Strategy)和《国防战略》(National Defense Strategy),美国国防部制定颁布了《国防部数字现代化战略》(Department of Defense Digital Modernization Strategy),以及《国防部人工智能战略》(Department of Defense Artificial Intelligence Strategy)等一系列 IT 现代化领域相关战略文件,作为人工智能领域顶层设计的依据。2022 年,美国国防部发布《负责任的人工智能战略和实施途径》(Responsible Artificial Intelligence Strategy and Implementation Pathway)文件,旨在以顶层设计推动人工智能技术快速发展,并在实战中加强人工智能技术运用。可见,美军数字化战略包括的人工智能治理体系,具有明确而清晰的通盘逻辑。此外,美国国防高级研究计划局(DARPA)作为美国国防部下属有军事背景的研究机构,负责研发军事用途的高新科技,专注变革性研发具有革命性思维的应用创新,通过对现有科学和工程概念的通过颠覆性理解,创新科学与工程范式,开辟新的领域。 一是美军“马赛克战”计划。于 2017 年由 DARPA 下属战略技术办公室提出的“马赛克战”(Mosaic Warfare)作为一种新兴作战概念,强调多种低成本、模块化作战单元的灵活组合,以柔性和动态重组能力形成可聚合、可叠加的杀伤链和强大的杀伤网,适应不断变化的战场环境和任务需求,推动美军第三次“抵消战略”(Offset Strategy)落地。“抵消战略”是美军为了保持其全球军事优势而制定的战略,旨在将人工智能、自主系统、网络战等先进技术作为其核心组成部分,强调组合创新,包括认知域作战在内的混合战,形成新的不对称竞争态势,赢得未来战争。应用人工智能技术和全息数字化提升战场态势感知能力,是“马赛克战”的核心。这是为精细化战术需求提供的小战术单元全息化数字支持,强调“局部就是整体”。在此基础上,美军又进一步扩展了联合全域指挥控制(JADC2)体系,为立体作战打造强大的战场全息数字化能力。 二是弹性智能下一代系统(RINGS)计划。2022 年 6 月,DARPA 的 RINGS 计划正式发布,旨在融合人工智能技术和网络技术,开发智能、弹性和可靠的下一代网络技术,满足未来以应用为中心的网络通信需求,包括但不限于提高网络的安全性、增强抗攻击和抗干扰能力,通过提升网络智能化水平来更好地适应不断变化的技术和用户需求。 三是须臾之间(In the Moment)研发项目。2022 年 3 月,DARPA 启动了 In the Moment 项目,旨在依靠人工智能技术减少美国军方的人为失误。DARPA 认为,去除决策过程中人的偏见可以“拯救生命”,需要开发能够在高压和复杂环境中进行快速、准确决策的人工智能算法,而算法目标需要与人类专家的决策过程保持一致,提高决策的可信度和效率。深入研究美国 DARPA 的案例可知,其成绩远非如此。DARPA 的美国国防数字化战略充分展示出美国人工智能治理体系背后的底层逻辑,其中,系统性顶层逻辑设计是实现持续创新能力的强大支撑。

二、美国人工智能治理体系的特点

相对系统而言,体系是一个更宏观和广泛的概念,在不同学科和领域拥有不同的定义和应用。体系概念强调了整体性以及相互作用关系,理解体系需要分析其组成部分及部分与部分间的联系。对体系的研究和分析有助于更好理解和解决实际应用中的复杂现象和问题,制定出有效解决方案,优化体系性能,实现对目标系统行为的预测和控制。DARPA 在美国国防数字化战略中提出的“系统之系统”(SoS)是一个强调复杂性的概念,指由多个相互关联、相互影响的独立系统组成的更大系统,以及系统和系统间的互相作用关系。按照汉语的习惯语境,与“系统之系统”相比,“系统体系”会是一个更贴切的表达。每个独立的系统(子系统)都会有自己的目标、功能和管控模式。当它们之间以某种方式相互作用时,就会构成一个更高层次的整体,成为一个更强大的系统。“系统之系统”不是为了要形成一个统一和被集中控制的系统,而是要通过系统与系统的协同实现更高价值和更强功能。因此,“系统之系统”架构被用在最复杂的军事作战系统,使人工智能技术被最大化地应用于美国的国防数字化领域,成为美国人工智能治理体系复杂性的集中体现和最佳实践。

(一)美国人工智能治理体系的核心锚定在结构、功能和秩序,推动人工智能安全、负责、动态地可持续发展美国人工智能治理体系特点还体现在因果凝聚角度,因为美国人工智能治理体系在结构、功能方面不断技术演进,持续影响社会秩序,很多结果是必然和应然的。人工智能技术发展到今天的自然语言、人机交互和大模型的迭代,其本质是生产力和生产关系的革命。类似社会“子系统”互相协同工作,美国人工智能治理体系具有系统和全面的治理水平,体现了融合、渐进的治理特征。它以行政治理为先,以软法约束为主,对刚性立法起到了形塑和牵制的效应。为确保人工智能技术在发展与风险管理之间实现平衡,同时维护美国全球人工智能领导者地位,从奥巴马到特朗普再到拜登政府时期,美国人工智能发展和治理策略体现了延续性和渐进性,旨在保证美国人工智能领域的政策稳定性和可预测性,为产业发展提供清晰方向。这在 2023 年 10 月拜登签署的《关于安全、可靠和可信的人工智能的行政命令》(Executive Order on Safe,Secure,and Trustworthy Artificial Intelligence)中有所体现。作为美国政府负责任创新综合战略的一部分,该行政令以美国总统之前采取的行动为基础,包括促使行业领军企业自愿承诺推动安全、可靠和可信的人工智能发展工作。该行政令包含八个目标:建立人工智能安全的新标准;保护美国民众的隐私;促进公平和公民权利;维护消费者、病患和学生的权益;支持劳动者;促进创新和竞争;提升美国的海外领导力;确保美国政府负责任且有效地使用人工智能。该行政命令体现了美国政府在人工智能治理体系的全面布局,旨在确保美国在人工智能技术领域保持领先地位,同时也要负责任地利用人工智能技术保护美国公民和国家利益。 (二)美国人工智能治理体系框架及特点体现了其顶层设计逻辑,具备动态适应和平衡全局的能力美国人工智能治理体系的内涵与外延,充分反映其在促进技术创新和保护公共利益之间努力寻求平衡。美国人工智能治理体系框架的特点主要体现在六个方面。一是多方参与的治理结构。人工智能治理不是由单一机构负责,而是需要多个联邦机构和政府部门协同工作。这种多方参与的治理结构,有助于更好地从不同角度审视和应对人工智能带来的挑战。二是渐进式的政策发展。美国人工智能治理政策是渐进式的,其发展和完善是一个持续的过程。三是原则性指导与行业自律。美国政府通过发布一系列的原则性指导文件,鼓励行业自愿遵守相关原则并进行自我监管,其中,更加强调安全性、防止算法歧视、保护数据隐私等关键原则,引导人工智能健康发展。四是重视算法歧视和伦理问题。美国充分认识到人工智能系统在决策或服务时可能会产生对某些个体或群体不公平的情况,因此在政策制定时会强调算法公平以及伦理审查的重要性。五是灵活的监管手段。美国更倾向于采取灵活的监管手段,而不是制定严格的法律框架,而且,善于用非强制性的指导原则,帮助企业和专家更好地评估人工智能风险。六是国际合作与领导。美国在人工智能治理方面注重国际合作与领导,支持全球范围安全、可靠地部署和使用人工智能。然而,这一点在全球秩序重构尤其是中美竞争态势下,由于捍卫美国科技霸权的需要正在发生变化。 (三)美国人工智能治理体系的治理目标是确保在人工智能技术发展与风险管理之间实现平衡美国人工智能治理体系的治理目标集中体现在五个方面。一是促进人工智能技术创新发展。不断推动人工智能研究的基础设施建设,促进人工智能技术研发投资,在增强人工智能商业化应用同时,确保人工智能技术的安全性、可靠性,减少潜在负面效应和风险。二是保护美国的公民权利和隐私。美国提出使用人工智能的民主模式,提高人工智能技术使用的公共透明度,建立监督和审计机制,强调尊重隐私、公民自由和公民权利。三是维护美国的全球国际科技秩序。美国通过与盟国建立合作伙伴关系,制定国际技术标准,统一全球数字基础设施和技术体系,合作促进人工智能技术创新,维护美国在全球高科技领域的领导者地位。四是赢得全球高科技人才竞争。美国推行高技术人才的移民战略,不断吸纳全球顶级人才,确保美国在全球高科技行业持续保持竞争力。五是提升应对新兴威胁的能力。美国政府认识到人工智能时代的新兴威胁,但是,在面对恶意信息操作和网络冲突等问题时,在面对战略执行层面是应该防范还是利用威胁时,美国表现出两面性。

三、美国人工智能治理体系的影响

随着全球格局重塑和中美竞合关系变化,美国人工智能治理体系正做出调整应对全球竞争新态势下的挑战和机遇。美国高度警惕中国在人工智能领域的发展,不惜采取一系列制裁措施保护其全球人工智能产业的领先地位,不断通过贸易保护、经济制裁、长臂司法管辖及外交施压等手段,试图将中国限制在人工智能产业链和价值链的低端。

在外交领域,美国会强制要求其盟友把遏制中国人工智能崛起作为优先对华政策。美国人工智能治理体系的影响体现在政治、经济、军事、科技等不同领域。 在政治领域,美国会充分发挥人工智能在认知域作战中的优势,以“技术占领、资本导演、全媒体传播”的组合拳,通过人工智能技术提升信息传播和舆论引导能力,为美国创造更多优势和主动权,以期在国际博弈中赢得更多国际社会支持,更有效地实现其政治和战略目标。特别是美国人工智能技术在国家安全领域的应用,对中国构成严峻威胁。 在经济领域,美国对中国不断实施人工智能领域的高科技出口限制,以各种手段打压中国高科技企业,以此阻碍中国数字经济发展和产业升级。2024 年 3 月 13 日,美国众议院以 352 票对 65 票的压倒性多数通过《保护美国人免受外国对手控制应用程序侵害法》(Protecting Americans from Foreign Adversary Controlled Applications Act)法案,迫使字节跳动剥离 TikTok。可见,美国在高科技和人工智能领域对中国的态度是复杂且多维的,因为这会影响美国全球霸权。 在军事领域,以美国人工智能治理体系为核心的“马赛克战”在俄乌冲突中得到充分实践。“星链”的真相揭露了其背后的“马赛克战”逻辑,因为它是同一个系统的不同子系统。这个体系支撑乌克兰更持久地对抗俄罗斯。在中东战场,哈马斯、伊朗和胡塞武装也学会了以“马赛克战”为核心的混合战新技能,让以色列陷入前所未有的困境的同时,让美国也陷入极大的战略被动。在科技领域,美国为阻碍其他国家人工智能技术发展而实施的舆论诱导,属于认知域作战范畴。如果通过媒体宣传的内容看美国各大科技公司不断推出人工智能技术和产品,就会由于缺乏对美国人工智能治理体系背后逻辑的理解,结果也只能是管中窥豹或瞎子摸象,错把对象国家人工智能发展过程的片段当作整体,掉进美国战略的陷阱,甚至在错误的方向上耗尽人力财力,失去战略机遇。总体而言,尽管存在竞争和对抗,美国和中国在人工智能领域也存在合作的空间,因为两国都是全球人工智能发展的重要参与者。然而,对于中国而言,如何利用已经掌握的人工智能技术赋能科学技术创新,加速推进解决卡脖子技术进程,立足中国的优势找到适合国情的通用人工智能生态建设路径和方法,是亟待解决的重要课题。

(本文刊登于《中国信息安全》杂志2024年第4期)