习近平主席在第三届“一带一路”国际合作高峰论坛开幕式发表主旨演讲时，宣布中国提出《全球人工智能治理倡议》（以下简称《倡议》）。《倡议》围绕人工智能发展、安全和治理三个方面系统阐述人工智能治理的中国方案，充分彰显人类命运共同体理念，契合各国发展人工智能的现实需要，引领推动人工智能健康、安全、有序发展。《倡议》吸收各国现代化进程和工业革命的经验教训，以自立自强的科技伦理筑牢人工智能治理的战略支撑。
发展态势：
以科技创新驱动社会变革
人工智能展现了其大幅提升人类生产力的潜能。一般认为，第一次工业革命大概持续80多年（自18世纪60年代至19世纪30年代），以蒸汽机为代表的机器系统取代人的体力劳动。机器生产在不到一百年中所创造的生产力，比过去一切世代创造的全部生产力还要多，还要大。从目前来看，人工智能在技术层面实现的突破使其初步具备掀起新一轮工业革命的条件，有望以智能机器生产全面替代手工生产或传统机器生产。
一方面，人工智能具备执行人类部分智能行为的能力。2006年，有“人工智能教父”之称的杰弗里・辛顿（Geoffrey Hinton）与科学家杨立昆（Yann LeCun）、约书亚·本吉奥（Yoshua Bengio）一道发明深度学习算法，奠定了新一代人工智能的技术基础。2012年10月，辛顿团队基于深度学习技术的AlexNet算法在ImageNet大型视觉识别挑战（ImageNet Large Scale Visual Recognition Challenge, ILSVRC）比赛中取得进展，将图像识别的错误率从原来的25.7%降到16.4%。当基于深度学习技术的机器学习算法的错误率低于人类的错误率时，机器学习算法开始大规模进入商业应用领域，在视觉、听觉、语言、文字等方面大放异彩，开辟出安防、金融、医疗和教育等新应用场景，商业领域的人工智能“机器换人”新浪潮涌现。
另一方面，人工智能具备工业革命“蒸汽机”的功能，在提高生产效率方面出现革命性的突破。2023年7月，《科学》期刊发表的《生成式人工智能对生产力影响的实验证据》（Experimental evidence on the productivity effects of generative artificial intelligence）一文显示，453名受过大学教育的专业人士被分配职业特定和激励性的写作任务（均为职业中存在的真实任务），其中一半的参与者被要求学习、使用ChatGPT。实验结果表明，以ChatGPT作为辅助后，完成任务的平均花费时间减少40%，输出质量提高18%。实验证明，ChatGPT极大地提高了生产率。
反思安全：
工业革命带来颠覆性影响
从历史视角考察，当前人工智能推动的第四次工业革命就像是18世纪以机器生产为标志的第一次工业革命的“智能版”。近两百年前，由工作机、传动机、动力机组成的机器体系解放了人的双手。第一次工业革命以技术革新为基础，对商品生产的组织形式进行制度化重构，建立了现代意义上的工厂制度，带来生产关系和社会结构的重大变化。在短短几十年内，英国实现了从传统的农业国向现代化工业强国的飞跃，被冠以“世界工厂”的称号。由机器变革引发的第一次工业革命，还是一场具有世界历史意义的社会革命。一方面，英国工人阶级的历史从蒸汽机和棉花加工机的发明开始，它与资产阶级的对立冲突推动近代社会的深刻变革；另一方面，工业革命引发工业化和全球化浪潮，新老工业化强国的恶性竞争改变世界格局，甚至引发世界大战。总的来说，机器工业的发明推动了产业革命，同时又引起彻底的社会变革，其负面效应则表现为引发了人类历史上从未有过的安全挑战，轻则导致规模性失业和贫富差距悬殊，重则加剧社会群体分化和冲突。
当前，人工智能技术爆发性发展所蕴含的安全风险已经引发社会的广泛关注。首先是失业问题。在ChatGPT最初闯入人类社会时，探讨新一波失业浪潮来临的声音尤为响亮。人们发现，不仅人类的体力劳动被取代，人类的智力劳动甚至某些创造性工作都面临着生成式人工智能的挑战。许多需要人类经年累月才能训练出来的技能，如创作诗词书画，一下子被大模型取代，不仅在质量上与人类相当，还在速度上远超人类。这可能带来比第一次工业革命更为突出的社会失业现象。
其次是发展鸿沟的隐患。一方面，当前智能算法技术本身针对不同或特定的民族、信仰、国别、性别等特征，存在歧视性的弊端。另一方面，智能技术的研发和使用同样出现向精英人群和发达国家倾斜的趋势。由此导致不同群体和国家之间出现“智能时代的发展鸿沟”，在科技和产业发展方面产生“代差”风险。如果不加以有效遏制，世界范围内的社会群体分化将表现为更难弥合、更彻底的分裂格局。
最后是发生冲突的风险。一种担忧是人工智能可能发展出自主意识，另一种担忧是人工智能将被少数人掌控。无论哪一种，人工智能都可能成为奴役人的存在。第一次工业革命期间，机器的异化造成了机器驱使工人过度劳作的现象，工人甚至沦为机器的一部分，底层人群成为整个工业社会发展的牺牲品。第四次工业革命方兴未艾，但人工智能已经展示出加剧军事冲突烈度的能力，人工智能赋能的武器系统使人类发动的战争更具毁灭性，甚至可能使武器系统产生自主性，并在没有人为干预的情况下对所选择目标给予武力打击。
人工智能治理：
把好科技伦理“方向盘”
人工智能展现出提升和促进人类福祉、和平与繁荣的极大潜能。同时，围绕此类技术的使用是否合乎道德规范这一问题，产生了愈发热烈的讨论。尤其在人权保护、恶意使用人工智能设计生物武器或进行网络攻击、人工智能的军事应用等方面，存在诸多全球性风险。为解决和应对各种风险挑战，世界上各主权国家、国际组织、技术社群和非政府组织等不断推出关于人工智能伦理和治理的准则。总体来看，其中的核心意识形态来自西方式现代化的宗教文化传统。例如，广为流传的“以人为本”伦理准则，即“西方中心论”思想在人工智能领域的映射，表达了“以人类为中心”和“人权优先”的意图。
《倡议》明确表达了在中国式现代化语境下对人工智能伦理和治理的理解。《倡议》以发展和安全并重为原则，明确提出人工智能发展应坚持“以人为本”的理念和“智能向善”的宗旨，强调以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，遵守适用的国际法，符合和平、发展、公平、正义、民主、自由的全人类共同价值。其中，“以人为本”与“尊重他国主权”的组合理念，一方面凸显人工智能技术造福于人类的伦理价值取向；另一方面强调应当严格遵守他国法律，接受他国法律管辖，反对科技霸权霸凌行径，特别指出增强发展中国家在人工智能全球治理中的代表性和发言权。伦理先行与健全法律规章制度的组合理念，一方面有助于明确人工智能相关主体的责任和权力边界，及时回应国内和国际相关伦理关切；另一方面聚焦人工智能研发和应用中的个人隐私与数据安全保障，遏制人工智能技术的非法使用。
《倡议》坚持创新居于现代化建设全局核心地位的理念，包含三层含义。首先，在第四次工业革命中，人工智能创新是引领社会发展的第一动力，重构社会组织架构、重塑世界竞争格局、改变国家力量对比。其次，人工智能科技自立自强是国家发展的战略支撑。否则，科技霸凌将利用人工智能技术优势干涉他国内政、社会制度及社会秩序，危害他国主权。最后，科技伦理自立自强是人工智能全球治理的新战略支撑。只有加强科技伦理治理，实现高水平科技自立自强，中国才能以落实《倡议》为契机，同各方就人工智能的全球治理开展沟通交流、务实合作，确保人工智能始终朝着人类文明进步的方向发展。
加快实施创新驱动发展战略关系着我国能否抓住赶超跨越的历史机遇。《倡议》的提出为我国在科技发展领域赢得主动权，为人类文明进步作出更大贡献奠定了基础。《倡议》不仅关注人类与技术的关系，而且注重人类社会群体关系的协调，实际上是主张以全人类之力应对技术带来的风险挑战，进而推动智能技术造福人类。《倡议》的思想可以追溯到马克思主义关于19世纪科学技术与社会（STS）的反思：在欧洲工业化背景下，通过研究企业（工场/工厂）内部生产领域中的技术创新活动及社会层面与之相适应的制度创新，反思技术进步与制度变革之间的相互作用和影响，从而展望了社会发展的趋势和前景。从中国发出《全球人工智能治理倡议》到28个国家及欧盟共同签署《布莱奇利宣言》，充分展现了马克思主义哲学在全球人工智能治理中所起到的作用。在这片新领域，聚焦点从传统的“人与人”关系扩展到人工智能时代的“人与机”关系。
（作者潘恩荣 卢紫梦，分别系浙江大学马克思主义理论创新与传播研究中心教授、博士生导师，和该校马克思主义学院硕士研究生）
