世界之变、时代之变、历史之变正以前所未有的方式展开。以人工智能、大数据、云计算和生物技术驱动的第四次科学技术革命方兴未艾，新兴技术凭借强大的应用性、融合性和发展潜力，正深刻改变着人类的生存方式、影响着世界未来发展格局。纵观科学技术发展史，世界从未像今天这般日新月异、五彩缤纷。面对科技成果不断趋向“智能”的发展态势，我们是否已经习惯了沉浸在舒适的窠臼中无法自拔，是否应当彻底反思可能面临的技术反噬、机器换人、人类功能退化等威胁？尊重科技发展的内在规律固然重要，遵守科技伦理规范同样不容忽视。人类期待科技向强，更应坚守科技向善。
以技术创新为标志的新一代人工智能为全球发展注入强劲动力。迎来新的发展机遇意味着面临新的风险挑战，当前人工智能的发展与治理问题已引起全球关切，亟待国际社会的共同参与和积极应对。习近平主席在第三届“一带一路”国际合作高峰论坛开幕式上宣布，中国提出《全球人工智能治理倡议》（以下简称《倡议》）。作为负责任的人工智能发展大国，中国将同各国加强交流和对话，共同促进全球人工智能健康有序安全发展，这再次彰显了中国积极参与全球治理的责任担当。
迎接人工智能技术的突破和发展
当前，以人工智能为代表的新兴技术的涌现与应用，不断刷新人类对科学技术的认知。如何看待人工智能技术是审视潜在风险、提出治理对策的认知前提。从科学技术哲学的角度看，人工智能经历了从弱到强再到如今初具“意识属性”的转变。然而，这是一种从硅基生命的机械逻辑到仿碳基生命思维方式的技术性转变。看似等同甚至超越人类的智能表现，它不过是满足了人类对机器存在价值的美好期待，本质上还是技术创新驱动下的一种功能实现。从科技发展与社会的互动关系角度看，科学研究经历了由小科学时代到大科学时代的模式转变，人类从事科学研究的价值观、动力源以及伦理规范在不断改变。
科技应用推动社会发展，社会发展也为科技进步创造了有利条件，两者之间是辩证统一的关系。随着新一代人工智能技术研发的持续深入，在科学研究、医疗保健、交通运输、金融服务、教育培训、制造工业等领域的应用优势愈发显著，发展潜力巨大。研究表明，以ChatGPT为代表的生成式人工智能在技术研发方面已呈现集群创新现象，OpenAI、Google、DeepMind、Meta、Runway、Nvidia等国外研发机构在生成文字、音乐、图像、视频、代码等方面不断强化技术更新，在产品设计、广告制作、故事编写、艺术创作等方面展现出颠覆性的创新能力。人工智能技术的广泛应用趋势几乎不可阻挡，未来还将在深度学习、自然语言处理、边缘计算等方面不断深入。
应对新兴技术的伦理风险与挑战
任何具有颠覆性的新技术都会让人们感到不安，人工智能也不例外。纵观20世纪的全球科技成果转化，由现代技术应用引发的生态环境破坏、灾难性事件甚至严重威胁人类生存的问题从未停歇。一本《寂静的春天》揭示了放任DDT等剧毒杀虫剂大规模使用，最终导致生物链的严重破坏和人类恶性疾病爆发。《人们都叫我动物》讲述了在博帕尔毒气泄漏事件中被毁掉脊椎的孩子，只能像动物一样四肢着地行走。有研究统计，20世纪的百年间，由化学、物理技术应用引发的灾难性事件有315起，平均每年发生3起，现代技术的应用数与灾难性事件的发生数符合指数增长规律，化学技术应用风险的累积过程平均在150年，物理技术应用则更短。历史不断发出警告，有必要对现代技术应用进行准入性评估和风险防范，不能等到百年之后灾难再次降临再回头重新治理。
从总体上看人工智能技术应用，当前的积极正面影响占主要地位，但与伦理之间已经产生了碰撞和张力。在科学研究领域，越界使用人工智能技术的失范行为引发了科学规范和评价体系的异化，不断冲击科研伦理和学术诚信。例如，游离在科学共同体边缘的少数第三方群体从事所谓的“论文投稿、编辑润色、挂名转让”等服务，实则是借助人工智能技术带来的便利杜撰学术论文，更有“论文工厂”利用生成式人工智能技术生成文本、数据、图像，将论文内容格式化、模块化，根据需要任意组装。数据显示，2021年《自然》杂志发文称有1300多篇论文可能来自“论文工厂”；2022年英国剑桥晶体学数据中心发现810篇论文中的近1000个晶体结构数据出自同一家论文工厂；2022年《自然》杂志再度发文称，知名生物医学领域文献检索数据库PubMed被查出有约1%的论文可能出自论文工厂。人工智能技术滥用导致学术论文沦为批量加工制作的产品，如不采取必要的治理措施，可能对当前乃至未来科学技术发展造成难以估量的伤害。而在大数据、智能医疗、数字通信等领域，同样存在由技术滥用引发的侵犯知识产权、泄露个人隐私、电信诈骗等亟待强化治理的问题。
坚持全球协作的科技向善发展导向
人类是相互依存的命运共同体。不难想象，如果放任人工智能技术的滥用行为和过度依赖趋势，人类恐将面临技术反噬、技术主宰甚至技术统治等威胁。塔斯马尼亚效应可能会再度重现，人类陷入由技术建构的无形密闭空间，逐渐失去创新创造的能力，原有的技术也逐渐消失殆尽，甚至连同当下光辉灿烂的人类文明也可能湮灭，人类不得不重新回到最初的进化原点，这样的结果是不可想象也是不应该出现的。
因此，人工智能技术向强发展的同时，应清醒认识到坚持科技向善的重要性和紧迫性。在《倡议》发布之前，全球范围内尚未形成关于人工智能发展和治理的统一规范或意见。《倡议》的发布为促进国际信息交流和技术合作、推动人工智能健康发展、共享人工智能知识成果、开源人工智能技术提供了中国方案。事实上，我国在促进科技事业健康发展过程中始终坚持科技向善，将科技伦理贯穿科学研究、技术开发等科技活动全过程。2019年我国明确提出要发展负责任的人工智能；2023年8月实施的《生成式人工智能服务管理暂行办法》同样写明，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。此次《倡议》再次强调了发展人工智能应坚持伦理先行、坚持“以人为本”理念、坚持“智能向善”的宗旨等11项内容。建立良序运行的治理体系和标准规范，维护和谐健康的发展秩序，推动全球人工智能治理朝着更公正公平的方向迈进，需要国际社会的共同参与。
【作者武大伟系中国科学技术大学科技哲学系博士研究生，西南科技大学马克思主义学院讲师；徐飞系中国科学技术大学科技哲学系教授、博士生导师。本文系国家社会科学基金重点项目（23AZD040）、中国科大新文科基金项目（FSSF-S-220201）阶段性成果】
