在21世纪的科技浪潮中，人工智能（AI）正以前所未有的速度推动着全球经济结构的变革，成为推动经济转型升级、实现高质量发展的新引擎。近年来，我国人工智能技术展现出蓬勃的发展态势，为相关企业带来前所未有的机遇。2024年国家网络安全宣传周期间，来自全国各地专家学者、业界精英、企业代表齐聚南沙围绕网络安全与技术创新，共同探讨AI技术革命中千行百业的万象新生。
俄罗斯工程院外籍院士谢胜利作主题演讲
网络安全技术成为经济增长新引擎
当前各行各业网络化、数字化、智能化转型加速，数据成为关键的新型生产要素。与此同时，人工智能技术的双刃剑效应也不容忽视，数据泄露、隐私侵犯等亟须行业与各方共同应对和解决。
人工智能技术是一把双刃剑，既带来了机遇，也带来风险。俄罗斯工程院外籍院士、粤港澳大湾区人工智能与自动化学会会长，广东工业大学自动化学院教授谢胜利介绍了人工智能在光学检测、智慧医疗、交通出行等方面的落地案例。他认为，人工智能在发展新质生产力方面具有广阔前景。但他也提出，人工智能也存在开发成本高回报周期长，人机协同适应能力不足，数据和资源需求高，数据依赖性等问题亟待解决。不仅如此，人工智能带来的隐私保护、数据安全等问题仍需解决，这些问题阻碍AI技术进一步发展和应用，影响其成为新质生产力的重要引擎。
“人工智能产业必须跟垂直领域深度结合，产生一定通用性的基础模型才有可能发展。”针对如何推动人工智能大模型的发展，谢胜利认为基础模型发展的出路在于向各行各业转移，做各个垂直领域的模型，例如石油行业考虑石油行业的大模型、金融行业考虑金融行业的大模型。同时，将基础模型与其他技术结合，发展新的产业，比如专门做图像、视频、语音等。
中国网络空间安全协会副理事长卢卫也有着类似的观点。他认为，人工智能在网络安全的威胁检测与预防、恶意软件检测、漏洞管理等方面，具备广阔的使用前景，但是人工智能自身也存在诸多缺陷与风险。需要先解决自身存在的问题，实现“我能”后，才能更好赋能网络安全领域。
“AI技术在网络安全防御中发挥着重要的作用。”在卢卫看来，一方面可以通过深度学习和自然语言处理技术大规模分析威胁情报，预测未来可能的网络攻击，另一方面利用AI技术监控网络流量，结合机器学习算法进行异常检测和识别，及时发现异常行为、流量和数据包。此外，可以基于机器学习和自然语言处理技术，自动分析和识别网络攻击，采取相应防御和反击措施，从而显著提高网络安全性。
大模型技术让安全能力边界延伸
面对网络威胁的演变和数据安全的挑战，电信运营商也在不断地提高网络安全水平。“我们加速推进AI大数据、云计算、量子通信等新技术融合创新，推动全行业安全数据要素的流通共享，加速安全大模型的显著释放，为数字安全能力创新新路径。”中国联通广州市分公司总经理杨连成表示，联通加快了安全可靠的算力上网布局，夯实了数字安全的比重，目前已经建成了18个高标准的数据中心，联合国家超算广州中心，打造了广州超算联通分中心，具备了500g的计算控制能力。下一步将加速构建计算、超算与量子计算实现一体的网络，为安全产业发展提供更加高效安全智能的管理服务。
就如何提升网络安全水平杨连成表示，联通加快数字安全技术融合创新，培育安全经济生产力，构建融合云网+海量真实数据的领先优势，为企业核心的安全场景提供智能化解决方案，加速安全服务向自动化智能化转型。此外，加强产业融通产业融合，共创AI+安全的发展新路径。通过行业协会联合使用数据共享、人才交流等方式，助力政府完善 AI的监管框架，引导带动企业高校机构的生态合作，共同探索AI技术在安全领域的应用和创新。
“人工智能技术作为数字经济时代重要的基础设施，已成为推动产业数字化、智能发展和产业升级的重要驱动力。大模型技术作为生成式人工智能重要的技术应用，以及向通用人工智能跃升的关键里程碑，正在推动各行各业的创新和变革。”绿盟科技集团副总裁陈珂认为，人工智能和大数据技术在各个行业有着颠覆性的应用潜力。在他看来，我国当前已经进入到大模型生态快速培育的周期，将逐步完成重点领域、关键场景的技术价值兑现，逐步建立起模型及服务的新型产业生态。
陈珂结合大模型应用案例介绍，在大模型的驱动下，为我们在事件调查、研判、响应处置领域带来更加聚焦、高效、准确的解决方案，比如海量复杂的报警、安全运营人数不足等等，为重塑传统安全问题提供了有力供给。不仅如此，人工智能驱动下的安全能力边界也在快速地进行延伸，例如利用大模型进行数据资产的快速测绘、进行快速的代码审计、建立自然语言的对话模式……
大模型技术能力如此强大，是否无所不能？陈珂坦言，随着越来越多的行业开展广泛的安全大模型的应用，出现了诸如攻击面的增加、攻击门槛降低等问题，进而导致面临全新的安全风险挑战。同时由于大模型存在原生安全问题和自身的不可解释性，其自身安全隐患和风险也是不容忽视的。
数据分级分类为智能网联汽车护航
智能网联汽车作为汽车工业和信息技术深度融合的产物，正在以前所未有的速度改变着我们的生活方式、出行方式。近年来，随着技术的不断进步和应用场景的不断拓展，智能网联汽车的网络安全问题也日益凸显，成为行业内外广泛关注的焦点。
“我国正如火如荼推进‘车路云一体化’试点应用，随着汽车智能化、网联化程度的加深，供应链、数据、自动驾驶等的重点风险更加凸显。”国家工业信息安全发展研究中心检查评估所副所长于盟表示，一方面车辆系统集成了大量传感器、控制器及网络通信模块，使得安全防护变得异常复杂且难以全面覆盖；另一方面，车企需要与供应商共享部分数据以支持产品研发、客户服务及市场运营，从而加剧数据泄露的风险。
“以重要数据识别、分类分级、检测评估等为抓手，构建起高效、全面的数据应对措施，为智能网联汽车的发展保驾护航。”于盟建议，推进智能网联汽车重要数据识别和备案管理，持续开展智能网联汽车数据安全风险评估，建立专项治理长效机制。多方联动，建构智能网联汽车数据全生命周期分类分级治理保障体系。此外，创新研发融合密码技术的主动式防护安全框架，推动实现数据内生安全。
“当今的智能车数字系统无论是复杂度，还是从技术层面的独特性，是不能够完全按照以往的云计算系统或是单点的终端计算系统做类比的。”上海蔚来汽车有限公司副总裁、首席数字安全官卢龙认为，伴随软件定义汽车、智能化和网联化的进步，不可避免引入新的攻击向量，新的安全挑战和风险不断出现；智能车的安全标准和法规也在不断完善，以确保车辆和用户数据的安全。
卢龙建议，汽车制造商应基于安全需求和架构进行设计，持续构建安全、可靠、合规并值得信赖的智能汽车；设置多种防护措施，有效应对各种攻击，保障全链路数据、个人隐私安全。此外，对资源、数据分级分类管理，从访问到储存，严格的安全隔离和权限控制保障数据不被泄漏和非法访问。
文/广州日报新花城记者：叶作林
图/广州日报新花城记者：杨耀烨
