“为何同款打车软件同样的路线，朋友跟我一起查询时不同？”“只要一段时间常常浏览某个内容的短视频，平台就一直给我推。”随着我们的工作和生活越来越离不开互联网，平台算法为大家带来便利的同时，也带来了不少“陷阱”。
日前，中央网络安全和信息化委员会办公室秘书局、工业和信息化部办公厅等四部门决定开展“清朗·网络平台算法典型问题治理”专项行动，重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、利用算法实施大数据“杀熟”等重点问题，进一步提升算法安全能力。专家表示，在大模型技术高速发展下，网络平台算法典型问题治理尤为重要。在治理过程中，如何平衡创新与监管之间的关系也是一大挑战，并建议构建多层次的防护体系防止算法滥用。
现象调查
大数据“杀熟”、“信息茧房”频现
预订酒店“黄金会员比普通会员贵”；打车软件“钻石会员”价格高于新会员；三个账号购买同一趟航班同一舱位，价格最多相差900多元……中消协发布的“2024年上半年消费维权舆情热点”显示，今年以来，大数据“杀熟”遭消费者质疑的事件仍屡屡引发热议。其中，一些平台通常以“时间不同、地点差异导致价格浮动”“新用户有优惠”等理由，为其行为开脱。消费者认为，平台只是想凭借其信息优势地位在大数据“杀熟”问题上“蒙混过关”。第三方投诉机构黑猫平台最新数据显示，与大数据“杀熟”关键词有关的投诉就达到了8000多条。
记者调查发现，除了商品价格“杀熟”，还包括了消费过程中的“隐性”环节。有消费者称，通过外卖平台在同一店铺购买同一货品配送至相同的地址，不同账户下单的配送费不同；消费者表示，成为电商平台的付费会员后，反而优惠券领不到了，而一般用户都能领取到该优惠券等。
当我们使用社交媒体网站时，我们会看到网站推荐的“你可能认识的人”；当我们使用短视频APP时，我们会看到首页上充斥着与你曾点过赞的视频相似的推送内容……平台通过“更懂你”的个性化推荐技术的算法机制，让网友们不知不觉地陷入“信息茧房”。
除了视频、新闻等同质化内容推送造成“信息茧房”外，榜单操控也是常见的平台算法“陷阱”。“现在APP的热搜榜单都是‘千人千面’的。”资深网友小白告诉记者，现在每个平台都有自己的热搜榜单，“你的热搜榜，跟别人不一样。比如你经常看某个明星，或关注某些领域热点，关于这个明星，该领域的事件热搜就会加倍地推送给你。”
背后原因
制造“信息茧房”成平台快速达成多项指标的重要手段
“大数据‘杀熟’屡禁不止的原因在于企业背后的利益驱动。”网经社电子商务研究中心数字生活分析师陈礼腾接受采访时表示，滥用消费者个人信息，进而对消费者进行区别对待，侵犯了消费者的知情权、选择权和公平交易权。从市场层面来看，大数据“杀熟”不仅破坏了市场的公平竞争环境，还严重损害了消费者对电商平台和商家的信任度。
在陈礼腾看来，大数据是一把“双刃剑”。数字化时代，数据是企业重要的资产之一。合理运用数据可以为企业提供决策支持、优化运营并进行业务创新等。若通过大数据进行违规操作，基于老顾客对于平台的信任以及忠诚而对其进行区别对待，一旦曝光，面临的将是大批用户的流失、信任度的降低以及平台形象的崩塌。
另一方面，在互联网存量竞争时代，通过算法让用户落入“信息茧房”，是平台高效达成目标的重要手段之一，视频的完播率、商品的复购率、用户黏性、在线时长等这些都是各家平台要完成的指标，如何能让用户在有限的在线时间内尽可能停留？击中用户的兴趣点就很重要。业内人士举例，推荐算法包括多种类型，比如基于内容的推荐算法，其本质就是“投其所好”，从而增加平台访问次数、延长停留时间，提升用户黏度。
然而，就在一次次“投其所好”的信息内容投喂下，消费者容易被分门别类地束缚在“数字牢笼”，成为一些平台的“囊中之物”。
华中师范大学信息管理学院副院长翟姗姗表示，在“信息茧房”效应下，信息的传播则具有同质化、固定化、封闭化的特点，大大降低了人们的思考能力，导致受众的思想趋于简单，个体视野愈加狭隘，知识面萎缩，认知固化，信息结构失衡。
平台动向
平台调整推送算法：每次推荐都会增加一条随机内容
在翟姗姗看来，算法推送不能仅停留在利用大数据技术获取海量的信息，更应找到优质的原创内容和富有价值的新闻，推送给受众。同时，如何突破用户“信息茧房”的钥匙落在了对信息内容的把关和审核上。
在相关部门进行的多轮治理，以及政策规范下，近期，部分平台也开始调整算法，对社区内容进行整治。
据了解，从2022年起，我国《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关政策陆续实施，均涉及算法的详细治理规则。今年9月1日起实施的《网络反不正当竞争暂行规定》明确，经营者不得利用互联网、大数据、算法等技术手段，通过影响用户选择或者其他方式，实施流量劫持、干扰、恶意不兼容等行为。
专家观点
应对监管难 须不断提升技术能力
天使投资人、资深人工智能专家郭涛表示，在当前大模型技术快速发展的背景下，网络平台算法典型问题的治理显得尤为重要。这不仅关乎数据安全和隐私保护，也涉及公平交易和市场竞争的公正性。与以往相比，此次专项行动更加注重从技术和制度层面解决长期存在的问题，如大数据“杀熟”等，通过加强监管和技术手段的应用，实现对算法滥用的有效遏制。
“该专项行动落地还需解决一些问题。”中关村物联网产业联盟副秘书长袁帅直言，一方面，算法技术的复杂性和隐蔽性使得监管和治理的难度较大。另一方面，一些平台为了追求商业利益，可能会采取不正当的手段来利用算法。因此，要想让专项行动真正落地，需要政府、企业和用户等多方面的共同努力，形成合力来推动治理工作的深入开展。
因此，郭涛表示，首先需要解决的是监管难度大的问题。由于算法复杂且迭代速度快，监管部门需要不断提升技术能力，以便及时发现并处理问题。其次，如何平衡创新与监管之间的关系也是一个挑战。最后，提高公众的科技素养和对算法的理解，有助于形成良好的社会监督氛围。
防止算法滥用问题要从多层面下手
天使投资人、资深人工智能专家郭涛：
防止算法滥用需要构建一个多层次的防护体系。首先，应加强算法透明度，让用户了解算法决策的逻辑和依据；其次，建立健全算法伦理审查机制，确保算法设计和应用符合社会公德和法律法规；再次，利用技术手段如差分隐私、联邦学习等，减少数据泄露风险，同时提升算法的公平性和准确性。此外，还应鼓励开发更多具有正向激励作用的算法，促进健康竞争和创新发展。
中国企业资本联盟副理事长柏文喜：
防止算法滥用问题的出现需要从算法设计、实施和监管三个层面入手。在设计层面，需要确保算法的公平性和透明性，避免利用算法进行垄断和不正当竞争行为。在实施层面，需要优化算法的可解释性，让用户能够理解算法的基本原理和运行机制。在监管层面，需要建立健全算法安全管理制度和技术措施，定期审核和评估算法机制，确保算法的合规性。同时，平台需要提供关闭算法推荐服务的选项，让用户能够自主选择兴趣领域。
文、表/广州日报全媒体记者 文静、张露、邓莉
