您的位置: 广州日报大洋网首页 > 新闻频道 > 中国 > 正文

算法智能带来麻烦 大数据社会需要考虑算法治理

2019-01-08 17:12 来源:人民日报

大数据社会需要考虑算法治理

算法,曾被描述为一件相当温和的事情——计算过程明确,步骤可控,结果一目了然。近年来,算法通常与大数据结合,通过打分、排序、评级的方式在用户、环境和推荐对象之间建立联系,进行自动化推荐。搜索引擎中的网页呈现,电子商务中的商品推荐,社交网络中“你可能认识的好友”,内容推荐引擎中的新闻推荐等,都是算法应用的丰富场景。

然而,算法的广泛应用也引发一些问题。不久前,英国伯明翰地方警局表示正在研发一套名为“国家数据分析方案”的系统,旨在通过对居民个人数据资料的分析,预测公民的“犯罪指数”,引导警方提前干预。尽管警方一再强调不会仅根据风险指数就进行逮捕,但这个消息还是引发了广泛争议。

由于算法具有技术门槛,很多时候出现问题难以追责,造成伤害无从补偿。如何让数据分析系统自证其算法“公平有效”,这是人们十分关心的问题,也是一道现实难题。2015年,美国芝加哥法院使用的犯罪风险评估算法就被证明对黑人造成了系统性歧视:黑人更有可能被这个系统错误地标记为具有高犯罪风险,从而被法官判处更长的刑期。另外,数百万人由于该算法无法获得保险、贷款和租房等服务,如同被算法“囚禁”。美国皮尤研究中心发布的《公众对计算机算法的态度》报告则显示,58%的受访者认为,算法和其他计算机程序总会包含偏见。

显然,算法的设计、目的、数据使用等都是设计开发者的主观选择,其主观偏见有可能被嵌入算法系统。数据的有效性和准确性,也会影响整个算法决策和预测的准确性。正是由于设计偏向、数据缺陷,再加上无法公开透明的“算法黑箱”,使得算法过滤、算法偏见、算法歧视和算法操控的情况屡屡发生。近几年,全球互联网平台纷纷开发智能推荐系统,大多数都是根据用户使用痕迹进行关联推荐。算法越智能,越能使用户被“安排”进所谓“信息茧房”,即陷入为其量身定制的信息之中。久而久之,用户处于信息“自我禁锢”困境,从而失去了解更大范围事物的机会。其后果,有可能就是导致人们视野日趋偏狭,思想日趋封闭、僵化甚至极化。

大数据背景下,解决算法智能带来的麻烦已是不可回避的课题。越来越多人提出着手研究算法治理的主张,虽然注定是十分艰巨的事情,但也当属值得迈出的一步。

(方师师)

[ 编辑: 李健 ]
分享到:
大洋微信二维码

大洋微信

广报汇微信二维码

广报汇

10:13 广州未来三天降水减弱 气温回升
广州未来三天降水减弱 气温回升
雨水,阳光,阴天,还有升温。昨日,广州的天气变化让人有点摸不着头脑,但趋势还是喜人的,最起码冷空气被赶走了,气温会接着上升,还有就是阳光也回来了。 [详细]
10:16 广州全市车管服务窗口统一办公时间
广州全市车管服务窗口统一办公时间
昨日,记者从市公安交管部门获悉:2019年4月8日起,全市车管服务窗口工作日对外办公时间统一为:9:00~12:00,13:00~17:00。 [详细]
10:59 广州将每月对学校食堂进行飞行检查
广州将每月对学校食堂进行飞行检查
昨日,广州市铁一中学组织开展学校食品安全管理工作现场会,邀请驻穗媒体记者探访学校食堂。据悉,铁一中学食堂专门成立了食品安全部门,并且有专门的“护胃”主任进行食品安全监督。 [详细]
11:10 广州今年将对这些难题进行立法
广州今年将对这些难题进行立法
3月25日,广州市人大常委会向社会发布《广州市人大常委会2019年度立法计划》《广州市人大常委会2019年监督工作计划》《广州市人大常委会2019年讨论决定重大事项工作计划》。 [详细]
14:52 南沙湿地公园入选十佳观鸟胜地
南沙湿地公园入选十佳观鸟胜地
在今年第38届“鸟节”“爱鸟周”系列活动中,广东省林业局宣布,省内10个野外观鸟地获颁首批“广东十佳观鸟胜地”,南沙湿地公园成功入选。 [详细]
14:35 闲置宅基地可拆旧建新发展民宿
闲置宅基地可拆旧建新发展民宿
市规划和自然资源局、市农业农村局近日印发了《贯彻落实市委市政府工作部署实施乡村振兴战略若干规划用地政策措施(试行)的通知》。 [详细]
17:45 白云山将有重大变化!主门增至6个
白云山将有重大变化!主门增至6个
广州市民喜爱到白云山登高望远,目前进入白云山的人流集中从南门门岗进入,此处坡道平缓,攀登难度小,然而每逢高峰期愈显拥挤。 [详细]
回到首页