算法黑箱：揭秘背后的神秘力量

（图片来源：pixabay）

有段时间我常常反思，是不是我“村味”太重了，怎么短视频平台老给我推送农村大妈传闲话的视频，要么是儿媳妇吐槽婆婆又凶又抠，要么是婆婆讲究儿媳妇又懒又馋。后来我才想明白，这都是算法的套路，因为这些家庭矛盾最能挑动普通人的情绪，而愤怒、躁动的情绪则是流量的不竭源泉。

那些短视频博主也深谙此理，所以网上到处都是以“又有大事啦！”“家人们那，笑不活了”开头的视频，让人看一会就觉得心跳加速。本来我拿起手机是为了放松下心情就睡觉的，结果再放下已经是半夜了。

算法无疑是更强大的生产力，它有一双洞察一切的眼睛，和驱动一切的大手，有时候它比你自己还了解你。但正如倚天剑也是双刃剑，张三丰用和灭绝师太用，效果完全不一样。

在大大提高效率的同时，算法也会“窥视”你的消费规律，然后偷偷加价，用大数据“杀熟”。它洞悉人性的弱点，知道哪些内容会让人沉迷，通过消耗你的时间，把你的注意力变现为它的商业价值。当它把提高效率作为第一目标时，外卖员只能在人群和红绿灯之中穿梭，以求能赶上被压缩得越来越短的配送时间。

这些被诟病已久的问题，已经被盯上了。近日，中央网信办等四部门联合发布《关于开展“清朗・网络平台算法典型问题治理”专项行动的通知》，营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”等典型问题，都在整治之列。

其实琢磨人性的软肋，以获得更多利益，或者挖空心思逼员工提高效率，这是人类社会自古至今都有的现象。但在算法诞生以前，这还只是个体与个体之间的智力博弈，一个商家水平再高，也不可能把全天下人都算计进去。

但有了大数据和算法之后，一切都不一样了，人工智能的计算水平有了指数级的提高，它几乎可以全方位地计算人们的所有行为。借助商业的力量，算法全面渗透进社会的各个角落，普通人甚至根本无从觉察自己正在被算法所操控，这是非常值得警惕的。但算法发展到一定程度之后，仅靠个体的警惕去“反算法”其实已无可能，必须由主管部门从外部对其进行监管。

这次专项行动中很重要的一点，就是要求平台公示算法原理。比如，热搜榜单要能说明新闻事件上热搜是基于哪些数据指标，以杜绝“买热搜”和“炒热搜”。快递外卖平台应该公开配速时间预估、路线规划等算法规则，防止不合理压缩配送时间，让快递小哥更从容的工作。购票购物平台，则应清晰说明新人享受了哪些优惠，老客户为什么没有，杜绝“杀熟”。

平台还应适时总结算法是否产生了负面作用，并定期对算法模型开展安全评估，配合有关部门的监督检查工作。算法今后在社会运转中的作用只会越来越大，这一点无可拂逆，而越是深度影响社会的“利器”，越应该置于众人目光审视之下，不能成为一个谁也摸不清的“黑箱”。

说到底，算法终究只是技术，技术是中立的，它发挥何种作用，全在于操作技术的人。因此，算法问题治理的落脚点，还在于操作算法的网络平台本身。这些“大厂”日常都很注重打造承担社会责任的形象，捐款捐物当然是一方面，但企业的社会责任，更应该体现在它所经营的业务为社会带来整体进步、让更多人的生活变美好，以及自始至终贯彻正向价值观上面。要做到这一点，关键是在追求技术进步的同时，永远不要忘记技术一定要“向上向善”。

社会并不是一台巨型计算机，人也不是生产数据的载体，无论技术如何发展，始终不能让技术“异化”人，否则就会遭到反噬。对于这一点，手握算法这一利器的人们，应该深思之，慎用之。

（文/于永杰）

欢迎下载“北京青年报”客户端