是算法还是“算计”

法国雅高集团CEO塞巴斯蒂安•巴赞认为,每个人都是数字化的主体,除非是在一个与世隔绝的山洞里生活15年,否则都体会到了它的无处不在。算法是数字时代的重要组成部分,我们也无法与之断绝任何关系。作为主体之一,企业又该如何利用算法呢?

虽然算法带来了肉眼可见的便利,但也存在着藏形匿影的风险。比如,大众沉溺于算法世界无法自拔的现实是毋庸置疑的。这意味着企业应当秉持社会责任,争取市场的同时,避免用户成为算法社会的“囚徒”。

算法处理的是海量信息与用户供需之间的矛盾,它确实提升了筛选资源的效率。但同时,残酷的市场竞争也使注意力经济成为了重点博弈对象。在这场利益大战中,媒体不再注重信息的多样化与平衡性,正如彭兰在《算法社会的“囚徒”》中提到,内容推荐算法主要是参照人们的习惯和相似人群的兴趣。

遵循使用与满足理论,算法是一种投其所好的技术。这一技术为用户所营造的拟态环境,极易产生信息茧房。人们在自己的圈层里接触同样的讯息,视野变得越来越狭窄,甚至可能与真相背道而驰。在算法的投喂中,虽然用户的多巴胺得到加速分泌,但是会置身于一个单调的世界里。

华东师范大学教授刘擎发现,如今的成年人缺乏深刻与缓慢的阅读。因为他们将大量的时间花在短视频等社交媒体上。这导致成年人越来越“童稚化”,茫然若失,难以接受延迟满足,最终也不能满腹经纶。从刘教授的发现中,也可以大胆推断,成年人受到算法的一定束缚。

企业应当明白,传统推荐算法无法满足人们对异质信息的需求,为了避免这种局限,可利用弱关系推荐算法。它旨在推荐多元化的信息,人们不至于像原始部落般对外面的世界知之甚少。所谓的弱关系,就是所推荐的信息是用户很少接触的,并且内容包罗万象。这避免了信息资源的浪费,同时,尽可能让用户不会沦落到知识匮乏的地步。如果算法能将更多优质且深刻的信息优先推荐,人们的素质就能进一步提升,让DT时代远离“数字海洛因”的差评。

1.偏见或歧视

算法世界里,人们被赋予“算法身份”,但这种身份一旦具有被歧视的标签,这就会产生马太效应。个体在算法世界里被筛选,处于优势地位者不断顺流而上,而劣势地位者则很难有翻身之日。算法理性中缺少发展眼光,只是局限于所记录和追踪的个体信息。

YouTube推荐疫苗视频中的算法就存在偏差。YouTube上支持疫苗的视频(64.75%)多于反对疫苗的视频(19.98%),其中持中立态度的视频占15.27%。YouTube更有可能推荐中立和支持疫苗的视频,而不是反对疫苗的视频。YouTube的推荐系统对用户在YouTube上发现的疫苗信息类型就此产生影响。

2.技术赋权

《必须警惕“人工智能万能论”,科技乌托邦不是人类的未来》中提到“算法社会一定是科技精英社会。少数人会成为主宰,而大多数人只能顺从。”绝大多数人仍处在被动之中,被制约在算法权力之下,完全手无缚鸡之力。它被掌握在少数人手中,从而进一步拉大数字鸿沟。

算法精英们可以利用算法引导议程的设置,影响事态的走向。关于新冠病毒的来源,全球都在争论是来自美国实验室还是中国武汉,但这也仅止步于大众的猜想。真相强势地掌握在少数人手中,凌驾于国家利益之上,成为争夺和维护政治利益的武器。这也警示处于数字化转型中的企业,算法是硬核的技术,但不是争取利益的砝码。

3.真相廉价

商业的浪潮汹涌澎湃,而流量成了资本的宠儿。只有不断地博得关注,才能创造更大的市场价值,就如游戏给人带来的刺激,令人热血沸腾。后真相时代,身着隐身衣的算法捣鼓出太多的反转新闻、标题党。而真相就像瞬间揭晓谜底的魔术,无法见证“奇迹”,最终只能沦落到靠边站甚至被埋没。

数字化时代无法舍弃对算法的运用,决策者依靠算法进行产出,如各大排行榜直接影响内容生产的方向;导航系统等技术都需要大量缜密的算法。但是,决策过程中也不能完全依赖算法。算法推荐会导致同质化,进而会不断缺失想象力和创造力。并且算法背后,技术的偏见和歧视以及技术人员的主观因素都有可能导致不理想的决策。

数字化时代,算法的运用必不可少。但算法推荐会给人的认知带来局限,“信息茧房”的存在会导致回音室效应,不利于人的长足发展。算法看似是技术理性,但也存在利益的驱使。另外,算法可能拉大数字鸿沟。因此,数字时代中的企业,更应该反思算法伦理、遵循法律法规,合理地利用算法进行决策。