算法：挑战与治理

原标题：

算法：挑战与治理

在人工智能迅速发展的今天，算法已成为我们生活和工作中不可或缺的一部分。无论是社交媒体上的个性化推送、电商平台的商品推荐，还是智能家居、自动驾驶等“智慧场景”，算法无处不在，为我们的思考和决策提供着隐形的助力，在极大提升效率的同时，也带来了挑战。

算法的内涵及演变

算法是用于解决问题的一系列明确指令，使得复杂的问题可通过计算方法得到解决。目前，人工智能算法主要是指能够从数据中进行归纳总结、学习规律，进而进行预测或决策的一类算法。

数据、算法、算力是人工智能的三大支柱，是围成人工智能智力水平水桶的三块木板。形象一点来说，如果将人工智能的发展看作一个人的智力成长，数据、算法和算力三者可分别对应书本、学习方法和学习时长，只有书本质量高数量足、学习方法得当、学习时间充分，才能获得更高的智力水平。算法是人工智能研究的主要部分，其设计目的就是教会机器如何学习。

无论你是否了解，算法现已融入生活的方方面面。例如，短视频平台利用算法，通过分析你的历史行为推荐可能感兴趣的内容，金融机构利用算法进行风险评估和信贷评分，自动驾驶汽车则依赖算法处理和分析路况信息，以及刷脸打卡、刷脸支付、拍照识物、自动翻译、地图导航……在这些习以为常的生活场景中，从信息获取到加工再到应用，涉及算法的任务数不胜数。可以说，算法正在重塑我们对世界的理解方式。

人工智能概念自1956年被提出以来，经历了多次重大演化。2015年以来，人工智能研究向以神经网络为核心的深度学习方向飞速发展，支撑了目前的大部分智能应用场景。2022年以来，以OpenAI发布ChatGPT为标志，人工智能进入大模型时代，这其中的关键是通过算法设计，能够高效利用海量的无标注数据，通过大模型、大算力实现一定程度的通用智能。目前，算法技术正处于一个快速发展的阶段。在国际比较中，中国的算法研究和应用正在迅速发展，并在某些领域与国际水平保持同步或领先。但是在大模型时代，由于国内芯片技术受限，算力可能会成为目前国内算法发展的瓶颈。

算法的价值远超简单的技术进步，它为我们提供了理解和处理信息的全新视角，从而改善决策过程。在医疗领域，算法能够通过分析患者的历史数据来预测疾病风险，为医生提供治疗建议；在制造业中，算法通过优化生产流程，提升效率和质量，从而降低成本并提高产量；在金融领域，算法不仅用于信贷评分，还能在股市交易中进行模式识别，帮助投资者作出更明智的决策；在社会治理、科学研究、安全等领域算法都展现出巨大的应用潜力。未来，人工智能将是大国竞争的重要领域，随着技术的发展，我们将看到越来越多的国家投资于人工智能技术，以期在全球范围内获得竞争优势。这不仅仅是一场技术竞赛，更是关乎经济、政治和社会未来走向的战略布局。因此，算法的发展、应用与治理，在科技竞争愈发激烈的今天，显得愈发重要。

算法的挑战与治理

尽管算法为我们带来了许多便利，但也造成了一定的社会问题。信息茧房效应就是典型例子。正如前面所提到，短视频、新闻平台会根据用户的观看历史推荐用户可能感兴趣的内容，这在方便用户获取信息的同时，也降低了用户主动进行信息搜寻、寻找新视角的欲望。用户不断观看这些推荐内容，又刺激算法继续推荐相似内容。以此循环往复，最终使用户观看的都是同质化的内容、类似的观点，无形中剥夺了用户了解更广阔世界的机会，导致个人偏见的放大，个人被束缚在自己的信息茧房里，难以全面地认识外部世界。在宏观层面，信息茧房会降低人与人间的同理心和认同感，加剧社会的分裂。再如“大数据杀熟”，根据用户的购物历史，算法知道用户能承受更高的价格，可能会提供歧视性定价。在旅游、网约车等领域，近年来都曾有过“大数据杀熟”的相关报告。此外，国外有研究发现，由真实数据训练的算法可能存在种族偏见和不公，包括对不同种族不同的犯罪倾向预测，对不同种族不同的人脸识别精度等。这类问题目前在国内的研究尚不充分，但已经引起相关部门的重视。

面对算法可能带来的风险，我们既不能因噎废食，也不能视而不见。大众、算法提供方和政府三方面应该共同努力，形成应对算法挑战的合力。对于大众而言，需要了解基本的算法理念，明确自己的需求以及与算法的关系，合理利用算法为自己服务。对于算法提供方而言，需要从更长远的角度出发，提高社会责任感，将具有社会责任感的算法作为企业更高层次的价值理念。对于政府而言，需要建立相应的伦理指导原则和法律法规，要求企业加强算法的透明度，明确设立监管红线，并制定安全测试方法，以保证市场的有序发展。当然，目前的监管制度难以完全管控算法技术快速迭代的特点，因此如何合理制定算法监管规范，使之既不滞后于技术发展又能确保公众利益，是摆在监管部门面前的新课题。目前，我国已出台《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》等法规加强对算法的监管，日后，还需根据技术发展的新形势，不断调整完善监管方式方法。

总之，展望未来，我们有理由相信，算法必将为世界带来更多惊喜。与此同时，只有树立算法伦理与价值导向，让其在合理、公平的轨道上健康发展，算法才能真正造福人类社会。这需要政府、企业与公众的共同努力。

（曹逸轩，作者系中国科学院计算技术研究所副研究员）

来源：大众日报