来源：解放日报
作者：邓弘林
日期：2024-12-24
■邓弘林
算法正在改变人们的生活方式和工作模式，“困在算法里”现象及其所带来的治理挑战也日益引发关注。如何在促进技术创新与有效监管之间找到平衡，成为一个值得深入探讨的重要课题。
主要挑战——
如技术发展与监管进度的滞后。当下，大多数互联网平台使用的算法是闭源的，决策过程“黑箱化”。这种不透明性使得监管部门难以及时识别和应对算法带来的潜在风险。
同时，算法的迅速迭代和自主学习能力使得创新速度远远超出现有监管手段和法律法规的更新速度，许多新兴技术形态和风险尚未纳入监管范围。如何建立一个与时俱进的监管体系，是一个有待解决的问题。
如平台责任与商业利益的失衡。许多平台在设计算法时，往往主要关注提高流量和用户黏性。这种以商业利益为导向的优化方式，难免会导致社会责任的丧失与伦理规范的疏忽。特别是，商业驱动可能导致算法在优化过程中产生一些社会风险，如歧视、偏见或误导消费者等。
社交媒体平台的推荐算法还可能加剧信息的极化，形成“回音室效应”，使得用户主要接触到与自己观点相符的信息，从而影响社会舆论的多样性。这种现象不仅削弱了公众对多元观点的接触，也可能进一步加深不同群体之间的误解与对立。
政策建议——
如提高算法透明度与可解释性。相关法规应要求算法开发者明确设计原理、数据来源和训练过程，确保用户能够理解算法推荐的依据和决策逻辑，并降低算法带来的隐私泄露和误导风险。
如实施渐进式监管与多场景评估。过度干预或过早设立过于严格的限制，可能会束缚创新。可采用渐进式的分阶段监管模式，根据技术发展进度施加适度的监管。对已经广泛应用、影响深远的技术，加大监管力度；对初创阶段的技术，允许一定的实验和创新空间，但需设定基本的底线要求。
还应看到，算法在不同领域和应用场景下所面临的风险和挑战有所不同，监管框架需具有灵活性和差异化设计。比如，在金融、医疗等高度敏感的行业，算法应用的监管应更加严格，重点关注算法的透明性、可解释性、数据隐私保护以及避免歧视和偏见等问题；对娱乐或社交平台的推荐算法，监管重点则可放在防止信息误导以及防范过度依赖算法等方面。
（作者为同济大学经济与管理学院副教授）
