摘 要:算法推荐深刻嵌入社会生活并改变舆论传播生态，也带来了社会舆论的安全风险。算法推荐存在引发社会舆论传播安全风险、导向安全风险、管控安全风险以及阵地安全风险。本文认为 ：以互联网信息生态视角进行整体观照，应从信息环境、信息、信息技术、信息人四个要素出发进行生态治理，规制算法推荐带来的社会舆论安全风险，促进社会舆论的安全运转。
关键词: 算法推荐 ；舆论传播 ；舆论导向 ；生态治理
☆ 主要内容 ☆
一、算法推荐影响社会舆论安全风险的体现
（一）算法推荐加重舆论信息污染，引发社会舆论传播安全风险
（二）算法推荐消解主流舆论引导，引发社会舆论导向安全风险
（三）算法推荐扰乱舆论发展秩序，引发社会舆论管控安全风险
（四）算法推荐暗箱操控舆论运行，引发社会舆论阵地安全风险
二、算法推荐影响社会舆论安全风险的成因
（一）算法推荐技术存在局限，推送信息难以满足社会舆论传播要求
（二）算法推荐偏向工具理性，利益倾向难以承载社会舆论导向价值
（三）算法推荐重构舆论传播机制，难以应对社会舆论生态变革
（四）算法推荐隐含权力实质，商业资本合谋算法把控社会舆论场域
三、算法推荐影响社会舆论安全风险的生态治理
（一）信息要素 ：结合人机双重把关，增加主流多样信息
（二）信息人要素 ：增强算法可解释性，提升受众算法素养
（三）信息技术要素 ：完善优化算法推荐技术，加强技术责任伦理
（四）信息环境要素 ：搭建全程监管机制，构建完善法规体系
算法推荐深刻嵌入并主导了包括社会舆论在内的信息传播系统，直接推动了社会舆论运行与社会舆论生态的变革。在这一过程中，算法推荐给社会舆论的有序开展、网络空间的健康运行和社会秩序的稳定也带来部分安全风险。目前，学术界对于算法推荐的社会影响已有一定的认识，但对算法推荐影响社会舆论安全的研究较为缺乏。本文在揭示算法推荐影响社会舆论并带来安全风险机理的基础上，从互联网信息生态的角度，提出算法推荐生态治理以减少算法推荐对社会舆论带来的安全风险。
一、算法推荐影响社会舆论安全风险的体现
（一）算法推荐加重舆论信息污染，引发社会舆论传播安全风险
信息传播有序是社会舆论安全的基本前提，而算法推荐造成舆论信息传播失衡，加重舆论信息污染，使得舆论信息的全面性、正面性、规范性无法得到保证，引发社会舆论传播安全风险。在信息传播全面性方面，算法推荐强化了舆论信息推送的选择性与有限性，偏好兴趣至上的推送逻辑和同质相似的推送内容将用户桎梏在信息茧房之中，公共性信息和多样化信息的传播空间缩窄，主流舆论信息无法有效覆盖全部受众，导致舆论信息传播结构失衡。在信息传播正面性与规范性方面，算法推荐改变了媒体基于公共事务和社会整体信息动态的传播范式，以商业价值和个人偏好为推送逻辑而非信息品质和公共价值，其智能化程度对于信息质量的审查、事实真实性核实、内容深层语境识别等方面的识别能力也尚不足以支撑新闻价值的判断与把握。因此，算法推荐导致社会舆论信息整体呈现出立足于感官刺激与感性需求的泛娱乐化特征，挤压了主流新闻、正面信息、严肃议题的传播空间。
（二）算法推荐消解主流舆论引导，引发社会舆论导向安全风险
算法推荐一定程度上消解主流舆论引导，弱化主流舆论价值，加剧社会舆论意见分裂，使得社会舆论凝聚共识、增进认同、维护主流价值体系的导向作用逐渐减弱，从而引发社会舆论导向安全风险。算法推荐在相当程度上弱化了主流媒体的传播地位，主导了人工智能时代社会舆论传播全程的信息采集、生产、分发、互动等流程，主流媒体陷入传播渠道失灵的困局。算法推荐已经广泛地嵌入各种信息传播渠道与平台，精准链接受众并潜移默化地影响受众的价值导向。算法推荐注重数据分析和偏好需求，内容审查偏向后置技术性把关，忽视主流价值观的重要性和引导作用，导致受众容易被非主流价值观所误导，丧失对主流价值体系的认同和维护，社会主流舆论生态不断受到侵蚀，社会舆论价值导向失序。
（三）算法推荐扰乱舆论发展秩序，引发社会舆论管控安全风险
算法推荐加强舆论不确定性，扰乱社会舆论发展进程，使得社会舆论偏离正常的发展轨道，社会舆论管理难度增加，引发社会舆论管控安全风险。在时机层面，算法推荐进一步突破了舆论信息传播的时空限制，能够快速推送或更新舆论热点信息，主动设置舆论议题，主导舆论焦点，对社会舆论监测和预警提出了新的要求。在规模层面，算法推荐通过联动互联网平台与协同推送进行全网传播，快速聚合互联网用户群体，提升舆论意见规模，易于引发规模大、范围广、强度高的舆论风暴。在内容方面，算法推荐大量推送带有情绪化、碎片化、模糊性特征的信息内容，导致舆论向多元化发酵而更加复杂化。算法推荐在社会舆论时机、规模、内容等层面的负面影响都加重了社会舆论议题产生、舆论形成、舆论爆发和舆论消退等阶段的复杂性与混乱性，提高了社会舆论监测、预警、回应、研判的难度。
（四）算法推荐暗箱操控舆论运行，引发社会舆论阵地安全风险
掌控舆论阵地是社会舆论安全的根本底线，社会舆论的主导权必须牢牢掌握在党和人民手中，而算法推荐则潜在控制舆论信息流动，暗箱操控舆论运行，使得社会舆论隐蔽陷入商业利益与资本私权的操控之中，加剧社会舆论阵地安全风险。算法推荐在一定程度上掌控着社会舆论信息流动，以流量造假、自动发布、信息排序、控制热搜等“暗箱”手段隐蔽控制舆论信息传播的内容、数量、平台、曝光度等，通过对特定信息内容的凸显和遮蔽以潜在操纵社会舆论的关注议题、舆论焦点、讨论风向甚至是舆论相关现实行为。在社会舆论汇聚、爆发、转向、平息等不同阶段，算法推荐都展现出强大的信息控制、影响和动员的力量。并且这些对社会舆论的支配与控制都是在表面中立、技术黑箱、隐形控制的基础之上实施的，更加难以得到注意、警觉与管理。
二、算法推荐影响社会舆论安全风险的成因
（一）算法推荐技术存在局限，推送信息难以满足社会舆论传播要求
算法推荐无法满足社会舆论传播对信息多样性、信息品质、信息价值的要求。首先，算法推荐以兴趣偏好为主导推送逻辑，使得信息多样性让位于推送精确性，以精确的内容匹配来换取高传播反馈、高用户黏性和流量最大化。精准推送打破了用户信息接收的多样性平衡性，导致异质性信息流动性的减弱 [1]。其次，算法推荐技术既无法准确判断信息内容的质量深度，也会为了提高信息传播的数量与平台活跃程度而降低对信息内容质量的审查标准，导致低俗、娱乐、暴力等内容无法得到把关与拦截，并且加重舆论信息传播的劣币驱逐良币效应，使得舆论信息生态更加恶化。此外，信息的价值属性和意识形态是难以数据化且被算法推荐所探知的，因此算法推荐也难以保证对信息内容价值观的把关，并且算法推荐将有趣和热度视为信息最重要的考量因素，将信息的趣味性等同于信息的重要性，将信息的热度等同于传播的正当性，背离了社会舆论传播对信息公共性、价值性的需要。
（二）算法推荐偏向工具理性，利益倾向难以承载社会舆论导向价值
智能算法推荐已经具备了工具理性、科技理性的条件和特点 [2]。算法推荐展现出强烈的工具理性偏向和效率主导逻辑，其目的是为了最大化实现商业利益，因此以商业利益倾向为根本的算法推荐难以承载社会舆论维护主流价值、公共利益的导向作用。算法推荐将用户特征、兴趣偏好、使用习惯、浏览痕迹等一切个体信息进行数据量化，其着力基础在于如何准确把握和匹配用户偏好来获取点赞数、转发数、评论数等流量最大化，表现出强烈的效率至上、技术至上的工具理性偏向，缺少应有的价值理性和人文关怀。同时，算法推荐已经成为社会舆论场域的主导信息传播方式，却不具备传媒基本的公共性即作为社会公器服务于公共利益的形成与表达的实践逻辑[3]，算法推荐归根到底是商业平台的技术工具，有意或者无意忽视公共利益，缺乏对社会舆论信息应有的社会价值的考虑，无法保证社会舆论主流导向信息的传播，因而加剧社会舆论导向安全风险。
（三）算法推荐重构舆论传播机制，难以应对社会舆论生态变革
算法推荐的中介作用在服务信息传播需求的同时也在形塑着新媒体时代信息传播的流程，从而重构社会舆论传播机制，重塑社会舆论传播生态。在这一过程中，算法推荐所带来的没有先例可循的变革和不可控因素的增多加重了社会舆论传播生态的混乱性和复杂性，造就了传播高效但又危机多发的社会舆论场域，因此传统的社会舆论管控机制难以适应新的形势变化。目前对算法推荐技术应用的管理和算法推荐负面效应的治理并没有跟上社会舆论生态变革的脚步，对社会舆论的管控也没有充分考虑算法推荐的中介作用，算法推荐的嵌入性、隐蔽性与复杂性也使得对舆论管控的难度进一步增加。
（四）算法推荐隐含权力实质，商业资本合谋算法把控社会舆论场域
算法推荐隐含权力属性，商业资本合谋利用算法推荐来争夺社会舆论场域的权力资源，把控社会舆论场域主权。算法推荐已经深刻地嵌入社会运行逻辑中，影响着人们的认知、决策、行为。在社会舆论场域中，算法推荐同样隐含着控制权和支配权，其实质就是算法平台与媒体借由算法技术将舆论信息传播过程数据化、后台化，掌握了实际意义上的把关权与议程设置权。看似中立客观的算法推荐背后其实蕴含着复杂的权力运行关系，实现对受众观点看法的操纵、对社会舆论运行的控制以及对社会舆论主导权的掠取。最重要的是，问题的关键不在于红线是否被越过，而在于权力迁移下权为谁所谋，权为谁所用 [4]。具有权力实质的算法推荐无疑是平台资本手中的商业利器，而基于算法推荐建构的社会舆论也极易为商业利益所挟制，成为平台资本维护自身价值与利益意图的舆论工具。
三、算法推荐影响社会舆论安全风险的生态治理
在结合生态学研究视角基础上，信息生态研究将人、信息及信息环境作为一个整体来看待，以其共同形成的相互作用的整体信息生态系统作为研究对象。
（一）信息要素 ：结合人机双重把关，增加主流多样信息
社会舆论信息生态的信息资源即在社会舆论空间中流通的信息内容。通过完善算法推荐信息把关流程，增加算法推荐信息的多样性主流性，实现社会舆论信息传播的有序平衡。在信息把关层面，基于自身对信息价值、信息质量等把关能力的不足，算法推荐应避免单一的先产出后处理的事后把关模式，重视能够减少不良影响和风险的前置把关，建立“技术把关 + 人工把关”的双重协同把关机制，推动工具理性和价值理性的动态平衡，在优化技术把关能力的同时通过人工把关弥补技术把关的工具理性价值至上与僵化的问题，在人工价值纠偏的同时发挥算法推荐的效率优势，增加主流思想价值内容的推荐比重，控制劣质信息的推送，实现主流价值和公共价值的回归与输送。人工把关参与主体的责任意识、技术能力、业务水平、政治修养、媒介素养等也应得到要求和培养，以保证人工把关的作用和效果。
（二）信息人要素 ：增强算法可解释性，提升受众算法素养
信息人要素是社会舆论信息生态的主体因素，而算法推荐也已经成为社会舆论空间的隐形行动者，因此从信息人角度出发，一方面要增强算法推荐主体的透明性和可解释性，另一方面要提升舆论受众主体的算法素养。
作为对算法技术的事前规制措施，算法透明与公开的内容、程度、流程是受到关注的重点。通过算法信息的公开和透明，促进用户对算法推荐的理解和监督，牵制算法推荐的暗箱操作和私权利用，助益相关部门对算法推荐信息的审查、算法流程的监管以及算法风险的治理。算法素养是进入人工智能时代所必须重视和培养的能力，当前用户一方面享受着算法推荐所带来的无形的便利，另一方面却被算法削弱了自主性，成为信息传播和社会舆论场域中被算法所禁锢与控制的囚徒。因此，用户需要加强算法认知与素养，并在此基础上提升自主性，加强防范与对抗算法控制与风险的能力，成为能够进行理性思考与讨论的社会舆论主体。
（三）信息技术要素 ：完善优化算法推荐技术，加强技术责任伦理
在技术设计、数据采用、推荐分发等阶段对信息服务算法推荐的技术进行完善与优化，加强算法技术责任伦理建设，以减弱其技术伦理缺失、推送逻辑僵化等问题以及由此带来的社会舆论安全风险，并且可以反向利用算法推荐技术为社会舆论的有序发展服务。在技术设计过程中充分考虑技术伦理和技术可能在使用中产生的中介作用。在算法伦理的讨论中，价值敏感性设计可以视为实现算法伦理的内部进路之一，价值敏感性设计是指将人类价值特别是伦理道德价值与行为方式嵌入设计中，以弥补技术设计与人类伦理价值关切之间的差距。通过价值敏感设计，将价值伦理和行为伦理加载到算法推荐技术设计的全流程之中。以主流价值引领算法推荐，在源头嵌入正确的社会价值，将主流价值观深度植入算法推荐的整体技术设想和设计之中，规制算法设计与开发过程中的商业底色和利益导向。
（四）信息环境要素 ：搭建全程监管机制，构建完善法规体系
信息环境是指信息生态所处的网络环境和宏观社会环境。在社会舆论信息生态的网络环境中，搭建信息服务算法推荐全程审计监管机制，实现全程有责、分层分责、有效问责。在宏观社会环境中，以完善性实效性的法律法规和伦理体系作为治理保障。搭建算法推荐的监管与问责机制，以促成合理运用和对算法权力的制约和钳制。随着算法推荐充分融入信息社会，监管和问责也应符合算法推荐的技术设计、产品开发、应用运行的流程结构，做到全程监督、全程有责、分层分责。算法推荐所引发的社会舆论安全风险将对个人、社会、国家都产生深远的影响，而算法伦理标准和法律法规无疑是防治风险的坚强壁垒与底线。
结语
我们现在已经进入了一个智能算法强大到足以引起关注的时代 [5]。算法推荐已然超出了信息技术的范畴，成为影响和改变社会的无形力量，其所导致的社会舆论安全风险已经充分显现，不可避免地对公众生活、互联网信息生态、社会稳定甚至是国家安全造成不良影响和深层危害，应该高度关注和重视。因此，应对算法推荐的应用保持预先观照和整体审视，在发挥算法推荐技术优势的同时规避其潜在的社会舆论安全风险，以维护有序、理性、公正的社会舆论空间。
参考文献
[1] 赵双阁，岳梦怡 . 新闻的“量化转型”: 算法推荐对媒介伦理的挑战与应对 [J]. 当代传播，2018(04):52-56.
[2] 陈昌凤，石泽 . 技术与价值的理性交往 : 人工智能时代信息传播 [J]. 新闻战线，2017(9):71-74.
[3]赵云泽，薛婷予.社交媒体中的“信息偶遇”行为研究——解决“信息茧房”问题的一种视角 [J]. 编辑之友，2020(05):42.
[4] 胡江伟，周云倩 . 新闻算法分发的技术伦理冲突及其规制 [J].青年记者，2020(03):29-30.
[5] 陈昌凤，张舒媛 . 新闻生产中算法运用的技术路径与价值逻辑[J]. 现代出版，2021(03):42.
作者：。陶贤都：湖南大学新闻与传播学院副教授；李肖楠：湖南大学新闻与传播学院硕士研究生
基金项目：本文为湖南省社科联课题“多元主体协同的中国互联网内容分类治理机制研究”（编号 ：XSP19YBZ169）阶段性成果
来源：《青年记者》2022 年 7 月下
