人工智能时代

新闻媒体的责任与使命

新华社研究院

新一代人工智能正在全球范围内蓬勃兴起,为经济社会发展注入了新动能,正在深刻改变人们的生产生活方式。[1]新华社国家高端智库课题组面向全球媒体机构开展问卷调查与深度访谈[2],梳理了人工智能时代新闻媒体面临的主要机遇和重大挑战,探讨了新闻媒体在人工智能时代的职责使命。

机遇:人工智能赋能传媒发展

人工智能技术点燃了新一轮媒介革命的引擎,新闻媒体产能迎来新驱动、体验迎来新升级、业态迎来新前景。

(一)产能新驱动

人工智能正在成为新闻媒体培育新质生产力、实现高质量发展的重要驱动力。课题组调查发现,全球已有10.2%的媒体全面拥抱人工智能,在机构内部建立了相应机制,由上而下地将人工智能引入生产流程;41.0%的媒体机构正在积极探索人工智能技术应用,鼓励和支持部分新闻业务板块试用人工智能技术。

受访媒体机构对生成式人工智能的应用程度

聚合信息,丰富来源。新一代人工智能技术可通过精准的搜索引擎、分析引擎和可视化组件,自动收集背景信息,推荐消息来源和线人,为采编人员提供更具价值的新闻线索和多元观察视角。新华社研发的“新闻雷达(NewsRadar)”,能够自动预警突发事件,并根据事件性质和规模预测热度;美联社推出由人工智能驱动的多模态搜索平台,可以通过语义搜索找到符合条件的照片和视频,帮助新闻媒体丰富信息来源。

辅助生产,优化品质。人工智能的深度应用,让媒体人从大量重复琐碎的劳动中解放出来,专注于内容创新创意。在新闻生产环节,智能创作平台能完成语音转文字、自动剪辑、字幕生成、智能配乐、自动翻译、文本图片转视频等一系列工作,为媒体从业者提供更多辅助。课题组调查发现,在应用场景上,媒体机构目前探索较多的三个方向是辅助编辑、创作内容、策划选题。新华社自主打造的“新语”智能生产引擎在内容核查、态势分析、智能策划、智能创作等方面表现突出;人民日报推出的“创作大脑AI+”平台,集纳了近20款智能工具,可快速生成多模态新媒体产品,一站式完成采访、拍摄、直播、剪辑、发布等全流程工作。

受访媒体机构已探索或有意探索的生成式人工智能应用场景

精准画像,个性分发。在内容分发环节,人工智能依托海量数据信息帮助媒体更好地勾勒用户画像、建立深度连接、实现精准推送。新闻聚合网站BuzzFeed、短视频平台TikTok等根据用户点击频次、停留时间、喜好内容等做出综合分析,指导内容策划、运营和推广。同时,用户还能够通过嵌入在各种搜索引擎和应用程序里的智能“信息管家”,更加直接地获取所需内容。目前,微软、谷歌、百度等均已在搜索引擎中嵌入了生成式人工智能程序。大型语言模型与搜索引擎的融合,或将成为新的流量入口和分发渠道。

科学评价,高效管理。人工智能技术能精准实现传播效果评估与数据考核,帮助媒体提升管理效率。借助人工智能工具,新闻媒体可以通过分析用户观看时长、点击频率以及分享次数等数据,量化评估内容的吸引力;通过捕捉受众在观看过程中的情感变化,判断传播内容的感染力;通过观察点赞、评论、转发等互动行为,评估用户的参与热情。英国《金融时报》用机器人检查报道中引用的信源是否过多地来自特定人群,以确保观点平衡。

(二)体验新升级

人工智能时代的媒介消费,将是一种以人为本、联通万物的全新体验。

虚实融合,身临其境。全息通信叠加强大的算法、算力,让高保真的数字化影像实时呈现,用户可以通过虚拟形象“亲身”体验在现实中难以获得的经历。中央广播电视总台利用“虚幻引擎+XR(扩展现实)+虚拟演播室技术”,在台风“摩羯”等报道中实现室内与户外多场景的丝滑转场,显著增强信息传递的有效性,提升报道的艺术表现力。《纽约时报》《泰晤士报》《时代周刊》等也利用AR(增强现实)技术还原美国国家航空航天局火星任务、重温阿波罗11号执行任务全程、呈现亚马逊热带雨林变迁,给用户带来更真实、直观的感受。

人机交流,达意传情。当前,生成式人工智能已具备一定的“主体性人格”。“新闻管家”“信息伴侣”等垂直化应用能根据用户画像为其定制个性化信息。随着人机互动的不断深入,人工智能的主体性将越来越强,可自行引入新的话题、提供意想不到的信息增量甚至情感支持。用户也可以对人工智能的回答进行反驳、质疑,促使其不断提高回答质量。“达意传情”的能力或将使人工智能从人类的“工具”演化成为“伙伴”。

(三)业态新前景

在人工智能驱动下,一些国家和地区的传媒业态正从“+AI”逐步提质升级到“AI+”。

万物媒介化。应用人工智能技术,信息传播将进一步突破人体局限,帮助建立人与人、人与物、物与物的泛在化连接。无人机、摄像头、传感器等应用,进一步延伸人体“感官”,人类可触达更远距离、更多维度信息。生成式人工智能则更像“人脑”,具有归纳总结、推理演绎、内容生成等功能。这些具备媒体属性的“智能体”在与人协同的过程中不断升级进化。在“万物皆媒”时代,任何智能终端都不仅仅是内容分发接收终端,同时也是人机互动、协同、陪伴的能动主体。智能家居、智能汽车、智能音箱、智能手表等终端的传播潜能日渐凸显。对智能终端及其采集数据的开发和利用,将成为传媒业态升级的新增长点。

媒体平台化。平台作为数字基础设施,凭借强大的技术能力、庞大的用户群体以及连接不同要素的特性,成为“重构传播权力”的重要力量。平台化的媒体既是传播媒介,即内容生产机构和运营机构;又是技术载体,可以利用数据、算法、人工智能技术等对社会关系产生影响;同时具有商业资本的属性,能通过聚合连接实现对市场资源的匹配和再分配。未来,智能媒体平台或将占据更多优势,成为社会信息传播的主要场景和容纳各类社群的服务载体。

产业数智化。人工智能推动传媒产业数智化转型,传媒产业链迎来深度融合与重构。上游内容创作者与技术专家更紧密地合作,内容创作更加高效;中游媒体平台加强与技术公司合作,建立“智能中台”,在提升全要素生产效率的同时连接更广泛的社会资源;下游终端渠道通过智能化的精准推送,不断增强传播效果、提升用户黏性。数智化为传媒业突破发展瓶颈、实现高质量发展提供强大动能。

挑战:人工智能催生多重风险

人工智能技术发展和其他技术进步一样,是一把“双刃剑”。[3]在赋能新闻媒体的同时,人工智能也催生出种种风险。

(一)虚假信息引发信任危机

人工智能技术的误用、恶用、滥用使得虚假信息生产及传播呈现大规模、多样化、病毒式等特点,侵蚀社会信任基础,恶化全球传播环境。

“无限量产”更具灾难性。人工智能的介入从技术上降低了虚假信息生产传播的门槛,大幅提升了虚假信息的数量级,制造出重重“信息迷雾”。清华大学2024年发布的一份报告指出,人工智能工具的不当使用使得AI谣言量高速增长,近半年涨幅达65%。[4]美国研究机构在2023年底发布的报告称,利用人工智能代理创建的假新闻网站在7个月内从49个激增至600多个,“人工智能正在成为下一个‘错误信息超级传播者’”。[5]课题组调查显示,在生成式人工智能与传媒行业融合背景下,有36.4%的受访对象对未来3至5年信息环境的可信度可靠性持悲观预期,比持乐观预期者(24.1%)高出12.3个百分点。另有39.5%的受访对象持中性预期。

受访媒体机构对未来3至5年信息环境可信度可靠性的预判

“深度伪造”更具迷惑性。人工智能的多模态功能拓展,使得虚假信息的内容形态更加多元,也更加难以被普通人所辨别。以“深度伪造”为代表的前沿技术突破文字限制,可以通过对图像、声音、视频的篡改或伪造,产生高度逼真且难以甄别的多媒体信息。2023年底,不法分子利用深度伪造技术,篡改了新加坡前总理李显龙在国庆群众大会上的讲话及其接受CGTN主持人访谈时的录像,用以宣传加密货币的投资骗局,相关视频在网络上广泛流传。基于对“深度伪造”技术的担忧,公众对虚假信息的风险感知意识也在不断加深,对任何信息来源,包括新闻媒体等传统信源也产生警惕和怀疑,社会整体信任遭到严重侵蚀。

“仿真传播”更具隐蔽性。人工智能不仅在生产层面助推了虚假信息的泛滥,还在传播层面为其提供了更加强大的工具。以“社交机器人”为代表的新一代“网络水军”散布在全球各大社交媒体上,成为无孔不入的“网络隐形病毒”。“社交机器人”能够根据操控指令自动生成内容,模仿真实用户的状态和行为参与互动交流,制造各种“虚假热度”“虚假共识”。相比于“人工操作+匿名账号”的传统“网络水军”,“社交机器人”可以输出个性化观点,并24小时不间断工作,持续打造自身的“人设形象”,使得虚假信息的传播更加隐蔽和难以察觉。2022年,美国斯坦福大学网络观察室发布报告披露,美国利用社交媒体操纵全球涉疆舆论,“社交机器人”就在其中扮演了重要角色。[6]

(二)技术滥用破坏舆论生态

人工智能在信息传播领域的广泛应用,为全球舆论生态注入新变量,在个体、社会和国际等多个层面形成新的风险挑战。

诱导个体认知。大型语言模型无可避免地会继承数据语料库和人类设计师的刻板印象或价值偏见。目前,人工智能虽然无法直接作用于人的大脑,但已经深度参与到社会信息流动的各个环节中,可以凭借“量”的碾压和“时间”的积累逐渐占领社会意识生产领域,进而实现对用户的价值传导甚至是认知侵蚀。人工智能所遵循的算法推送逻辑,还可能会限制用户信息获取,加剧茧房效应,使认知窄化、思维固化、群体极化等问题更加突出。

操控社会舆论。人工智能为影响甚至控制舆论提供了便利,为社会舆论应有的透明性、公正性蒙上阴影。在政治领域,人工智能很早即被用于影响目标对象的价值判断和政治立场,或破坏敌对势力的舆论环境和社会形象。在社会领域,恶意操控者还利用人工智能工具发布大量情绪化内容,在种族、移民、贫富差距等敏感议题上激化社会矛盾、影响舆论走向。在商业领域,人工智能被不良商家用于“刷数据”“刷评分”“刷销量”等,以达到屏蔽真实评价、误导消费者甚至诋毁竞争对手的目的。

加重信息对抗。在社会矛盾多发、地缘政治紧张的国际局势下,人工智能被广泛应用于“情报战”“舆论战”“认知战”中,使国际舆论关系更加紧张,对抗升级、冲突爆发的风险大大增加。通过数据差异化投送,可以瞬时制造舆论热点,影响群体认知;通过数据跟踪和算法策略,可以预判不同地域、不同群体的认知态势,推广于己有利的叙事和议题。在俄乌冲突、巴以冲突、黎以冲突等战时环境下,利用人工智能捏造虚假信息、煽动群体对立、进行意识形态渗透已司空见惯,社交媒体成为各方激烈争夺的“第二战场”。

使命:坚持“以人为本” 推动“智能向善”

加强人工智能监管,已经成为世界各国的共识。中国国家主席习近平在《全球人工智能治理倡议》中提出了“以人为本”“智能向善”[7]等基本原则,为解决人工智能治理难题贡献了中国方案。

(一)加快智能驱动,提升媒体价值

以智能化加强系统效能。新闻媒体要更注重自我技术赋能,构建人工智能支撑和驱动的生产传播体系、数据技术体系、组织管理体系、效果反馈体系,着力提升新闻媒体的传播力、引导力、影响力、公信力。要以智能技术为依托,提升新闻传播的速度、深度、广度和准度,增强新闻媒体连接社会、凝聚共识的作用。课题组调查显示,多数媒体机构认识到,生成式人工智能正以不可阻挡之势渗入传媒行业。对于如何应对变局,受访媒体机构认可度较高的三条路径是增强采编队伍的适应能力、增加技术投入和改造采编发业务流程。

受访媒体机构认可的自我变革路径

以标准化确保安全可靠。顺应人工智能时代业态变化,新闻媒体应不断改进升级新闻生产与传播标准,既充分运用技术赋能,又尽力规避技术风险。课题组调查显示,对于那些尚在观望的媒体机构,阻碍其应用生成式人工智能的首要原因正是“人工智能自身还不完善,如生成内容的准确性、可靠性、时效性等方面达不到预期和基本要求”。对此,在采集、生产、发布和传播等各个环节,新闻媒体要建立风险评估体系、完善安全保障制度。针对各类自动生成和算法推荐内容,要进一步强化事实核查机制,增强人机协同,确保信息可信可靠。

受访媒体机构尚未应用生成式人工智能的原因

以专业化提升新闻品质。专业报道是新闻媒体履行社会责任、彰显公信力的重要体现。要坚持“内容+技术+灵感+美学”深度融合,提升新闻工作者在新兴技术背景下的脚力、眼力、脑力、笔力。充分利用人工智能技术对信息进行挖掘、筛选、鉴别、关联、分析,延伸报道触角,以更高品质的新闻产品,满足受众需求,推动社会进步。

(二)立足善意使用,健全伦理规范

媒体不仅是新闻信息传播的桥梁和纽带,更是社会价值观的塑造者和守护者。人工智能时代,全球媒体要将新闻伦理贯穿于人工智能应用的全流程、全要素,健全以人为本的伦理规范体系,以人类主流价值驾驭“机器算法”。课题组调查显示,针对生成式人工智能在传媒行业的应用可能产生的负面效果,85.6%的受访对象支持以某种形式加强规范与治理。

以新闻真实破除信息迷雾。真实性是新闻的生命,人工智能技术的应用要以保障和促进新闻真实为前提,以构筑健康清朗的全球信息环境为目标。新闻媒体要努力减少信息干扰、清除信息污染、打破信息茧房,用真实报道构建公众可信赖的基础认知空间。各国媒体应坚守底线、积极作为,发挥示范作用,不制造虚假信息,不操纵社会舆论,不充当不沦为“认知战”工具,努力成为抵御虚假信息的“守夜人”和“防波堤”。

以新闻伦理驾驭工具理性。媒体应坚持新闻伦理,强化社会责任,努力营造“真实为本、理性沟通、多元包容、健康积极”的认知环境和舆论生态。要加强对从业者的人工智能伦理教育培训,提升其伦理意识和技术素养。特别关注智能应用中可能存在的失真与偏见,努力消除误解、分歧与敌视,压缩有害信息的生存空间,阻遏极端思想的传播扩散,确保信息的多样性、公正性和包容性。

以规范机制保护数据隐私。媒体要更加关注人工智能给数据安全、隐私保护带来的风险,建立健全机制,确保用户信息在采集、存储、处理和传输过程中得到充分保护。遵循“数据最小化”原则,尽量减少对个人信息的采集和存储,严格控制数据访问权限。努力提高算法透明度,打破技术“黑箱”,保障用户知情权,提升行业整体运行规范水平。通过加密技术和安全协议等手段,防范数据泄露和网络攻击等风险。

(三)加强对话合作,完善全球治理

各国媒体应通过对话与合作凝聚共识,构建开放、有效、公正的人工智能全球治理机制,促进人工智能技术造福人类。

弥合智能鸿沟,实现公平普惠。各国媒体应当高度重视人工智能应用的群体差异、城乡差别、南北差距,在技术研发、内容生产、数据分析、规则制定、人才培养等领域分享经验、共享资源、协同共进,反对人工智能领域的“小院高墙”、技术霸权。全球南方媒体应积极参与人工智能规则标准的制定,增强自身在国际组织机构中的代表性和发言权,以实际行动争取权利平等、机会平等、规则平等。

倡导共同价值,改进全球治理。各国媒体应围绕全球人工智能发展与治理,引导理性讨论,倡导共同价值,推动公众参与,为凝聚国际共识营造良好社会环境。要基于广泛参与、协商一致、循序渐进的原则,在充分尊重各国政策法规和实践差异基础上深化对话交流,促进各国法律法规和行业规范的对接;坚持“以人为本”,推动“智能向善”,探索人工智能全球治理新范式,为推动构建人工智能时代的人类命运共同体汇聚强大的媒体力量。(此文据新华社国家高端智库在第六届世界媒体峰会上发布的智库报告《人工智能时代新闻媒体的责任与使命》改写而成)

【注释】

[2]课题组以中、英、法三种语言发放问卷,得到来自53个国家和地区的有效问卷1094份(本文所有图表的纵坐标据此设立),调查对象覆盖报刊、广电、通讯社、新闻网站等多类媒体机构及部分知名移动应用服务商。同时,课题组还对美联社、路透社、美国有线电视新闻网、半岛媒体集团、南非独立传媒集团等全球各大主流媒体,百度、腾讯、阿里巴巴等科技公司以及中国网络空间研究院、赛迪研究院等科研院所进行了深入调研.

[3]习近平新时代中国特色社会主义思想专题摘编[M].中央文献出版社,2023:418.

[4]《揭秘AI谣言:传播路径与治理策略全解析》报告发布[OL].清新研究,https://mp.weixin.qq.com/s/FUxoqbSEjFKusdazW7Y18w.

[5]The Year AI Supercharged Misinformation: NewsGuard’s 2023 in Review[OL].NewsGuard,https://www.newsguardtech.com/misinformation-monitor/december-2023.

[6]Unheard Voice:Evaluating Five Years of Pro-Western Covert Influence Operations[OL].Stanford,https://cyber.fsi.stanford.edu/publication/unheard-voice-evaluating-five-years-pro-western-covert-influence-operations-takedown.

来源: 《中国记者》2024年第11期

作者:新华社研究院