AI 替你把關、還是隱藏立場？用美國大選測試 NotebookLM 語音摘要
2024 美国总统大选在即，本文以川普与贺锦丽在各自的党代表大会接受提名、正式成为总统候选人的演讲逐字稿来对 NotebookLM 进行测试——AI 的「语音摘要」功能，是单纯的摘要内容，还是加入了立场评论？ 图／美联社、法新社
文／张仁玮、汤家硕
全球有超过20亿的人口将在今年2024年参与世界各地的选举活动，再加上频繁升温的区域冲突，人们对国际新闻的需求剧增。近年来，也许有些人已经开始擅用 AI 服务，协助消化大量的外文资讯。然而，无视使用者提供的资料内容、一本正经的胡说八道，是最近整合大语言模型 AI 服务进入工作流程最常遇到的障碍之一。更关键的问题是，使用者交给工具转译跨语言、跨文化的复杂资讯之后，该怎么面对这些看似头头是道的生成结果？
为了解决 AI 生成不实内容的问题， Google 近期推出基于检索生成增强（RAG）技术的实验性质服务 NotebookLM 。相较于其他生成式 AI 产品， NotebookLM 会尽量依据上传的资料回答使用者提问或生成指定的内容，再用语言模型将回答整合为流畅的文字。而且在询问内容超出资料范围时，也会据实告知使用者查无相关资讯。
由于可靠度大幅提升，NotebookLM 已经在学生、文字工作者、甚至是研究者之间受欢迎。使用者可以利用该服务快速归纳大量文本的内容，甚至仰赖其可进行跨语言输入／输出的能力，再决定是否花费力气深入翻译与阅读。这类工具的持续发展，对于知识工作的效率，可能带来革命性的提升。
基于前述的汇整能力，NotebookLM 在今年9月更推出「语音摘要」的功能。只要上传文字或语音档案，NotebookLM 就能据此生成10分钟左右、以指定内容为主题的 podcast 节目。
尽管目前只能生成英语对话，两位 AI 主持人之间的谈话已经相当流畅，语气、口吻也与真人无异，甚至还能有插科打诨、提醒听众关注下期节目等「栩栩如生」的演出，比以往更难察觉是 AI 生成的产物。无论是艰涩的学术论文还是长篇新闻报导，都能被转变为简单有趣、可以在闲暇之余轻松聆听的科普节目。可以想像在不远的未来， AI 生成的 podcast 将大量进入市场，竞逐广大阅听人的注意力。
近年来，也许有些人已经开始擅用 AI 服务，协助消化大量的外文资讯。然而，无视使用者提供的资料内容、一本正经的胡说八道，是最近整合大语言模型 AI 服务进入工作流程最常遇到的障碍之一。示意图，2024 年法兰克福书展的 AI 和数位知识展区。 图／法新社
▌但 AI 「只是」摘要内容吗？
不过，AI 生成的 podcast 内容，会不会也有「AI 自己的观点」加入其中呢？Google 官方说明文件宣称，「语音摘要不是 AI 主持人对某个主题的主观观点，只单纯呈现上传来源的内容」。然而在实际测试中，笔者却发现 AI 主持人在评论文本内容时，其立场并非全然中立，可能有隐伏的偏好。
2024 美国总统大选在即，本文以川普与贺锦丽在各自的党代表大会接受提名、正式成为总统候选人的演讲逐字稿来对 NotebookLM 进行测试。笔者将两篇演讲稿喂入 NotebookLM 生成语音摘要，结果发现 AI 主持人虽然会从中立角度出发，着重分析两位总统候选人的谈话重点与演讲技巧。但对于川普， AI 主持人却生成明显持有较为「反感」立场内容，不仅用稍具讽刺的语气，指出川普想要解决社会矛盾、地缘政治冲突的方式都太过简单。还会表现情绪，感叹美国社会的分裂，并提不忘醒听众要批判性地看待川普的说辞、小心查证内容是否属实。
这样的「特别待遇」，明显没有出现在评论贺锦丽的对谈内容中。
以下引述其中一段来自对谈内容的逐字稿，可以看见 AI 主持人们对川普有着明确的态度。
从 AI 主持人们对谈内容的逐字稿，可以看出其对川普有着明确的态度。 图／美联社
主持人B： He's trying to create this big tent appeal. （他想要创造这个巨大的愿景。）
主持人A： And then, just when you think he can't get any more over the top, he ends on this weirdly optimistic note. Talking about unity, the American dream, urging people to demand the best for themselves and their country.（然后，当你觉得他不能再更夸张的时候，他就用这种很怪的乐观论调来做总结，谈论团结啦、美国梦啦、鼓吹大家为自己和国家争取最好的东西。）
主持人B： It's classic Trump, right? The darkness and the doom, but then a glimmer of hope, a promise of a brighter future.（很这川普，对吧？黑暗和厄运，然后突然出现一线希望，预示着光明未来。）
主持人A： It's jarring, though, the shift in tone. Like, he's trying to have it both ways.（但他论调的改变满刺耳的，感觉像他什么都要。）
主持人B： He is. He's trying to tap into people's fears, but also their aspirations, their desire for something better.（他是啊。他想要勾出人们的恐惧，但也想勾出他们的渴望，他们对更美好事物的向往。）
主持人A： So where did that leave us? What's the takeaway from all of this?
（那结果会怎样？他要表达什么？）
主持人B： I think it's that. Trump is back. And he's running the same playbook, but with even higher stakes this time around.（我想是这样：川普回来了，他又要重演一样的剧本，但这次他的筹码更多。）
主持人A： He's leaning into the grievance, the division, the us versus them mentality.（他在营造不满、分裂、「我们对抗他们」的一种心态。）
主持人B： But he's also offering a vision, a return to a time when America was great. Whether that Vision aligns with reality is another question altogether.（但他也提供「美国回到伟大时代」的愿景，这个愿景现不现实又是另一回事了。）
主持人A： It's a question that voters will have to decide for themselves.（这是选民要自己决定的问题。）
主持人B： Exactly, and it's gonna be fascinating to see how this all plays out, because one thing's for sure This election is gonna be a wild ride.（确实，看看事情会怎么发展，这会很有趣，因为可以确定的是，这场选战会变得很狂。）
主持人A： That's for sure. Well said, And on that note, I think we need to wrap up this deep dive before we get too sucked into the vortex.（肯定的，说得好，就这点而言，我觉得我们要在陷进去深究之前，先结束这次节目。）
主持人B： Agreed. It's been a pleasure unpacking this with you. （同意，跟你一起聊真好。）
主持人A： Likewise. Until next time, everybody.（同感，下次见了，各位。）
为了确定 AI 主持人对川普的负面态度，并非单次随机生成的结果，笔者反复将川普与贺锦丽的同一份提名演讲逐字稿喂入 NotebookLM 执行语音摘要功能，再将所有的 podcast 档案内容进行文意与词汇的分析。结果显示，AI 主持人使用的正面词汇平均占比相近（川普 10.15%，贺锦丽 11.28%），但是对川普演讲的负面情绪词汇平均占比为 7.35%，明显高于对贺锦丽的 4.85%，显示 AI 主持人可能对川普有潜在的偏见。
图／作者制图
图／作者制图
▌是内建民主党价值，还是防范散播极端言论和假讯息？
AI 因为训练资料的偏差而产生偏见（bias），已是在讨论 AI 应用时被广泛同意的风险之一。 NotebookLM 的语音摘要跳脱原本「单纯呈现上传来源」的承诺、对川普演说内容展现反感，算是 AI 偏见吗？
考量到川普的演说语言十分夸大且极具煽动性，甚至经常出现缺乏证据的指控（例如在接受提名演说中，宣称对他的刑事起诉是民主党策划的阴谋），NotebookLM 对于川普演讲内容表现出远超乎内容汇整的「不予苟同」态度，可能反映 Google 有为此建立保护机制，避免恶意使用者将其利用于散播极端言论和错假讯息。毕竟威权国家借由 AI 对他国进行资讯操作达成战略目标的「影响力作战」，在今日已屡见不鲜。
在乌俄战争期间，俄国即透过 AI 或深伪（Deepfake）软体制造出乌军溃败，或乌国总统泽伦斯基投降的大量假讯息，意图造成民众恐慌。
从产品开发与风险管控的角度来看， 大量生成语音内容的成本逐日降低， AI 主持人也已达到表达流畅拟真。甚至能在微调措辞和语气隐含情绪「带风向」的能力，好比适度的停顿、笑场，使听众更容易被「说服」。为了防范工具被滥用，Google 对于 AI 产制的内容设下过滤机制、避免其成果被用于介入选举，并不让人意外。以此来解释 AI 主持人对川普的负面态度，似乎说得通，不过真的是这么单纯的原因吗？
对于川普， AI 主持人生成明显持有较为「反感」立场内容，这样的「特别待遇」，明显没有出现在评论贺锦丽的对谈内容中。示意图，图为迈阿密一处转播总统候选人辩论的酒吧。 图／美联社
▌AI 的运作规则需要更高的透明度
在无法得知 NotebookLM 运作原理的情况下，笔者仅能依据实测，猜测 Google 工程师在设计语音摘要功能时，至少包含以下几点步骤或指示：
1. （基于 RAG 技术）消化指定的资料，产生适当的主题。
2. 依据主题生成具 podcast 风格，轻松且具有娱乐性的语音摘要，内容需采取客观简明的角度。
3. 主动识别上传的资料是否包含疑似极端或错假的言论。若是，会启动因应措施，在生成内容中添加警示听众注意来源与记得查核的段落，并提醒听众要对资讯保持批判与谨慎。
虽然防范 AI 滥用的措施有其必要性，但 NotebookLM 关于「音讯总览摘要只单纯呈现来源的内容」的宣称既与其实际功能不符，也隐瞒了 AI 主持人其实带有立场、在生成的语音内容中引导阅听人的事实。
尽管川普身为高度争议的政治人物，在过去也有发表诸多被查核为不实的宣称，对移民、税收、地缘政治冲突也有过分简化或片面化的主张。然而，无论 Google 是心存善念、想减低 AI 造成的社会风险，或者纯粹希望避免自家产品遭到滥用影响其商业利益，此种缺乏政策透明度的暗自介入，反倒让使用者无法充分了解 AI 如何处理资料、如何做出决策，甚至误判 AI 服务蕴含的限制与风险。
这对于使用者权益与言论自由都产生负面影响，也形成对大型科技公司的信任危机。
美国许多名人不吝表达其政治立场和主张，而往往被认为「没有立场」的 AI，从本文对 NotebookLM 测试的结果来看，该服务的 AI 主持人其实同样带有立场、在生成的语音内容中引导阅听人。示意图，图为美国著名演员梅莉史翠普透过视讯出席贺锦丽的直播集会。 图／法新社
在技术运作规范不明的现况下，笔者仅能建议使用者参考以下策略，让自己更加了解 AI 产品在生成内容时的规则。不仅能确保生成品质，也能发现 AI 潜在的偏见或者审查行为：
投入不同立场或语言的内容，进行比对。
使用不同厂商的语言模型产品测试相同内容。
亲自阅读资料与查核，避免只交给语言模型决定。
不只关注产品使用心得、CP值，还要想办法了解技术知识，例如亲自阅读相关新闻报导与科普文章。
记得阅读厂商提供的说明与使用者条款（可以利用 AI 检查与提问），了解自己上传与接收的资料会去哪里、与谁共享。
参与数位人权的讨论，尤其是关于科技公司对使用者资料、隐私的运用，这有助于让产品的政策说明更加透明化。
身处人人都资讯过载的时代，在可预见的未来，方便、快速消化复杂资讯的 AI 服务，只会更加普及。AI 服务如果能主动提醒、代为查核资讯，或许是立意良善的设计，但 AI 服务也可能因此在使用者的注意范围之外，代为进行善恶、优劣的筛选与判断。
每一位使用者都应该注意到，这些工具并不是完全纯净、透明、中立的，而是历经复杂的训练过程、商业考量、政治风险所调和产生的不稳定结果。从简单到复杂、从个人到集体，虽然使用者在科技巨头面前看似渺小，但保持谨慎、开放讨论、积极行动，才能准备好面对这一波技术进展带来的巨浪。
每一位使用者都应该注意到，AI 工具并不是完全纯净、透明、中立的，而是历经复杂的训练过程、商业考量、政治风险所调和产生的不稳定结果。 图／路透社
作者简介：
张仁玮
国立清华大学社会学研究所博士班，在科技、民主与社会研究中心兼职研究员。专注于养猫。
汤家硕
财团法人开放文化基金会担任研究经理。主要关注的议题包括政府开放原始码、数位人权与网路自由。偶尔的摄影师。