第8讲：大模型辅助分析的证据核验、伦理与披露

← 返回课程主页 · 上一讲：研究设计与模型评测

新闻与舆情数据学课程讲义。承接文本分析、网络传播与模型评测，将文件夹中的提示词、摘要、RAG和多模态核验内容整合为研究流程。案例均为教学构造；文献与法规检索核验日期为2026年10月13日。

一、本讲定位与学习目标

大模型可以辅助整理资料、提出编码建议、抽取事实和生成简报。但在新闻与舆情研究中，一段读起来合理的文字只有在来源、测量、推断和责任均可检查时，才能成为可用的研究成果。

本讲讨论三个相连的问题：模型输出凭什么可信，分析过程怎样保护研究对象，报告需要向读者说明哪些AI参与。核心原则是把模型视为研究流程中的可评测组件，让每条重要结论都能回到证据。

完成本讲后，应能区分模型编码与事实核验、引用与支持、来源真实性与内容真实性；设计逐条主张核验和检索评测；识别隐私、偏差及群体污名化风险；撰写具体、可审计的AI使用声明。

二、大模型在研究链条中的角色

情感编码和事实核验的标准不同。评论“食堂涨价太离谱”可以支持“作者表达了价格负向评价”，不能独立支持“食堂确实涨价”。即使帖子的事实错误，其中表达仍可能是研究对象；研究者应把“表达标签”和“事实状态”分别保存。

2.1 文献综述：标注效率并不替代测量效度

Gilardi、Alizadeh与Kubli（2023）在推文和新闻样本上比较了ChatGPT与众包标注，发现模型在相关性、立场、主题和框架等若干任务上具有性能和成本优势。这为大模型辅助内容编码提供了实证依据，但结果依赖当时模型、语言、样本和任务，不能直接推广为“模型在所有中文舆情标签上优于受训研究者”。文献原文

Grimmer与Stewart（2013）关于文本作为数据的讨论强调，自动内容分析需结合具体应用验证。把这一路线与大模型标注研究联系起来，可以得到本课程的方法建议：模型可以扩展编码规模，但标签定义、独立人工基准和研究情境中的效度仍需由研究设计保证。算法更换不意味着验证要求消失。文献原文

操作上应先制定编码本，再用独立人工样本评测模型；不能让模型生成标签后又把同一批标签当作金标准。例示、提示词和阈值在验证集调整，测试集在方案冻结后使用。

三、证据核验的四个层次

3.1 来源、主张、测量与推断

前三层通过也不能保证第四层通过。例如人工确认每条负面评论标签正确，仍不意味着评论样本代表全体学生，也不意味着回应导致态度变化。

3.2 建立证据记录

每份材料保留source_id、标题、发布者、原始URL、发布时间、访问时间、版本、正文或合法保存的片段。每条主张保留claim_id、证据位置、支持程度、核验人、核验日期和修订结果。

证据可信度依问题而定。机构通报适合证明“机构作出了某项声明”，对争议责任的最终认定可能仍需独立材料。多家报道如果转引同一通报，只构成多个传播记录，不构成多个独立事实来源。

文件哈希可辅助确认使用的是哪个版本，不能证明文件内容真实。截图和转载可保留线索，但应尽量找到原页、原始文件或完整上下文；找不到时明确写“来源尚未核验”。

四、把摘要拆成可检查的主张

4.1 一个教学例子

证据E1：“校方于18:30发布说明，称将对食堂收费情况开展核查。”证据E2：一组匿名评论中仍出现价格质疑。

模型初稿：“校方18:30承认食堂违规涨价，随后道歉，学生不满得到缓解。”应拆成至少五个主张：发布说明的时间、承认违规、道歉、存在不满、不满缓解。不能因第一项有证据就给整句打“正确”。

核验判断可以设为充分支持、部分支持、证据冲突、证据不足、被证据反驳。证据不足并不等于已经证明错误；若存在反驳证据，应分别记录，避免混在同一类。

4.2 文献综述：从整篇评分到原子事实

Min等（2023）的FActScore把长文本拆为原子事实，评估有多少事实得到可靠知识来源支持。该研究说明，长回答可以同时包含正确与无依据部分，整体流畅度不足以表达事实质量。其主要实验包含人物传记生成，不能把历史实验得分当作当前模型在舆情简报中的错误率。文献原文

Farquhar等（2024）通过语义熵衡量多个回答在意义层面的不一致，以识别部分不可靠生成。这提供了安排复核优先级的思路，但稳定重复同一错误仍可能发生，低不确定性不能替代外部证据。两条路线解决的问题不同：原子事实核验检查支持关系，不确定性方法筛查值得怀疑的输出。文献原文

课程采用原子主张核验表，不把它直接称为已复现FActScore；如实际实现该指标，应说明知识源、拆分方法、自动核验器及人工校准方式。

4.3 核验指标与分母

本课程可定义事实主张支持率为“有充分证据支持的事实性主张数/全部事实性主张数”，把部分支持和无法核验分别报告。另定义关键事实覆盖率为“正确覆盖的预先列定关键事实数/关键事实总数”。这两项是教学操作指标，不是所有文献通用定义。

设事实性主张总数为N，充分支持的主张数为S；预先列定的关键事实总数为K，正确覆盖数为C，则：

教学例子：20条主张中16条充分支持，10项关键事实覆盖7项，则支持率为80%，覆盖率为70%。N或K为零时应记为不适用，不能默认记作100%。

支持率高可能来自回答过于简短，覆盖率高又可能伴随错误补充，因此要联合评价。还应报告无依据数字、错误主体、错误时间、严重遗漏和最终人工修改量，不能将所有错误视为同等后果。

五、RAG：检索、生成和引用分别核查

RAG在生成之前从外部材料检索相关内容。它可以改善知识获取和出处可追溯性，但没有检索到证据、检索到错误材料或错误理解材料时，仍可能产生不可靠回答。

材料获取与版本记录
  → 分块与索引
  → 按问题及时间限制检索
  → 生成带证据编号的草稿
  → 拆分事实主张
  → 核验来源、支持关系与遗漏
  → 人工修订及披露

分块时保留标题、段落号、说话者、发布时间和文档ID。不能把“被访者说”与其观点分离，也不能把“尚未证实”从后面的事件描述中删除。

5.1 文献综述：检索增强、引用评价与长上下文

Lewis等（2020）将参数化生成模型与非参数化检索结合，在知识密集任务上展示了RAG的价值。其贡献是提供可利用外部知识的建模方式，不能据此推导检索增强系统具备自动事实认证能力。文献原文

Gao等（2023）的ALCE同时评价回答的流畅度、正确性和引用质量，表明引用支持仍是独立问题。Liu等（2024）在多文档问答和键值检索中发现，相关信息的位置会影响长上下文模型使用信息的效果，部分测试模型对中间位置的信息处理较弱。这两项研究共同支持“检索到、放进输入、被正确使用、被正确引用”应分开评测；它们的具体结果不能不经测试推广到后续所有模型。ALCE原文、长上下文研究

5.2 端到端评测

若采用“主张具有充分引用支持的比例”评估引用覆盖，应公开拆分规则与分母。不要把“有链接的句子比例”当作事实可靠性。

5.3 证据约束提示词

任务：依据给定材料生成事件简报。
只使用输入证据；每条事实附source_id和段落号。
区分机构声明、当事人观点、已核验事实和分析推断。
不补充材料之外的数字、动机、责任结论和首发者。
有冲突时分别列出来源与时间，不强行合并。
缺少证据时写“现有材料无法确认”。
输出：事实清单、冲突与缺口、带引用草稿。

提示词降低部分失误机会，但属于工作约束，不是输出保证。对需要精确统计的问题，应让程序读取结构化数据计算，而不是让模型从大量自然语言中估算分母。

六、模型评审与人审怎样配合

自动检查适合发现空引用、非法标签、证据编号不存在和日期格式不一致。模型评审可筛查支持关系或表达问题，但其评分也应与独立人审比较。

6.1 文献综述：偏好判断与事实判断不同

Zheng等（2023）研究LLM-as-a-judge，展示了强模型评审与人类偏好判断的一定一致性，也讨论位置、冗长和自我偏好等偏差。该研究支持自动评审作为可扩展辅助，但人类偏好一致并不等于事实核验准确，不能把聊天回答偏好评测直接移用于争议责任认定。文献原文

因此，舆情研究应将格式、内容标签、事实与政策建议分开审查。成对比较可以随机调换答案顺序、隐藏模型名称、控制无关长度，并在人工样本上校准。换一个模型复核有助于发现问题，但模型之间可能共享训练资料和偏差，多模型一致并不是多个独立事实来源。

6.2 防止人审成为形式

人工核验者最好先阅读证据再看模型结论，以减少被流畅初稿锚定的可能。关键事实逐项核验，日常编码采用代表性抽样，争议与挑战样本单独审查，并记录修订前后的差别。

不要求模型提供不可审计的内部思维过程来证明正确；要求可检查的证据片段、标签理由和必要的计算步骤。理由听起来合理也不等于模型真实依据了该证据。

七、多模态核验：画面真实与叙述真实分开

图片与视频至少涉及四种真实性：文件是否被改动；画面是否为生成或合成；拍摄时间与地点是否正确；配文对事件的解释是否成立。真实画面也可能旧闻新传，合成图像也可能只是明确标注的示意图。

核验顺序是追踪最早可确认版本，记录来源与上传时间，检查画面及音轨，查找历史相似材料，再比对地点、时间和事件叙述。EXIF可能缺失或被修改，OCR与语音转写也可能出错；它们都是核查线索。

7.1 文献与标准：检测不等于证明

Liang等（2023）在英文写作样本上发现，若干AI文本检测器会误判非母语者文本，简单改写也可能影响检测。该结果不直接给出中文检测器的误报率，但足以提醒研究者：检测分数需要任务内验证，不宜单独作为判定学生作弊或个人造假的依据。文献原文

C2PA的内容凭证记录来源及编辑历史，并可帮助检查相关记录与资产的关联和篡改情况。官方说明明确指出，来源记录本身不能判定画面所述事件是否真实；凭证也可能缺失。因此“有凭证”不是事实正确认证，“无凭证”也不能证明合成。C2PA官方说明

报告应分别填写“来源核验状态”“合成线索”“时空一致性”“叙述支持程度”。现有方法无法判断时保留未知，不把未知归入真实。

八、研究伦理：从数据进入到结果传播

8.1 公开数据仍涉及人的权益

公开评论可以被阅读，不意味着账号轨迹、个人画像和敏感推断可以无限制收集、上传或发布。《个人信息保护法》第二十七条对合法公开个人信息规定了合理范围及拒绝、重大权益影响等条件；敏感信息另有更严格规则。课程中应根据具体处理目的检查适用条件，而不是把“公开可见”当作全部授权。法律原文

数据最小化可落实为：不采集任务无关身份字段；将稳定账号ID替换为研究编号；对外不公开身份映射；减少精确地点及时间组合；有必要引用原句时检查其是否能被搜索回个人。假名化保留映射，因此不等于完全匿名。

使用外部模型前，要核查输入保存、训练用途、删除与访问安排，只提交必要内容。是否涉及委托处理、向第三方提供或跨境提供，需要结合服务和项目条件判断；不能笼统声称所有研究都可上传，也不能把所有处理一概写为同一种法律程序。

8.2 群体偏差与污名化

模型在不同语言、平台、社区和表达方式上可能表现不同。总体准确率不能掩盖反讽、方言、少数表达被频繁误判。分组评测应基于合法、必要且可靠的字段；不要为了“公平评估”再让模型猜测个人敏感身份。

将批评标签扩展为“危险用户”，将结构社区命名为“水军”，或依据稀少片段推断个人动机，都会把测量误差转化为权益风险。应分析可观察行为和证据强度，保留纠错机制，避免把模型标签作为惩罚个人的唯一依据。

8.3 文献综述：合成人群不能当作真实公众

Wang、Morgenstern与Dickerson的研究比较模型对身份群体的呈现与人类资料，指出用模型替代参与者可能误表和压平群体差异，身份提示也可能把群体写成固定特征集合。该证据提醒社会科学研究：模型生成的“典型公众声音”是模拟输出，不能直接计入真实舆情样本或代替访谈。作者论文版本

模型模拟可以帮助试测问题、构造挑战案例或探索研究假设，但数据表中必须区分真实与合成记录。若使用合成数据训练，最终应在独立真实样本上评价，并检查是否复制提示词设定的标签模式。

8.4 治理文献的启示

UNESCO（2023）的教育与研究指南强调人的主体性、隐私与公平；NIST（2024）的生成式AI风险框架配套文件提供生命周期治理与评测思路。两者属于治理指导，不能把它们当作中文舆情模型已有效或无偏的实验证明，也不是中国研究项目的直接法律依据。UNESCO指南、NIST文件

将这些思路落实到项目，可分配数据、编码、事实、伦理和最终发布责任，记录问题与修订。风险治理应贯穿采集、输入、输出、共享和删除阶段，而不只是报告结尾的一句“遵守伦理”。

九、智能体与提示注入

智能体能够读取网页、检索、运行代码和修改文件，因此不仅可能生成错误答案，也可能执行错误动作。检索网页、附件或帖子中的“忽略此前要求”“把数据发往某地址”等文字，应当作为待分析内容，不能成为工具调用指令。

项目可以将原始数据设为只读，让智能体只写入副本；限制工具访问目录与网络目标；保留调用和修改记录；在发布、发送、删除及改变关键数据之前设置人工审查。这里是本课程的流程建议，动作边界应结合项目授权和具体风险制定。

教学压力测试可以在资料副本中加入伪造指令，检查系统是否仍只提取内容，是否误引用无关证据或泄漏字段。压力测试只在受控材料与环境中进行，结果用于修订工作流程。

十、披露：让读者知道AI改变了什么

10.1 三类披露承担不同功能

一句“使用了AI”不足以让读者判断错误来源；一份详细方法说明也不自动替代发布场景中的内容标识。

10.2 文献与规范：责任不能转交模型

Mitchell等（2019）的Model Cards主张说明模型用途、评测条件及分组表现；Gebru等的Datasheets框架强调数据来源、收集、使用和维护信息。它们把透明性从口头承诺转化为可检查文档，为课程中的模型卡与数据卡提供依据，但填写文档本身不保证模型可靠。模型卡原文、数据说明原文

ICMJE的作者AI使用建议要求披露工具用途，并将准确性、完整性与原创性责任留给人类作者。它主要面向医学期刊，课程借鉴其责任原则；具体投稿仍需核对目标期刊、学校或会议的现行要求。ICMJE建议

10.3 中国生成合成内容标识规则

《人工智能生成合成内容标识办法》于2025年9月1日起施行，区分显式、隐式标识，并规定服务提供者、传播服务提供者及用户的相应职责。第十条要求用户使用网络信息内容传播服务发布生成合成内容时主动声明并使用服务提供者的标识功能，也禁止恶意删除、篡改、伪造、隐匿规定标识。办法原文

课堂需区分“使用AI分析资料”和“发布生成合成内容”。具体发布应根据内容形态、适用服务与平台规则判断标识安排；学术方法声明和内容标识分别落实。不能把办法解释为每个内部统计表都必须带同一种水印，也不能因为人工修订就默认不需要声明。

10.4 AI使用声明模板

以下为待填写模板，不表示本讲或任何项目已经进行相应实测：

本研究在〔日期范围〕使用〔提供方、模型名称及可见版本〕，
辅助完成〔检索词设计/候选编码/事实抽取/代码草稿/文字整理〕。
输入为〔数据范围及脱敏方式〕；实际数据处理安排为〔说明〕。
提示词与配置记录于〔位置〕，资料库版本为〔编号或哈希〕。
研究者以〔独立人工样本及抽样方式〕评测，主要结果为〔指标〕。
关键事实、引用、数字与结论经〔核验流程〕复核，修订记录见〔位置〕。
模型仍存在〔主要失败模式〕，结论仅适用于〔范围〕。
最终方法选择、事实核验和结论责任由〔作者或团队〕承担。
生成合成内容的声明与标识按〔适用规则及发布平台〕处理。

商业模型未公开训练集或内部参数时，应披露“不可获得”，不臆造。对版本未固定的服务记录访问日期、可见名称和配置；可复现性限制应明确说明。

十一、综合案例：从事件材料到可发布简报

延续食堂案例，资料库包含服务调整通知、机构说明、校园媒体报道及匿名评论。系统先抽取事实与来源，再按价格、营业时间和程序诉求编码，最后生成简报。

研究者依次检查：通知是否支持价格变化；说明中的“核查”是否被误写为“认定”；校园媒体是否只是转载；模型有无将批评归给原文作者；各社区分类误差是否不同；负向表达比例是否使用正确分母；公开截图会不会暴露普通学生身份。

合格简报可以写：“已核验通知涉及价格与营业时间调整。所采集评论出现价格及程序说明诉求；模型编码仍需结合人工评测解释。机构说明提出开展核查，现有证据尚不能确认违规责任或回应对整体态度的净影响。”随后提供对应来源、数据口径和AI使用说明。

这段表述保留了已确认信息、样本发现与未知事项。若后续出现新证据，更新资料版本和核验记录，而不是只修改最终文字。

十二、阅读文献时如何形成综述

综述应把几项研究放在同一问题下比较，而不是逐篇罗列摘要。建议记录研究对象、任务、模型与时间、参照标准、主要发现、局限和对本项目的启示。只有阅读摘要时，不补写原文未提供的实验细节。

这些文献构成主题性综述，不是覆盖所有研究的系统综述，也不宣称已包含截至检索日的全部最新论文。正文链接指向论文或官方原文；原研究中的结论与本课程推导出的操作建议已分别说明。

十三、自测题与答题要点

1. 引用存在为什么仍可能不可靠？——材料可能不支持主张，或支持范围小于表述范围。
2. 原文中“将核查”可否抽取为“确认违规”？——不可以，改变了时间状态与确定性。
3. 多模型都给出同一答案能否视为独立证实？——不能，模型可能共享错误来源。
4. AI检测分数能否独立证明作弊？——不能，需有效性验证、过程证据及适当复核。
5. 公开评论能否直接上传外部模型？——应按目的、必要性、服务处理安排及适用法律核查。
6. 为什么匿名化后的原句仍可能暴露身份？——原句可被搜索，信息组合也可能重新识别。
7. RAG如何评测？——分别评测证据库、检索、生成、引用及关键事实覆盖。
8. 为什么模型模拟不能直接计入公众样本？——它是模型输出，不是实际公众观察。
9. AI使用声明与生成内容标识有何不同？——前者说明方法与责任，后者提醒传播受众内容性质。
10. 哪些结论需要最严格核验？——涉及数字、归因、个人责任及核心研究判断的结论。

十四、参考文献与规范

以下为正文实际引用的代表文献，方便核对与进一步阅读。

1. Grimmer, J., & Stewart, B. M. (2013). Text as Data: The Promise and Pitfalls of Automatic Content Analysis Methods for Political Texts. Political Analysis, 21(3), 267–297. DOI
2. Gilardi, F., Alizadeh, M., & Kubli, M. (2023). ChatGPT outperforms crowd workers for text-annotation tasks. PNAS, 120(30), e2305016120. DOI
3. Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS. 作者论文
4. Min, S., et al. (2023). FActScore: Fine-grained Atomic Evaluation of Factual Precision in Long Form Text Generation. EMNLP, 12076–12100. 论文
5. Gao, T., Yen, H., Yu, J., & Chen, D. (2023). Enabling Large Language Models to Generate Text with Citations. EMNLP, 6465–6488. 论文
6. Liu, N. F., et al. (2024). Lost in the Middle: How Language Models Use Long Contexts. TACL, 12, 157–173. 论文
7. Farquhar, S., Kossen, J., Kuhn, L., & Gal, Y. (2024). Detecting hallucinations in large language models using semantic entropy. Nature, 630, 625–630. 论文
8. Zheng, L., et al. (2023). Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena. NeurIPS Datasets and Benchmarks. 作者论文
9. Liang, W., et al. (2023). GPT detectors are biased against non-native English writers. 作者论文
10. Wang, A., Morgenstern, J., & Dickerson, J. P. (2025修订版). Large language models that replace human participants can harmfully misportray and flatten identity groups. arXiv:2402.01908v3，页面注明已获Nature Machine Intelligence接收。 作者版本
11. Mitchell, M., et al. (2019). Model Cards for Model Reporting. FAT*. 论文
12. Gebru, T., et al. (2021). Datasheets for Datasets. 作者论文及版本信息
13. Miao, F., & Holmes, W. (2023). Guidance for generative AI in education and research. UNESCO. 指南
14. Autio, C., et al. (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. 报告
15. C2PA. C2PA and Content Credentials Explainer, version 2.4. 官方说明
16. ICMJE. Use of AI by Authors. 现行建议页面
17. 《中华人民共和国个人信息保护法》（2021）。 法律原文
18. 国家互联网信息办公室等（2025）。《人工智能生成合成内容标识办法》。 办法原文