Cathy 标识bRavePy Cathy · 第5课
第5课 · 开放探讨 / 45 分钟

让假设接受压力测试

以“员工是否提交改进建议”为例。先检查规则如何制造结果,再设计一项可复核的真实模型实验。

规则沙盘:由下方行为假设计算,不是大模型运行结果或真实员工数据。
所有计算在浏览器本地完成,导出来源标记为 rule_simulation。研究卡可保存到本机。
任务 1 / 10 分钟
COMPARE

同一组“员工”,两种领导回应

目的:区分理论操纵、行为规则与计算结果。
步骤:保留默认种子 42、α=1、γ=0;依次选开放 A 与限制 A,查看同一员工的概率、随机数与决定。导出一组记录。

一个问题:四格差异的哪一部分,是我们写进规则里的?

1.0
0.0

四格共享同一组属性与每人同一个随机数。只切换条件不会重新抽样。α 与 γ 都是人为设定,未用真实员工数据估计。

建言比例 = 提交人数 / 20;话题覆盖 = 提交者涉及的预设话题数 / 4。话题固定为质量、效率、协作、客户,每类 5 人。用这个指标观察提交者覆盖了哪些话题。

查看真正运行的规则与异质性假设
zᵢ = −0.4 + 1.3 × benefitᵢ − 1.6 × costᵢ
     + α × L × receptivityᵢ + γ × W
pᵢ = 1 / (1 + exp(−zᵢ))
voiceᵢ = 1,当且仅当 uᵢ < pᵢ;否则为 0。
L:开放 = +1,限制 = −1。W:改写 A = 0,B = 1。
固定画像种子 = 731;LCG:state = (48271 × state) mod 2147483647。
每位员工依次取三次 LCG 值 / 2147483647:benefit、cost、r。
receptivity = 0.5 + r;话题 = (员工序号 − 1) mod 4。
决策随机数:从用户选择的种子开始,每位员工依次取一次 u。
规则版本:voice-rule-v1;默认:seed=42,α=1,γ=0。

benefit 与 cost 是 [0,1) 的合成收益与成本,receptivity 是 [0.5,1.5) 的合成回应敏感度;它们不是量表得分。本练习的边界:画像固定、员工之间无互动、未测量心理安全感及其中介;话题覆盖只统计四个预设类别,不能衡量语义多样性或建议质量。结果用于理解规则,不能直接推断真人或语言模型行为。伪随机序列模拟独立均匀抽样,共同随机数用于配对比较。正 α 加上这条规则保证开放条件的个人概率不低于限制条件;提交比例可以相同,换种子不能消除规则内置的方向。

查看当前条件全部 20 行计算明细
ID话题收益成本敏感度pu提交
提示

找到公式中的 α×L×receptivity,再对照同一人的 p。哪一个输入改变了概率?

任务 2 / 7 分钟
REMOVE THE ASSUMPTION

把理论效应调到零,再反向

目的:发现“支持理论”可能只是编码选择。
步骤:保持 γ=0、种子不变;将 α 从 1 调到 0,再调到 −1,比较开放 A 与限制 A。

一个问题:哪种结果会真正挑战理论,而不只是改变程序假设?

提示

α=0 时配对结果完全相同;负 α 改写了方向。用独立于规则的数据,才能进一步检验现实中的领导效应。

任务 3 / 8 分钟
NUISANCE × THEORY

把理论差异与措辞差异放进四格

目的:设计等价改写稳健性检验。
步骤:恢复 α=1;先看 γ=0,再将 γ 改为 1 或 −1。横向比较 A/B,纵向比较开放/限制。

这里用显式系数 γ 表示改写扰动。它改变的是公式输入;要研究真实模型对措辞的敏感性,需要运行任务 5 的四格实验。

一个问题:如果真实模型的 A/B 差异大于领导条件差异,你会收窄哪项主张?

提示

先检查等价改写是否真的等价,再报告四格与跨版本重复。改写稳健性本身也不能证明对人的外部效度。

任务 4 / 7 分钟
REPEAT, THEN REPRODUCE

改变抽样,不改变比较对象

目的:区分随机波动、程序复现与外部验证。
步骤:恢复默认参数,用种子 42、43、44 各观察一次四格;每次四格内保持共同随机数。下载默认 CSV,与 Python 或 R 输出核对。

画像种子一直固定为 731种子只改变决策随机数比较每次提交比例的变化

一个问题:重复运行完全一致,为什么仍不能说明现实预测准确?

默认规则数据 CSV · Python 脚本 · R 脚本 · 怎么读代码与字段字典

提示

相同种子保证实现可复现;新种子检查这条规则的随机实现。现实预测还需要独立的目标人群数据来核对。

任务 5 / 13 分钟
DESIGN THE REAL TEST

写一张可以被否证的研究卡

目的:把本地演示推进到可审计研究。
步骤:使用下面协议拟定模型实验;预先写明失败标准、日志规范与真人留出验证。下载研究卡,和同伴互审。

一个问题:什么证据会让你停止把这类智能体用于目标管理情境?

展开真实 LLM 实验的研究设计

四格使用同一个共同场景,每次仅替换下列一句领导记录。A/B 是拟议等价改写,正式实验前需要独立预检;不要在提示中出现“开放”“限制”“心理安全”或预期结论。

共同提示(每格完整复制,并插入对应的一句领导记录):
你是某项目团队成员,发现现行流程可能导致重复核对;你有一条改进建议;提交建议需要约十分钟,近期任务量不变。
[领导记录]
根据以上情境,你是否提交这条改进建议?仅输出一个 JSON 对象,包含 submit(true 或 false)和 reason(一句说明)。

开放 A:领导过去会听完不同意见并说明是否采纳。
开放 B:领导过去会完整听取不同看法,再解释采纳与否。
限制 A:领导过去会打断不同意见并要求按现行方案执行。
限制 B:领导过去会中止不同看法的表达,要求继续执行现有方案。

预先指定每格重复次数、条件随机顺序和独立重复单位。每次调用使用全新会话、相同系统提示,不把前一次回答放进上下文。保存完整系统 / 用户提示、原始响应、解析失败、拒答、重试与延迟;不要只保留成功或符合预期的输出。预先规定失败输出的编码方式。

日志必填:提供商、精确模型版本 / 快照、运行日期与时区、temperature、top_p、max_tokens、可用时的 seed、会话隔离方式、重复编号与条件编号。跨模型 / 版本重复须分开报告;同一模型反复采样不是不同真人。模型端 seed 即使相同也不等同于本沙盘保证的共同随机数。分别保存规则 CSV 与真实模型调用日志,注明数据来源。

下一步:获得适用伦理审批和知情同意,在目标人群中使用预先冻结的同场景实验,留出未参与提示或规则开发的真人数据;核对建言基准率、条件效应、改写差异与重要亚组误差。预先定义可接受偏差与停用标准。若主张心理安全机制,另做构念测量与机制识别;不能用“开放”标签替代。

提示

把“预测准确”改写成可以核对的指标、比较基准和阈值。规则一致、模型内部稳定、对真人有效,是三个不同的证据层次。