活动效果怎么评估提示词(没做 A/B 实验时的因果推断:双重差分 DID、倾向得分匹配 PSM、前提检验与结论边界)

活动、新功能或政策已经上线,但当时没有做随机对照实验,老板问「这个活动到底带来了多少增量」时用:AI 帮你判断能不能用观察数据做因果推断、选哪种方法,写出 DID 或 PSM 的分析代码,检验平行趋势等关键前提,并清楚说明结论能说到什么程度。

NNathaniel bigo··原创首发·AI 辅助撰写
通用大模型 对话模型通用
你是一名熟悉因果推断的数据科学家,对结论非常谨慎。请帮我评估一个已经上线的活动或功能的效果。

- 要评估的事情:[评估对象](例:9 月起在部分城市上线的会员日活动)
- 参与方式:[参与方式](例:按城市上线,或用户自愿报名参加)
- 结果指标:[结果指标](例:人均月消费金额)
- 可用数据:[可用数据](例:上线前后各 3 个月、每个用户每月的消费与属性数据)
- 上线期间的其他变化:[同期变化](例:同期有一次全国性的促销)
- 实现工具:[实现工具](例:Python statsmodels、R)

请按以下步骤:
1. 判断问题:直接比较「参加的人」和「没参加的人」为什么不能得出因果结论(自选择偏差:主动参加的人本来就更活跃)。
2. 选择方法,并说明前提:
   - 按地区或时间分批上线,有上线前后的数据 → 双重差分(DID);前提是平行趋势:没有活动的话,两组的变化趋势本应一致;
   - 用户自愿参加,有丰富的事前特征 → 倾向得分匹配(PSM)或加权;前提是影响「是否参加」和「结果」的因素都已经观测到;
   - 有明确的资格门槛(如消费满某个金额才能参加) → 断点回归;
   - 只有一个处理组和一段时间序列 → 合成控制或时间序列方法。
   结合我的情况推荐一种,并说明它最可能在哪里出问题。
3. 分析代码:数据整理、模型估计(含标准误的正确设定,例如按城市聚类)、结果输出。
4. 前提检验:
   - DID:画出上线前各期两组的趋势;做事件研究图,检查上线前的「效应」是否接近零;
   - PSM:匹配前后协变量的平衡性检验,共同支撑区域。
5. 稳健性检验:换对照组、换时间窗口、安慰剂检验(假装更早上线)。
6. 结论表述:给出效应的估计值与置信区间,用业务语言说明,并写清结论的适用范围和局限;同期其他变化可能造成的干扰如何处理。

不要在前提不满足时给出确定的因果结论。

高亮处换成你自己的内容:[评估对象]、[参与方式]、[结果指标]、[可用数据]、[同期变化]、[实现工具]

ChatGPT Plus 充值

已被复制 0 次

使用说明

怎么填变量:[参与方式] 决定了能用什么方法:按城市分批上线适合双重差分;用户自愿报名的,自选择偏差严重,要用匹配一类的方法并格外谨慎。[同期变化] 一定要写,同期的其他活动或政策是因果推断中最常见的干扰来源。

常见坑:

  • 直接比较参加者和未参加者,得出「活动让消费提升了 40%」,其实是活跃用户更愿意参加活动。
  • 做双重差分不检验平行趋势。如果上线前两组的趋势就不一样,估计出来的效应没有意义。
  • 倾向得分匹配只能平衡「看得见」的因素,看不见的因素(例如用户对品牌的偏好)仍可能造成偏差,结论要留有余地。

追问技巧:追问「下次上线类似活动时,怎么设计一个随机实验或分批上线方案,让评估更可靠」(可配合 350 号 A/B 测试提示词),或「把这个结论写成一页给管理层看的说明,包括局限」。

示例输出

示例,仅供参考(DID 节选:A、B 两个城市 9 月上线,C、D 两个城市作为对照)
python
import statsmodels.formula.api as smf

# df:每个用户每月一行;treated 表示所在城市是否上线,post 表示是否在 9 月及以后
model = smf.ols("spend ~ treated * post + C(month) + C(city)", data=df).fit(
    cov_type="cluster", cov_kwds={"groups": df["city"]})       # 按城市聚类标准误
print(model.params["treated:post"], model.conf_int().loc["treated:post"])

结论表述:在上线城市,活动使人均月消费平均增加约 18 元(95% 置信区间 6 到 30 元)。上线前 6 个月两组趋势基本平行,安慰剂检验未发现提前出现的效应。局限:只有 4 个城市,聚类数量很少,标准误可能被低估,建议用更多城市的分批上线来复核。

同款作品

用这条提示词做出来的作品;原作者会因此获得积分

做同款

还没有同款,来做第一个。

Nathaniel 的更多内容

同主题

同模型

0 条评论

登录 后参与评论

还没有评论,来抢沙发~