↓ 跳过正文

外呼销售策略分析(PSM)

·4515 字·10 分钟
张志华 / Arles Zhang
作者
张志华 / Arles Zhang
业务增长与 AI 应用:用 AI 解决真实业务问题,让想法落地为可验证的结果。

执行摘要
#

建议:统一改手机渠道对新客有正效应——经可观测因素调整后的效应估计为 +8.1pp [7.1, 9.2];但这个数字只适用于能匹配的新客(匹配率 29.9%),对匹配不到的客群与座机停用的月份,如实声明估计不了。结论的两半缺一不可。

三条核心结论:

  1. 生命周期状态几乎决定转化,渠道是二阶变量:老客·曾成功 65.11% vs 新客 8.83%,差距 56.3pp(新客占 86.3%)——不先分层,任何"渠道效应"都会被客群构成污染。
  2. 渠道效应真实但有边界:方案 A +8.13pp [+7.1, +9.2]、方案 B +7.84pp [+6.8, +8.9] 双规格互证方向一致;作用域限定在新客层的共同支撑域内,不外推到全体新客。
  3. 名单是比渠道更大的杠杆:按潜力分排序,Top 20% 名单捕获 54.0% 的转化量(OOF AUC 0.7403)——在外呼资源固定的前提下,排序收益直接可兑现,不依赖渠道切换。

策略与收益:新客优先手机渠道、外呼顺序按潜力分排、Top 20% 名单打满;回归客层不动渠道。本项目无上线条件,以上均为效应估计与判别力、非实测收益,边界逐条见「收益预估与边界」。

背景与问题定义
#

UCI Bank Marketing 数据集,41,188 条葡萄牙银行电话营销记录(正类 11.27%)。销售打给谁、用什么渠道、打几次,都是现场判断,不是随机分配——没有 A/B 测试可用,只有历史观察数据。

要回答的决策问题:把外呼渠道统一改为手机,是真实效应,还是客群假象?

朴素答案很有诱惑力:手机组 14.74% vs 座机组 5.23%,差距 +9.51pp。但这个数字混合了两件事——渠道差异与客群差异(座机组接到哪些客户本身不随机)。分析的起点是不相信它。

数据与口径:可做性检查先于一切
#

动手建模前,先对每个字段做"能不能用"的判定——这一步决定后面所有数字的可信度:

  • duration(通话时长)是数据泄漏:它是结果不是原因,任何"外呼前决策"模型禁用。
  • campaign(拨打次数)是反向因果变量:打得多本身就是"销售判断有希望"的结果,只做描述性呈现、不做因果声称。
  • 宏观共线组不进模型:VIF 63.9 / 32.9 / 30.7,时间代理只用 month。
  • pdays=999 是哨兵值:4,110 条曾联系记录同为 999,旅程判定一律用 previous>0,不把哨兵当数值。
  • 类别不平衡(正类 11.27%):全程不用 Accuracy 作评价指标。

分析框架:分层 → 关联 → 调整,三层递进
#

把"渠道效应是真是假"拆成三层递进的问题,顺序即纪律——分层先于匹配:

  1. 生命周期分层——先把人群分开:客户现在处于什么状态?
  2. 层内渠道关联——差异存在于哪一层:在哪层渠道与转化有关联,就只在哪层做调整。
  3. PSM 调整——剥离可观测混杂:把"外呼前已知信息"中可观测的客群构成差异剥离掉,比较"相似的客户"。

每一层都为下一层缩小作用域;质量门(匹配质量不达标就不出数字)贯穿全程。

核心发现
#

发现 1|生命周期状态几乎决定转化,渠道是二阶变量
#

数据事实:老客·曾成功 65.11% vs 新客 8.83%,差距 56.3pp(新客占样本 86.3%);再触达窗口内回归客 63.83% vs 窗口外 12.94%。

为什么重要:客群状态与渠道在原始数据里是纠缠的——座机组里老客占比更高,朴素的 +9.51pp 有相当部分其实是"老客转化本来就高"。不先分层,渠道效应的任何估计都不可信。同时它给出业务杠杆的排序:客户状态管理(窗口期内触达)比渠道选择更大。

策略建议:生命周期分层固化为名单管理的第一刀;回归客在再触达窗口内优先联系,不等窗口过期。

发现 2|渠道差异只存在于新客层,PSM 的作用域由此确定
#

数据事实:新客层 contact 与转化关联 V = 0.1219(手机 11.7% vs 座机 4.7%);回归客层 V = 0.0108、p = 0.42,不显著。

为什么重要:调整只该发生在有关联的层。回归客层渠道与转化无关联——在这一层硬做调整,是制造问题而不是解决问题。

策略建议:PSM 的作用域限定为新客层;回归客层不投入渠道调整资源(其质量门判定见发现 4)。

发现 3|调整后效应 +8.1pp:数字变了形状,但没有消失——三条边界必须一起说
#

数据事实:四个口径的完整对比——

口径手机组座机组差距 (pp)95% CI性质
朴素 · 全量14.74%5.23%+9.51—含选择偏差(客群+旅程混杂)
朴素 · 限定新客11.73%4.69%+7.04—含选择偏差(客群混杂)
PSM · 方案 A(主规格)13.77%5.64%+8.13[+7.1, +9.2]经可观测因素调整后的效应估计
PSM · 方案 B(替换规格)13.80%5.96%+7.84[+6.8, +8.9]同上

为什么重要:三个必须一起说清的点——

  1. 适用边界量化:匹配成功率 29.9%——方案 A 完成 6,259 对匹配(caliper = 0.2 × logit SD),仅覆盖 20,922 名手机组新客中的 29.9%。ATT 只在"能找到可比座机组"的客群上估计,不外推到全体新客;匹配样本的月份构成必须连带报告:may 58.1%、jul 10.1%、aug 8.9%、jun 8.4%——ATT 实际上是在"座机仍被使用"的月份上估计的。
  2. 调整后反而高于朴素新客比较(8.13pp > 7.04pp)——匹配把"座机几乎没在用的月份(aug/jul/apr)“里的手机组客户剔出样本(被剥离 14,663 人,占手机组 70.1%),而这批客户转化率本就偏低(10.9%,低于全体新客手机组的 11.7%)。这不是 PSM 出错,而是"ATT 只代表能找到可比座机组的那部分客群"这条局限的具体体现。
  3. 这是经可观测因素调整后的效应估计,不是因果效应——未观测混杂(销售为何选座机/手机、客户号码可得性)仍可能使估计偏离真值。

策略建议:新客优先手机渠道,但执行口径按"共同支撑域内客群"理解;座机停用月份(aug/jul/apr)不下渠道结论、不排渠道改造计划。

发现 4|回归客层:质量门不过,不出数字
#

数据事实:回归客层座机组仅 403 人(vs 手机组 5,222),PSM 匹配率 7.7%、匹配后 7/58 个特征 SMD>0.1——按预定质量门判定不通过。只报告朴素差异 +2.0pp(26.79% vs 24.81%,p = 0.42 不显著)+ 局限声明。

为什么重要:“质量门不过就不出数字"的纪律比任何一个数字都值钱——给不可比的估计,比声明估计不了更糟。这一层是纪律的展示位,不是分析的失败位。

策略建议:回归客层渠道策略不动(维持现状,不投入改渠道);该层的杠杆在历史状态(pdays_bucket / poutcome),不在渠道。

发现 5|Gains 排序:名单是比渠道更大的杠杆
#

数据事实:用"外呼前已知信息"训练的分层模型 OOF AUC 0.7403;按潜力分从高到低联系:Top 5% 捕获 25.7% 转化量(Lift 5.14×)、Top 10% 捕获 40.2%、Top 20% 捕获 54.0%(Lift 2.70×),曲线在头部 20% 后放缓。最强信号是"无可考历史"本身(pdays_bucket_999,系数 −1.490)。

为什么重要:效应估计回答"改渠道每人高多少”,评分模型回答"先打谁”——在外呼资源固定的前提下,排序收益直接可兑现,不需要等任何渠道切换发生。Top 20% 之后曲线放缓,说明它是 ROI 最优区间,打满即止。

策略建议:外呼顺序按潜力分排,Top 20% 名单打满,后 50% 降频或转自助渠道;对没有历史痕迹的新客,潜力评分是分层的第一刀。

Gains排序图
Gains 曲线:联系 Top20% 名单即捕获 54.0% 的转化量(AUC 0.7403,判别力而非因果证据)。

综合策略与收益预估
#

七条建议按证据强度分层——证据性质决定建议的置信度,也决定执行优先级:

#建议证据性质置信度
1新客(first_time)优先手机渠道,名单默认按手机排班PSM 经可观测因素调整:+8.1pp [7.1, 9.2](共同支撑域客群内)高
2渠道差异最大的月份不是淡季;aug/jul/apr 座机停用月,渠道优先级让位于名单质量数据事实 + PSM 共同支撑高
3外呼顺序按潜力分排,Top 20% 名单打满(捕获 54.0% 转化量),后 50% 降频或转自助渠道判别力(OOF AUC 0.7403),非因果中
4生命周期分层 × Top20% 潜力评分双维度排优先级描述性 + 判别力中
5回归客渠道策略不动(维持现状,不投入改渠道)质量门不过:证据不足,不是证无效果中
6前 3 次触达是黄金窗口(首次触达捕获总转化量 49.6%,前 3 次累计 88.1%),作排班 / 跟进设计参考纯描述性;条件事实,不是"少打几通就少损失"低
7不因高次数段转化率持稳给加码(6 次后的回升是选择效应外观)描述性 + 反向因果声明低

实施顺序:先名单排序(收益直接可兑现、不依赖渠道切换)→ 新客手机渠道(共同支撑域内)→ 回归客窗口期触达 → 不在座机停用月份动渠道。不做什么同样写清:不用 duration 训练任何决策模型(数据泄漏);不给 campaign 下因果结论(反向因果);回归客层不出渠道数字(质量门不过)。

收益边界:本项目无上线条件,以上均为效应估计与判别力、非实测收益。可兑现的形态有两类——名单侧:Top 20% 捕获 54.0% 转化量,资源固定时优先排序直接提升转化总量;渠道侧:+8.1pp 仅适用于共同支撑域内新客,ATT 不外推,座机停用月份效应无法估计,逐条声明而不是硬跑一个数字。

可信度验证
#

  • PSM 四件套:混杂选择(人口统计 7 项 + month 时间代理,OneHot 后 41 维,PS AUC 0.8825)→ 共同支撑域检查 → SMD 平衡性检验 → ATT 估计。匹配后 49 个特征水平中 46 个 SMD<0.1,仅剩的 3 个全是月份(座机停用月)——属信息缺失而非匹配失败。
PSM匹配前后SMD平衡性图
方案 A 平衡性检验(SMD):匹配后 49 个特征水平中 46 个 <0.1,仅剩的 3 个全是月份(座机停用月)。
  • 双规格互证:方案 A 标准 caliper-NN,方案 B 精确匹配 month + 层内 NN——结论一致才进决策口径,结论打架继续查。
  • 质量门纪律:匹配质量不达标就不出数字,回归客层是这条纪律的执行记录。
  • 可做性检查前置:duration 禁用、campaign 只做描述、共线组不进模型——见「数据与口径」。

经验迁移与拓展收益
#

货拉拉质检工作的真实困境与此同构:规则 / 话术调整上线后"看起来"变好了——这是调整本身的功劳,还是客群、时段的自然变化?这类调整几乎不走 AB 测试,只有历史观察数据。本项目跑通的不是"在公开数据集上演示 PSM",而是六个可复用的具体经验:

  1. 可做性检查先于一切——campaign 式反向因果变量先怀疑,再使用;
  2. 分层先于匹配——不在纠缠的人群上直接调整;
  3. 共同支撑域检查是现实检验——改动后的策略在某个时段几乎全覆盖、缺对照组时,如实报告该时段效应无法估计;
  4. 匹配做了不算完——回报结构分布必须连带报告,“调整后估计"必须说明它代表哪部分客群;
  5. 双规格互证才敢下判断;
  6. 质量门不过就不出数字。

代码与数据
#

  • GitHub:ArlesZhang/Outbound-Sales-Strategy-Analysis
  • 仓库含:notebooks 01–05(数据质量与生命周期分层 / 驱动因素 / 客户评分 / PSM 渠道验证 / 外呼节奏)、docs/00_methodology_notes.md(口径与声明基准)、12 张分析图表
  • 数据:UCI Bank Marketing 公开数据集(41,188 × 21,正类 11.27%)