修正调研数据扩展使用限度
⇨⇦
缘起——网络调查具有先天的优劣势
最近一个季度做了N多调研项目，结项之余，不由自主地对比了一下网络调查与传统调查的优劣，详见下图：
有了这些先天的优劣势，网络调查一般执行的周期较短，但时常为了样本均衡，会采用脉冲式投放，收集数据的时间会适当延长一些。在我主导的网络调研项目中，投放的样本量一般都有几十万，一是为了能够快速收集足够多的调研样本，二是考虑到低响应率的问题。
如此大的投放量，而网络调研中又有很多不可控的因素，最终使用的有效调研样本量相对较低，他们到底是否能够有效代表总体呢？我想这个问题可以一分为二来看，在相同的执行条件下，只针对性地研究特殊用户的调研，有效调研样本在达到一定量的前提下，代表性偏差一般不大；需要推断网站全体用户的调研，虽然有效调研样本也能达到一定量，但代表性还是会打折扣，尤其是对淘宝用户而言。
加权——弥补网络调研数据先天的劣势
统计学中关于随机抽样的理论中讲过，一个研究随机抽取多少样本与总体的大小无关，而主要与最大允许误差和置信区间有关。但真正执行的时候，未必会这么理想，尤其是在人力财力有限的条件下，随机抽取的投放样本与有效调研样本之间，受响应率和认真填答的积极性等因素影响，会存在偏差。
那么在推断网站全体用户的调研中，就需要引入加权的思想，适当的加权可以使样本的关键结构，调整到与总体的关键结构相一致，从而提升样本的应用范围，所得结论会更严谨更具推广性；针对特殊用户的调研，也可以对样本进行加权，更有效地发挥样本的代表性。
加权的经典场景（例子中引用的数据均为虚拟数据，仅作为说明问题的案例，与真实数据无关）
A场景：常常遇到这样的问题：产品经理想要了解全体买家对某一个产品的使用体验、需求或满意度，也要比较初级买家和高级买家。
一般而言，随机抽取条件下，95%的置信度、5%的最大允许误差，推及目标总体所需样本量为384个，此处为计算方便，近似为400个。
事先已知，全网初级买家与高级买家的比例为39:1，高级买家所占比例仅为2.5%。若按照随机抽样原则抽取投放样本，为保证高级买家对比时满足统计需要，至少应有400个调研样本。那么，随机填答的前提下，总体调研样本至少需要16000个，响应率按照5%计算，需要投放的样本量达到32万。这只是理想状态下的情况，事实上高级买家的响应率更低，这就使得需要投放的总体样本量更大，工作中又不能经常投放如此大量的用户。——事前我们无法保证统计要求，怎么办？
B场景：若要推及全体卖家对某一产品的使用体验，如果随机抽取了20万投放样本，最终有效调研样本有4000个。经过数据匹配可知，调研样本的开店时间分布与总体存在较大差异，而该研究中开店时间是非常重要的指标。——事后我们无法保证统计要求，怎么办？
不论是事前还是事后，为使得研究有效，应该保证统计要求；调研理论与现实执行常常存在很大差距，这也是不争的事实。因此，研究中引入加权的思想，非常重要也很有必要。
加权的前提
样本加权是为了推及总体情况，主要用于两种情形：
加权的准备
范欣珩 于 杭州翠苑三区
如何加权——单变量比例加权
为了比较初级买家与高级买家之间对某一产品的体验差异，采用非等比随机抽样，事先增加了高级买家的抽中比例。
当需要推及总体买家对这一产品的体验情况时，需要对数据进行加权，结果如下：
上表第d列 (S/P) 是用各级别买家在调研样本中占的比例除以其在总体中占的比例，其值越接近1，说明该级别买家在调研样本中的比重越合适；反之，其值越背离1，其在调研样本中的比重越不合适。
若恰巧各组的这一比值均接近1，可以近似等同总体分布，而不对调研样本进行加权。本例显然需要对调研样本进行加权。
首先要确定加权的起点在哪里？这里有三种选择：
1）以S/P的最小值（本例0.69）为起点，将其他组的S/P值都降低到这个水平，因此叫做Scale-down weighting（＂水落石出＂法）。其结果是将原调研样本缩小S/P最小值倍（本例0.69，原调研样本7200人，每组权重为0.69/d列相应值，加权后减至4968)，放水过多，不合适
2）以S/P的最大值（如本例的8.33）为起点，将其他组的S/P值都提高到这个水平，这种策略叫做Scale-up weighting（＂水高船涨＂法）。其结果也就是将原来的调研样本放大S/P最大值倍（本例8.33倍，原调研样本7200人，每组权重为8.33/d列相应值，加权后会增至59976人），可见水分太大，不可取。
3）以S/P的加权平均值为起点，将大于1的S/P值调低至1而将小于1的S/P值调高至1，因此叫做Zero-sum weighting（＂有增有减但总数不变＂法）。加权后的样本数与原调研样本相同、还是7200（见表第f列）。可见这种方法相比之下最合理，学术界和调查业界通常都用它来加权。
比例加权需要注意的几个问题：
1）加权只能调整样本各组之间的相对比例、并不会产生任何新的信息。
2）一个重要细节是如果S/P值中有小于0.5（也即P/S值或权数大于2）的，则不能靠过分灌水来解决问题。这时的对策有三个：
l 增加那些采样不足的（under-sampled）组别的case数量（上策）
l 用S/P值最小值（Scale-down的策略）来加权（最保守、浪费资源、但不犯I类错误）
l 前两者的结合，即增加部分case数然后按新的最小S/P值来加权
3）如果那些采样不足的（under-sampled）组case数量太少（一般不能少于30），需要按2）同样的原则来处理。
对于2）和3）中提到的情况，另外一种变通的方法就是重新划分组，此法省时省力。
4）经过加权的样本，能够推算总体的常规统计量，但计算误差时则不能用加权样本直接计算。
5）为了便于解释，上述例子只涉及一个变量（买家级别）的加权。实际上，研究买家除了级别，注册时长、月成交量/额等也很重要。所以需要用多个变量同时加权 (weighted by several variables simultaneously）。
（本小节以上内容参考了香港城市大学祝建华博士的BLOG文章《如何对样本进行加权？》http://zjz06.ycool.com/post.2695611.html，在此表示感谢，愿祝老师健康、笔耕不辍！）
总结一句话：在随机抽样的前提下，比例加权的本质就是将调研样本分布修正为等比随机抽样分布。
如何加权——单变量推及量加权
为什么用推及量加权：
1） 上小节提到的获取总体参数的变通方法：在总体中用简单随机抽样抽取一定数量的样本，能够获得一个较大的样本，用来推及总体依然带有少许误差。用加权处理的调研样本推及这个大样本群体的行为和态度更为恰当，有时候需要直观的知道这个大样本群体中每种划分的组内有多少人。
2）比例加权的运算方法有些麻烦；而推及量加权的运算方法简便。
推及量加权的依据：
1）加权的前提与比例加权相同：修正非等比随机抽样NPPS和等比随机抽样PPS
2）两种方法等价：
比例加权：Pn%/Sn%
推及量加权：Pn/Sn=(Pn%*P)/(Sn%*S)=(Pn%/Sn%)*P/S 由于每一组case相对于比例加权都扩大了P/S倍，即每一个样本都扩大了P/S倍。绝大部分研究结果都以比例呈现，而计算比例的时候，每一个样本扩大的P/S倍没有影响，因此推及量加权适用。
推及量加权需要注意的事项与比例加权相似，此不赘述。
如何加权——多变量推及量加权
加权的步骤和方法相同
单变量加权时，以买家级别组为例，需要分别统计三组的总体比例（量）和调研样本的比例（量）
多变量加权时，各个变量进行交叉，如三组级别、三组注册时长、三组月成交量，即组合出27组，分别统计这27组的总体比例（量）和调研样本的比例（量）
总结一句话：多变量加权实际上就是单变量加权的复杂版。
如何加权——实际操作
通过EXCEL和SPSS对数据进行加权：
1）通过SPSS计算总体中大样本的有关参数和调研样本相应的统计量
2）将结果放入EXCEL进行整理，注意单变量或多变量交叉后的对应，并批量编写SPSS命令
3）将命令拷贝到记事本，再拷到SPSS的Syntax中运行命令