本文是《如何七周成为数据分析师》的第十三篇教程,如果想要了解写作初衷,可以先行阅读七周指南。温馨提示:如果您已经熟悉统计学,大可不必再看这篇文章,或只挑选部分。

描述统计学,往往研究数据的集中和离散。其中,各数据出现次数的情况,也是重要的一个研究方向。

频数分布表示互不重叠的组别中每一组项目的个数。在分类型数据中,频数分布就是各个分类类目的总数。

Clipboard Image.png

上图就是数据分析师的岗位,按城市统计出的频数表,即各个城市的岗位数量。从应用角度看,数据透视表是专门用来计算频数的。我们也能把频数转换成百分比占比,这更直观。

如果将其转换成图表,叫做条形图。饼图也可以描述频数,但是不常用。

Clipboard Image.png

数值型数据也适用于频数分布。以薪资数据为例,因为薪资千差万别,若粗暴地转换成条形图,就会丧失可读性。

数值型数据必须经过分组转换,将数据划分到一个个区间范围内,可以间接认为把数值其转换成了分类数据。从业务角度理解,18和18.1、17.9的差异并不大,为什么不视为一组呢?

组数划分一般选择5~20组,数据量越大,划分的组数就能越多。划分的不同区间范围叫做组宽,组宽是人为定义的,组宽最好等距。用1~80与81~100计算两组的频数,没什么意义。

组宽和组数的选择相辅相成,组数多,组宽相对小,反之亦然。组宽=(最大值-最小值)/组数。我们将案例数据的组宽定义为5,即0~4,5~9,10~14……

用Excel函数 = int(( salary +1)/5)即可正确获得分组后的结果,0代表0~4,1代表5~9。另外一种方式是用frequency( )函数,以数组形式输出。数据分析工具也能绘制频数表。

Clipboard Image.png

因为每一个数据只能属于一个组,所以要规定组的上下限。上文划归的0~4组宽,实际是零到除五之间的数值,包括4.99这类。因为数值型数据可以连续地划分,分类数据没有这顾虑。

分组的过程也叫数据分桶bin,它是常见的一种数据清洗过程。在机器学习中,能提高模型泛化能力。

将汇总的结果生成条形图,调整系列样式,系列重叠和间隙宽度均为0。它的正式名字叫直方图。

Clipboard Image.png

条形图和直方图最大的区别在于矩形的间隔。直方图的矩形没有间隔,之间完全重合(图中的白线是为了显示清楚才加上的)。因为数值型数据的特点是连续性,不能有空档造成断开。

图中的直方图并不标准,横坐标的数字应该为[0,5,10,15,20…]且位于白线下方。我这里略过了。

频数既能用相对数表示,也能用百分比表示。区别在于纵轴。后者用于方便对比。

直方图的一个重要应用是提供了分布信息。不同直方图代表的业务意义不同。需要注意的是,分组将直接影响直方图的外形。

Clipboard Image.png

标准型的形态往往是中间高,两边低,呈中间的集中趋势。它代表一种稳定正常的形态。

Clipboard Image.png

双峰型,一般是混合了多种数据源或者类别数据造成的。

Clipboard Image.png

锯齿型,一般是观察数据的手段和方法不稳定,才会造成直方图的波动。

Clipboard Image.png

孤岛型的直方图,一般是业务上的非正常错误,比如工程零部件出了问题、产品出现了某Bug,造成凸出一块。

Clipboard Image.png

陡峭型,往往是数据源缺失,或者被剔除一部分后,造成这种断崖式的折断。

Clipboard Image.png

偏峰型,分为左偏峰和右偏峰。我们也把它称呼为偏态,上图是一个右偏态。

偏态是分布形态中的一种重要数值度量。很多数据并不呈现完全对称的分布,比如中国工资。

在统计学上,众数和平均数之差可作为偏态的划分指标之一。如果平均数大于众数,称为正偏态/左偏态;相反,则称为负偏态/右偏态。

为了更好的描述偏态的倾斜程度,我们引入偏态系数sk,sk=0时不偏不斜。另外还有一个峰度系数ku,描述分布的扁平瘦窄,ku以3为标准基准。两者组合,当 sk=0,ku=3时,分布呈正态;sk>0时,分布呈正偏态,sk<0时,分布呈负偏态;ku>3时曲线比较陡峭,ku<3时曲线比较平坦。

Clipboard Image.png

偏度和峰度的具体计算,用Excel的skew和kurt函数。数据分析库的描述统计也行。

直方图的左右偏度,对应着不同的业务场景。左偏的典型业务场景就是考试成绩,大部分学生集中在60~90之间。而和钱有关的直方图,基本是右偏,比如销量、流水、消费等。

理论讲完了,继续用数据分析师的薪资实战,偷懒用python代码完成了,Excel作图真的很累的……

先观察整体的直方图,我们将其切分成二十组(和上文Excel图表的差异在于组宽组限的变化)。

Clipboard Image.png

这个数据同时呈现了双峰型和右偏型的分布。双峰型可能是因为我们混合了一二三线城市的数据,而右偏是因为薪资和钱有关,毕竟不是所有的数据分析师都能拿高薪。

单纯过滤出北京的数据。

分布还是呈现乱七八糟的样子,为什么呢?因为我们选取的薪资是网络爬虫获取的薪资范围求平均,并不是真实的水平(很多HR复制黏贴瞎设的),这是不可避免的误差,那应该怎么办呢?可以适当的调整组数。

Clipboard Image.png

组数为十后,分布正常了不少(实际工作中,可以把极大值排除再做直方图)。那么接下来进入分析的环节,之前我们用了箱线图,现在学习直方图吧。它的奥秘也在于对比,通过对比不同的频数,获得洞察。选择北京和上海看一下,纵轴改成百分比。

Clipboard Image.png

调成ggplot的色系更直观一些,红色代表北京,绿色代表上海。图中明显可以看出两地在10~30之间的薪资差异。上海集中在10~20间,北京则是20~30区域更多。组数调大,可以分析地更细。

Clipboard Image.png

城市换成上海和深圳,则是另外一种解读了。

到这里,描述统计的内容就结束了。描述统计是分析数据的一种技巧,包含数据的集中度量(平均数、中位数、众数)、数据的离散(方差、标准差)、数据的分布(箱线图、条形图、直方图)三块。

希望大家养成使用描述统计的习惯,下一章,开始概率的世界:为什么你认为的,都是错的。

相关阅读

一份七周的互联网数据分析能力养成提纲

数据分析能力养成指南01:Excel函数应用汇总

数据分析能力养成指南02:Excel技巧大揭秘

数据分析能力养成指南03:手把手教你Excel实战

数据分析能力养成指南:Excel技巧之甘特图绘制(项目管理)

数据分析能力养成指南:Excel技巧之打造多级菜单

数据分析能力养成指南04:数据可视化之经典图表合集

数据分析能力养成指南05:数据可视化之打造升职加薪的报表

数据分析能力养成指南06:数据可视化之手把手打造BI

数据分析能力养成指南07:快速掌握麦肯锡的分析思维

数据分析能力养成指南08:如何建立数据分析的思维框架?

数据分析能力养成指南09:写给新人的数据库指南

数据分析能力养成指南10:SQL,从入门到熟练

数据分析能力养成指南11:SQL,从熟练到掌握

数据分析能力养成指南12:解锁数据分析的正确姿势(上)

 

作者:秦路,微信公众号ID:tracykanc。

本文由 @秦路 原创发布。未经许可,禁止转载。

评论( 0

登录后参与评论
加入圈子
关注微信公众号

互联网运营学习、交流、分享平台