《大数据建模应用实战》

  •  
  • 2019-06-05
  •  
  • 429

内容:

数据建模基本过程

预测建模六步法

选择模型:基于业务选择恰当的数据模型

属性筛选:选择对目标变量有显著影响的属性来建模

训练模型:采用合适的算法对模型进行训练,寻找到最合适的模型参数

评估模型:进行评估模型的质量,判断模型是否可用

优化模型:如果评估结果不理想,则需要对模型进行优化

应用模型:如果评估结果满足要求,则可应用模型于业务场景

数据挖掘常用的模型

数值预测模型:回归预测、时序预测等

分类预测模型:逻辑回归、决策树、神经网络、支持向量机等

市场细分:聚类、RFM、PCA等

产品推荐:关联分析、协同过滤等

产品优化:回归、随机效用等

产品定价:定价策略/最优定价等

属性筛选/特征选择/变量降维

基于变量本身特征

基于相关性判断

因子合并(PCA等)

IV值筛选(评分卡使用)

基于信息增益判断(决策树使用)

模型评估

模型质量评估指标:R^2、正确率/查全率/查准率/特异性等

预测值评估指标:MAD、MSE/RMSE、MAPE、概率等

模型评估方法:留出法、K拆交叉验证、自助法等

其它评估:过拟合评估

模型优化

优化模型:选择新模型/修改模型

优化数据:新增显著自变量

优化公式:采用新的计算公式

模型实现算法(暂略)

好模型是优化出来的

案例:通信客户流失分析及预警模型

属性筛选方法

问题:如何选择合适的属性来进行建模预测?

比如:价格是否可用于产品销量的预测?套餐的合理性是否会影响客户流失?在欺诈风险中有哪些数据会有异常表现?

属性筛选/变量降维的常用方法

基于变量本身特征来选择属性

基于数据间的相关性来选择属性

基于因子合并(如PCA分析)实现变量的合并

利用IV值筛选

基于信息增益来选择属性

相关分析(衡量变量间的线性相关性)

问题:这两个属性是否会相互影响?影响程度大吗?

相关分析简介

相关分析的三个种类

简单相关分析

偏相关分析

距离相关分析

相关系数的三种计算公式

Pearson相关系数

Spearman相关系数

Kendall相关系数

相关分析的假设检验

相关分析的四个基本步骤

演练:体重与腰围的关系

演练:营销费用会影响销售额吗

演练:哪些因素与汽车销量有相关性

演练:通信费用与开通月数的相关分析

偏相关分析

偏相关原理:排除不可控因素后的两变量的相关性

偏相关系数的计算公式

偏相关分析的适用场景

距离相关分析

方差分析(衡量类别变量与数据变量的相关性)

问题:哪些才是影响销量的关键因素?

方差分析的应用场景

方差分析的三个种类

单因素方差分析

多因素方差分析

协方差分析

方差分析的原理

方差分析的四个步骤

解读方差分析结果的两个要点

演练:终端摆放位置与终端销量有关吗

演练:开通月数对客户流失的影响分析

演练:客户学历对消费水平的影响分析

演练:广告和价格是影响终端销量的关键因素吗

演练:营业员的性别、技能级别对产品销量有影响吗

演练:寻找影响产品销量的关键因素

多因素方差分析原理

多因素方差分析的作用

多因素方差结果的解读

演练:广告形式、地区对销量的影响因素分析(多因素)

协方差分析原理

协方差分析的适用场景

演练:饲料对生猪体重的影响分析(协方差分析)

列联分析/卡方检验(两类别变量的相关性分析)

交叉表与列联表

卡方检验的原理

卡方检验的几个计算公式

列联表分析的适用场景

案例:套餐类型对客户流失的影响分析

案例:学历对业务套餐偏好的影响分析

案例:行业/规模对风控的影响分析

相关性分析各种方法的适用场景

主成份分析(PCA)

因子分析的原理

因子个数如何选择

如何解读因子含义

案例:提取影响电信客户流失的主成分分析

回归预测模型篇

问题:如何预测产品的销量/销售金额?如果产品跟随季节性变动,该如何预测?新产品上市,如果评估销量上限及销售增速?

常用的数值预测模型

回归预测

时序预测

回归预测/回归分析

问题:如何预测未来的销售量(定量分析)?

回归分析的基本原理和应用场景

回归分析的种类(一元/多元、线性/曲线)

得到回归方程的四种常用方法

Excel函数

散点图+趋势线

线性回归工具

规范求解

线性回归分析的五个步骤

回归方程结果的解读要点

评估回归模型质量的常用指标

评估预测值的准确度的常用指标

演练:散点图找推广费用与销售额的关系(一元线性回归)

演练:推广费用、办公费用与销售额的关系(多元线性回归)

演练:让你的营销费用预算更准确

演练:如何选择最佳的回归预测模型(曲线回归)

带分类变量的回归预测

演练:汽车季度销量预测

演练:工龄、性别与终端销量的关系

演练:如何评估销售目标与资源配置(营业厅)

自动筛选不显著自变量

回归预测模型优化篇

回归分析的基本原理

三个基本概念:总变差、回归变差、剩余变差

方程的显著性检验:是否可以做回归分析?

因素的显著性检验:自变量是否可用?

拟合优度检验:回归模型的质量评估?

理解标准误差的含义:预测的准确性?

回归模型优化思路:寻找最佳回归拟合线

如何处理预测离群值(剔除离群值)

如何剔除非显著因素(剔除不显著因素)

如何进行非线性关系检验(增加非线性自变量)

如何进行相互作用检验(增加相互作用自变量)

如何进行多重共线性检验(剔除共线性自变量)

如何检验误差项(修改因变量)

如何判断模型过拟合(模型过拟合判断)

案例:模型优化案例

规划求解工具简介

自定义回归模型(如何利用规划求解进行自定义模型)

案例:如何对餐厅客流量进行建模及模型优化

好模型都是优化出来的

分类预测模型

问题:如何评估客户购买产品的可能性?或者说,影响客户购买意向的产品关键特性是什么?

分类预测模型概述

常见分类预测模型

评估分类模型的常用指标

正确率、查全率/查准率、特异性等

逻辑回归分析模型(LR)

问题:如果评估用户是否购买产品的概率?

逻辑回归模型原理及适用场景

逻辑回归的种类

二项逻辑回归

多项逻辑回归

如何解读逻辑回归方程

带分类自变量的逻辑回归分析

多项逻辑回归

案例:如何评估用户是否会购买某产品(二项逻辑回归)

案例:多品牌选择模型分析(多项逻辑回归)

决策树分类(DT)

问题:如何提取客户流失者、拖欠货款者的特征?如何预测其流失的概率?

决策树分类的原理

决策树的三个关键问题

如何选择最佳属性来构建节点

如何分裂变量

如何修剪决策树

选择最优属性

熵、基尼索引、分类错误

属性划分增益

如何分裂变量

多元划分与二元划分

连续变量离散化(最优划分点)

修剪决策树

剪枝原则

预剪枝与后剪枝

构建决策树的四个算法

C5.0、CHAID、CART、QUEST

各种算法的比较

如何选择最优分类模型?

案例:识别银行欠货风险,提取欠货者的特征

案例:客户流失预警与客户挽留模型

人工神经网络(ANN)

神经网络概述

神经网络基本原理

神经网络的结构

神经网络的建立步骤

神经网络的关键问题

BP反向传播网络(MLP)

径向基网络(RBF)

案例:评估银行用户拖欠货款的概率

判别分析(DA)

判别分析原理

距离判别法

典型判别法

贝叶斯判别法

案例:MBA学生录取判别分析

案例:上市公司类别评估

最近邻分类(KNN)

基本原理

关键问题

贝叶斯分类(NBN)

贝叶斯分类原理

计算类别属性的条件概率

估计连续属性的条件概率

贝叶斯网络种类:TAN/马尔科夫毯

预测分类概率(计算概率)

案例:评估银行用户拖欠货款的概率

支持向量机(SVM)

SVM基本原理

线性可分问题:最大边界超平面

线性不可分问题:特征空间的转换

维空难与核函数

分类模型优化篇(集成方法)

集成方法的基本原理:利用弱分类器构建强分类模型

选取多个数据集,构建多个弱分类器

多个弱分类器投票决定

集成方法/元算法的种类

Bagging算法

Boosting算法

Bagging原理

如何选择数据集

如何进行投票

随机森林

Boosting的原理

AdaBoost算法流程

样本选择权重计算公式

分类器投票权重计算公式

时序预测模型

问题:无法找到影响因素,无法回归建模,怎么办?随着业务受季节性因素影响,未来的销量如何预测?

时序序列简介

时序分析的原理及应用场景

常见时序预测模型

评估预测值的准确度指标

平均绝对误差MAD

均方差MSE/RMSE

平均误差率MAPE

移动平均

应用场景及原理

移动平均种类

一次移动平均

二次移动平均

加权移动平均

移动平均比率法

移动平均关键问题

最佳期数N的选择原则

最优权重系数的选取原则

演练:平板电脑销量预测及评估

演练:快销产品季节销量预测及评估

指数平滑

应用场景及原理

最优平滑系数的选取原则

指数平滑种类

一次指数平滑

二次指数平滑(Brown线性、Holt线性、Holt指数、阻尼线性、阻尼指数)

三次指数平滑

演练:煤炭产量预测

演练:航空旅客量预测及评估

温特期季节性预测模型

适用场景及原理

Holt-Winters加法模型

Holt-Winters乘法模型

演练:汽车销量预测及评估

回归季节预测模型

季节性回归模型的参数

基于时期t的相加模型

基于时期t的相乘模型

怎样解读模型的含义

案例:美国航空旅客里程的季节性趋势分析

新产品预测模型与S曲线

新产品累计销量的S曲线模型

如何评估销量增长的上限以及拐点

珀尔曲线与龚铂兹曲线

案例:如何预测产品的销售增长拐点,以及销量上限

演戏:预测IPad产品的销量

银行信用评分卡模型

信用评分卡模型简介

评分卡的关键问题

信用评分卡建立过程

筛选重要属性

数据集转化

建立分类模型

计算属性分值

确定审批阈值

筛选重要属性

属性分段

基本概念:WOE、IV

属性重要性评估

数据集转化

连续属性最优分段

计算属性取值的WOE

建立分类模型

训练逻辑回归模型

评估模型

得到字段系数

计算属性分值

计算补偿与刻度值

计算各字段得分

生成评分卡

确定审批阈值

画K-S曲线

计算K-S值

获取最优阈值

实战篇(电信业客户流失分析模型)

商业理解

业务背景

如何定义流失

分析思路

流失客户的典型特征是什么?

预测哪些高价值客户可能会流失?

市场挽留的预计收益是多少?

数据收集

客户基本信息

客户行为数据

客户交互数据

客户态度数据

数据预处理

变量衍生(数据波动)

探索性分析

属性筛选

数据建模

如何选择模型

聚类

决策树或神经网络

模型评估

模型应用

结束:课程总结与问题答疑。


标签:市场营销、营销策划

没有更多内容了