python数据分析与应用-Python数据分析与应用 PDF 内部全资料版

python数据分析与应用-Python数据分析与应用 PDF 内部全资料版,第1张

给大家带来的一篇关于Python数据相关的电子书资源,介绍了关于Python方面的内容,本书是由人民邮电出版社出版,格式为PDF,资源大小281 MB,黄红梅 张良均编写,目前豆瓣、亚马逊、当当、京东等电子书综合评分为:78。

内容介绍

目录

第1章 Python数据分析概述 1

任务11 认识数据分析 1

111 掌握数据分析的概念 2

112 掌握数据分析的流程 2

113 了解数据分析应用场景 4

任务12 熟悉Python数据分析的工具 5

121 了解数据分析常用工具 6

122 了解Python数据分析的优势 7

123 了解Python数据分析常用类库 7

任务13 安装Python的Anaconda发行版 9

131 了解Python的Anaconda发行版 9

132 在Windows系统中安装Anaconda 9

133 在Linux系统中安装Anaconda 12

任务14 掌握Jupyter Notebook常用功能 14

141 掌握Jupyter Notebook的基本功能 14

142 掌握Jupyter Notebook的高 级功能 16

小结 19

课后习题 19

第2章 NumPy数值计算基础 21

任务21 掌握NumPy数组对象ndarray 21

211 创建数组对象 21

212 生成随机数 27

213 通过索引访问数组 29

214 变换数组的形态 31

任务22 掌握NumPy矩阵与通用函数 34

221 创建NumPy矩阵 34

222 掌握ufunc函数 37

任务23 利用NumPy进行统计分析 41

231 读/写文件 41

232 使用函数进行简单的统计分析 44

233 任务实现 48

小结 50

实训 50

实训1 创建数组并进行运算 50

实训2 创建一个国际象棋的棋盘 50

课后习题 51

第3章 Matplotlib数据可视化基础 52

任务31 掌握绘图基础语法与常用参数 52

311 掌握pyplot基础语法 53

312 设置pyplot的动态rc参数 56

任务32 分析特征间的关系 59

321 绘制散点图 59

322 绘制折线图 62

323 任务实现 65

任务33 分析特征内部数据分布与分散状况 68

331 绘制直方图 68

332 绘制饼图 70

333 绘制箱线图 71

334 任务实现 73

小结 77

实训 78

实训1 分析1996 2015年人口数据特征间的关系 78

实训2 分析1996 2015年人口数据各个特征的分布与分散状况 78

课后习题 79

第4章 pandas统计分析基础 80

任务41 读/写不同数据源的数据 80

411 读/写数据库数据 80

412 读/写文本文件 83

413 读/写Excel文件 87

414 任务实现 88

任务42 掌握DataFrame的常用操作 89

421 查看DataFrame的常用属性 89

422 查改增删DataFrame数据 91

423 描述分析DataFrame数据 101

424 任务实现 104

任务43 转换与处理时间序列数据 107

431 转换字符串时间为标准时间 107

432 提取时间序列数据信息 109

433 加减时间数据 110

434 任务实现 111

任务44 使用分组聚合进行组内计算 113

441 使用groupby方法拆分数据 114

442 使用agg方法聚合数据 116

443 使用apply方法聚合数据 119

444 使用transform方法聚合数据 121

445 任务实现 121

任务45 创建透视表与交叉表 123

451 使用pivot_table函数创建透视表 123

452 使用crosstab函数创建交叉表 127

453 任务实现 128

小结 130

实训 130

实训1 读取并查看P2P网络贷款数据主表的基本信息 130

实训2 提取用户信息更新表和登录信息表的时间信息 130

实训3 使用分组聚合方法进一步分析用户信息更新表和登录信息表 131

实训4 对用户信息更新表和登录信息表进行长宽表转换 131

课后习题 131

第5章 使用pandas进行数据预处理 133

任务51 合并数据 133

511 堆叠合并数据 133

512 主键合并数据 136

513 重叠合并数据 139

514 任务实现 140

任务52 清洗数据 141

521 检测与处理重复值 141

522 检测与处理缺失值 146

523 检测与处理异常值 149

524 任务实现 152

任务53 标准化数据 154

531 离差标准化数据 154

532 标准差标准化数据 155

533 小数定标标准化数据 156

534 任务实现 157

任务54 转换数据 158

541 哑变量处理类别型数据 158

542 离散化连续型数据 160

543 任务实现 162

小结 163

实训 164

实训1 插补用户用电量数据缺失值 164

实训2 合并线损、用电量趋势与线路告警数据 164

实训3 标准化建模专家样本数据 164

课后习题 165

第6章 使用scikit-learn构建模型 167

任务61 使用sklearn转换器处理数据 167

611 加载datasets模块中的数据集 167

612 将数据集划分为训练集和测试集 170

613 使用sklearn转换器进行数据预处理与降维 172

614 任务实现 174

任务62 构建并评价聚类模型 176

621 使用sklearn估计器构建聚类模型 176

622 评价聚类模型 179

623 任务实现 182

任务63 构建并评价分类模型 183

631 使用sklearn估计器构建分类模型 183

632 评价分类模型 186

633 任务实现 188

任务64 构建并评价回归模型 190

641 使用sklearn估计器构建线性回归模型 190

642 评价回归模型 193

643 任务实现 194

小结 196

实训 196

实训1 使用sklearn处理wine和wine_quality数据集 196

实训2 构建基于wine数据集的K-Means聚类模型 196

实训3 构建基于wine数据集的SVM分类模型 197

实训4 构建基于wine_quality数据集的回归模型 197

课后习题 198

第7章 航空公司客户价值分析 199

任务71 了解航空公司现状与客户价值分析 199

711 了解航空公司现状 200

712 认识客户价值分析 201

713 熟悉航空客户价值分析的步骤与流程 201

任务72 预处理航空客户数据 202

721 处理数据缺失值与异常值 202

722 构建航空客户价值分析关键特征 202

723 标准化LRFMC模型的5个特征 206

724 任务实现 207

任务73 使用K-Means算法进行客户分群 209

731 了解K-Means聚类算法 209

732 分析聚类结果 210

733 模型应用 213

734 任务实现 214

小结 215

实训 215

实训1 处理信用卡数据异常值 215

实训2 构造信用卡客户风险评价关键特征 217

实训3 构建K-Means聚类模型 218

课后习题 218

第8章 财政收入预测分析 220

任务81 了解财政收入预测的背景与方法 220

811 分析财政收入预测背景 220

812 了解财政收入预测的方法 222

813 熟悉财政收入预测的步骤与流程 223

任务82 分析财政收入数据特征的相关性 223

821 了解相关性分析 223

822 分析计算结果 224

823 任务实现 225

任务83 使用Lasso回归选取财政收入预测的关键特征 225

831 了解Lasso回归方法 226

832 分析Lasso回归结果 227

833 任务实现 227

任务84 使用灰色预测和SVR构建财政收入预测模型 228

841 了解灰色预测算法 228

842 了解SVR算法 229

843 分析预测结果 232

844 任务实现 234

小结 236

实训 236

实训1 求取企业所得税各特征间的相关系数 236

实训2 选取企业所得税预测关键特征 237

实训3 构建企业所得税预测模型 237

课后习题 237

第9章 家用热水器用户行为分析与事件识别 239

任务91 了解家用热水器用户行为分析的背景与步骤 239

911 分析家用热水器行业现状 240

912 了解热水器采集数据基本情况 240

913 熟悉家用热水器用户行为分析的步骤与流程 241

任务92 预处理热水器用户用水数据 242

921 删除冗余特征 242

922 划分用水事件 243

923 确定单次用水事件时长阈值 244

924 任务实现 246

任务93 构建用水行为特征并筛选用水事件 247

931 构建用水时长与频率特征 248

932 构建用水量与波动特征 249

933 筛选候选洗浴事件 250

934 任务实现 251

任务94 构建行为事件分析的BP神经网络模型 255

941 了解BP神经网络算法原理 255

942 构建模型 259

943 评估模型 260

944 任务实现 260

小结 263

实训 263

实训1 清洗运营商客户数据 263

实训2 筛选客户运营商数据 264

实训3 构建神经网络预测模型 265

课后习题 265

附录A 267

附录B 270

参考文献 295

学习笔记

Jupyter Notebook(此前被称为 IPython notebook)是一个交互式笔记本,支持运行 40 多种编程语言。 Jupyter Notebook 的本质是一个 Web 应用程序,便于创建和共享文学化程序文档,支持实时代码,数学方程,可视化和 markdown。 用途包括:数据清理和转换,数值模拟,统计建模,机器学习等等 。 定义 (推荐学习:Python视频教程) 用户可以通过电子邮件,Dropbox,GitHub 和 Jupyter Notebook Viewer,将 Jupyter Notebook 分享给其他人。 在Jupyter Notebook 中,代码可以实时的生成图像,视频,LaTeX和JavaScript。 使用 数据挖掘领域中最热门的比赛 Kaggle 里的资料都是Jupyter 格式 。 架构 Jupyter组件 Jupyter包含以下组件: Jupyter Notebook 和 ……

本文实例讲述了Python实现的微信好友数据分析功能。分享给大家供大家参考,具体如下: 这里主要利用python对个人微信好友进行分析并把结果输出到一个html文档当中,主要用到的python包为 itchat , pandas , pyecharts 等 1、安装itchat 微信的python sdk,用来获取个人好友关系。获取的代码 如下: import itchatimport pandas as pdfrom pyecharts import Geo, Baritchatlogin()friends = itchatget_friends(update=True)[0:]def User2dict(User): User_dict = {} User_dict["NickName"] = User["NickName"] if User["NickName"] else "NaN" User_dict["City"] = User["City"] if User["City"] else "NaN" User_dict["Sex"] = User["Sex"] if User["Sex"] else 0 User_dict["Signature"] = User["Signature"] if User["Signature"] else "NaN" ……

基于微信开放的个人号接口python库itchat,实现对微信好友的获取,并对省份、性别、微信签名做数据分析。 效果: 直接上代码,建三个空文本文件stopwordstxt,newdittxt、unionWordstxt,下载字体simheittf或删除字体要求的代码,就可以直接运行。 #wxfriendspy 2018-07-09import itchatimport sysimport pandas as pdimport matplotlibpyplot as pltpltrcParams['fontsans-serif']=['SimHei']#绘图时可以显示中文pltrcParams['axesunicode_minus']=False#绘图时可以显示中文import jiebaimport jiebaposseg as psegfrom scipymisc import imreadfrom wordcloud import WordCloudfrom os import path#解决编码问题non_bmp_map = dictfromkeys(range(0x10000, sysmaxunicode + 1), 0xfffd) #获取好友信息def getFriends():……

Python数据分析之双色球基于线性回归算法预测下期中奖结果示例

本文实例讲述了Python数据分析之双色球基于线性回归算法预测下期中奖结果。分享给大家供大家参考,具体如下: 前面讲述了关于双色球的各种算法,这里将进行下期双色球号码的预测,想想有些小激动啊。 代码中使用了线性回归算法,这个场景使用这个算法,预测效果一般,各位可以考虑使用其他算法尝试结果。 发现之前有很多代码都是重复的工作,为了让代码看的更优雅,定义了函数,去调用,顿时高大上了 #!/usr/bin/python# -- coding:UTF-8 --#导入需要的包import pandas as pdimport numpy as npimport matplotlibpyplot as pltimport operatorfrom sklearn import datasets,linear_modelfrom sklearnlinear_model import LogisticRegression#读取文件d……

以上就是本次介绍的Python数据电子书的全部相关内容,希望我们整理的资源能够帮助到大家,感谢大家对鬼鬼的支持。

注·获取方式:私信(666)

时间:2021/06/30

系统环境:Windows 10

所用工具:Jupyter Notebook\Python 30

涉及的库:pandas\train_test_split\DecisionTreeClassifier\accuracy_score\roc_curve\matplotlibpyplot\roc_auc_score\export_graphviz\graphviz\os\GridSearchCV

蛋肥想法: 通过测试集数据,检验预测准确度,测得准确度为9547%。

蛋肥想法: 通过绘制ROC曲线,得出AUC值为0966,表明预测效果不错。

蛋肥想法: 特征重要性最高的是“satisfaction_level”,而“salary”在该模型中的特征重要性为0,并不符合实际(钱可太重要了~),应该是因为数据处理时单纯将工资分为“高”“中”“低”3个档次,使得该特征变量在决策树模型中发挥的作用较小。

蛋肥想法: GridSearch网格搜索可以进行单参数和多参数调优,蛋肥这里以max_depth参数来练习调优,得出'max_depth': 7时,AUC更好为0985。

    接着前面的文章,关于语音分帧问题,在前期将语音静音删除后,需要将语音裁剪成长度相同的长度或者分帧,保证数据集的统一。长度不同的音频文件不容易建模分析,需要先分帧,切成长度相同的,另外切成一小段固定长度时,段和段之间适当重叠部分。

    经过一上午的学习实践,参考librosa文档和知乎等资料,终于搞定懂了。

    语音信号是一个非稳态的、时变的信号。但在短时间范围内可以认为语音信号是稳态的、时不变的,这个短时间一般取 10-30ms。进行语音信号处理时,为减少语音信号整体的非稳态、时变的影响,从而对语音信号进行分段处理,其中每一段称为一帧,帧长一般取 25ms。为了使帧与帧之间平滑过渡,保持其连续性,分帧一般采用交叠分段的方法,保证相邻两帧相互重叠一部分,末尾不足部分用零填充。相邻两帧的起始位置的时间差称为帧移,我们一般在使用中帧移取值为 10ms。

    那么对于一个 22050Hz 采样的音频来说,帧长有 22050 0025 = 55125 个点,帧移有 22050 001 = 2205 个点。根据上一篇文章- jupyter notebook完成wav文件探索 ,计算点数方法是采样率 时长,那么wav文件就有589569 22050 = 130000,和librosaload返回的数据是一致的。num_samples、frame_len、frame_shift 分别代表音频的数据点数、帧长和帧移,那么i 帧的数据需要的点数:(i-1) frame_shift + frame_len,n 个点的音频的帧数:ceil(n- / frame_shift) 。

    那么在librosaload语音文件后,需要自己来分帧吗?NO,librosa已经帮你实现了!librosafeaturemfcc函数提取MFCCs特征时,MFCC一般默认帧长为2048,帧移为512,即默认1/4关系。查看参考librosa文档:hop_length = win_length / 4,win_length = n_fft。n_fft=2048, hop_length=512。

        那么笔者再次在jupyter notebook中添加计算,发现和mfcc函数提取的帧数是一致的。那么在提取特征时就不需要自动来保证帧移的分帧。jupyter 真是太好用了,可以查看、修改历史过程,不用从头开始导入数据、分析数据了。

欢迎分享,转载请注明来源:浪漫分享网

原文地址:https://hunlipic.com/qinggan/7855008.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2023-09-07
下一篇2023-09-07

发表评论

登录后才能评论

评论列表(0条)

    保存