优秀茶叶网站设计,苏州资讯网站建设,竞价网,ghost 博客wordpress机器学习常见的基础概念
根据输入数据是否具有“响应变量”信息#xff0c;机器学习被分为“监督式学习”和“非监督式学习”。“监督式学习”即输入数据中即有X变量#xff0c;也有y变量#xff0c;特色在于使用“特征#xff08;X变量#xff09;”来预测“响应变量机器学习被分为“监督式学习”和“非监督式学习”。“监督式学习”即输入数据中即有X变量也有y变量特色在于使用“特征X变量”来预测“响应变量y变量”。“非监督式学习”即算法在训练模型时期不对结果进行标记而是直接在数据点之间找有意义的关系或者说输入数据中仅有X变量而没有y变量特色在于针对X变量进行降维或者聚类以挖掘特征变量的自身特征。
“监督式学习”机器学习又分为回归问题和分类问题在python中Classifier一般针对分类问题Regressor一般针对回归问题logistic除外。错误率、精度、查准率、查全率都是“分类问题监督式学习”的常用性能度量标准。ROC曲线下方的区域又被称为AUC值一般情况下AUC值越大说明学习效果越好。
训练样本即计算机用来应用算法构建模型时使用的样本。
测试样本即计算机用来检验机器学习效果、检验外推泛化应用能力时使用的样本
偏差度量的是学习算法的期望预测与真实结果的偏离程度反映的是学习算法的拟合能力。
方差度量的是在大量重复抽样过程中同样大小的训练样本的变动导致的学习性能的变化反映的是数据扰动所造成的影响也就是模型的稳定性。
噪声度量的是针对既定学习任务使用任何学习算法所能达到的期望泛化误差的最小值属于不可约减误差反映的是学习问题本身的难度或者说是无法用机器学习算法解决的问题。噪声大小取决于数据本身的质量当数据给定时机器学习所能达到的泛化能力的上限也就确定。
“泛化误差”反映的模型的“泛化”能力“泛化误差”越小模型“泛化”能力越强。我们之所以开展机器学习是为了基于既有数据来预测未知以期进一步改善未来商业表现所以从应用的角度出发我们主要关注的是泛化误差而不是经验误差如果某种机器学习模型比另一种具有更小的泛化误差那么这种模型就相对更加有效。
为了度量模型的泛化能力通常我们需要进行样本分割可以选用的方法包括验证集法、K折交叉验证、自助法、留一法等。
在机器学习项目的数据清洗与特征工程环节有归一化、标准化、离散化、缺失值处理等多种方式。
Python必学基础
input函数用来实现基本的输入print函数用来实现基本的输出使用时如果括号内容为字符串则可以使用搭配单引号、搭配双引号、搭配三引号。
列表list[a,b,c,d]。列表中的元素可以为整数、实数、字符串、元组、列表等任意类型。
元组tuple(a,b,c,d)。元组为不可变序列元组中的元素不可单独修改。元组中的元素可以为整数、实数、字符串、元组、列表等任意类型可以相同重复也可以不同甚至相互不同的类型。
字典dict {key1 : value1, key2 : value2 }。字典由键key和值value成对组成本质上是键和值的映射。
索引就是序列中的每个元素所在的位置可以通过从左往右的正整数索引也可以通过从右往左的负整数索引。从左往右的正整数索引在Python序列中第一个元素的索引值为0第二个元素的索引值为1以此类推。假设序列中共有n个元素那么最后一个元素的索引值为n-1。从右往左的负整数索引在Python序列中最后一个元素的索引值为-1倒数第二个元素的索引值为-2以此类推。
假设序列中共有n个元素那么第一个元素的索引值为-n。Python中使用数字n乘以一个序列非numpy模块中的数组、非pandas模块中的序列只是普通的序列会生成新的序列内容为原来序列被重复n 次的结果
序列的切片就是将序列切成小的子序列通过切片操作可以访问一定范围内的元素或者生成一个新的子序列。
Python的保留字区分大小写。
流程控制语句
选择语句对应选择执行选择语句包括三种if语句if…else语句和if…elif…else语句。if语句相当于“如果……就……”if…else语句相当于“如果……就……否则……”if…elif…else语句相当于“如果……则……否则如果满足某种条件则……不满足某种条件则……”
循环语句包括两种while语句和for语句。while循环语句通过设定条件语句来控制是否循环执行循环体代码块中的语句只要条件语句为真循环就会一直执行下去直到条件语句不再为真为止。for循环语句为重复一定次数的循环适用于遍历或迭代对象中的元素。
跳转语句依托于循环语句适用于从循环体中提前离开比如在while循环达到结束条件之前离开或者在for循环完成之前离开。跳转语句包括两种break语句和continue语句。
线性回归算法
理解起来比较简单实现起来也比较容易是许多强大的非线性模型的基础具有一定的稳定性和可解释性蕴含着机器学习的很多重要思想。
朴素贝叶斯算法
朴素贝叶斯方法是在贝叶斯算法的基础上进行了相应的简化即假定给定目标值时特征变量之间相互条件独立。包括高斯朴素贝叶斯、多项式朴素贝叶斯、补集朴素贝叶斯、二项式朴素贝叶斯等均可通过Python的sklearn模块实现。
决策树算法
常用的特征变量选择及其临界值确定方法包括信息增益Information Gain、增益比率Gain Ratio、基尼指数Gini Index。在决策树算法中先采用的特征变量未必是贡献最大的而是要看信息增益等指标的变动程度。
二元Logistic回归算法
二元Logistic回归算法中所估计的参数不是特征变量对响应变量的边际效应而是一种“概率优势比”的概念。
集成学习
集成学习组合学习、模型融合的方式即将单一的弱学习器组合在一起通过群策群力形成强学习器达到模型性能的提升。针对集成方法的不同集成学习可以分为并行集成和串行集成。
如果弱学习器间存在强依赖的关系后一个弱学习器的生成需依赖前一个弱学习器的结果则集成学习方式为串行集成代表算法为Boosting提升法包括AdaBoost、GBDT、XGBoost等。其中AdaBoost算法会使得难于分类的样本的权值呈指数增长后续的训练过程将会过于偏向这类困难样本从而导致AdaBoost算法容易受极端值干扰。回归问题损失函数常用平方损失函数、拉普拉斯损失函数绝对损失函数、胡贝尔损失函数和分位数损失函数分类问题损失函数常用指数损失函数、逻辑损失函数、交叉熵损失函数。
如果弱学习器间不存在依赖关系可以同时训练多个基学习器适合分布式并行计算则集成学习方式为并行集成代表算法为装袋法、随机森林算法其中装袋法是随机森林算法一种特例。装袋法在构建基分类器时将所有特征变量都考虑进去随机森林算法仅考虑部分特征变量。
自助法
自助法本质上是一种有放回的再抽样。
学习感言
根据我多年的教学经验大家无论是学数据分析中的机器学习还是统计学、计量经济学都建议结合着具体的软件或编程语言来学对于不想走纯科研路线或者想成为理论大牛的大多数朋友来说不建议过多研究数学公式而是应一边学习知识原理一遍上手操作不然就会在复杂的数学公式推导面前耗尽了所有的学习热情。
Python机器学习与数据分析图书推荐
如果是用Python编程语言针对数据分析或机器学习推荐两本入门级的图书《Python机器学习原理与算法实现》杨维忠 张甜 著 2023年2月新书 清华大学出版社《Python数据科学应用从入门到精通》张甜 杨维忠 著 2023年11月新书 清华大学出版社。这两本书的特色是在数据分析、机器学习各种算法的介绍方面通俗易懂较少涉及数学推导对数学基础要求相对不高在python代码方面讲的很细致看了以后根据自身需要选取算法、优化代码、科学调参。
《Python机器学习原理与算法实现》杨维忠 张甜 著 2023年2月新书 清华大学出版社内容非常详实包含了Python和机器学习相当于一次获得了两本书。在讲解各类机器学习算法时逐一详解用到的各种Python代码针对每行代码均有恰当注释这一点基本上是大多数书目做不到的。《Python机器学习原理与算法实现》一书创作完成后在正式出版之前已经开发成一套系统课程分9次授课在某全国性股份制商业银行内部开展了培训490人根据行内组织统一学习授课完成后放在知鸟平台供回放学习9次课程累计回放量近3万次得到参训学员的一致好评广泛应用于各位学员的工作实践。所以这是一本避雷避坑、已经被亲测可行的网红书只要用心学都没问题哦。 《Python数据科学应用从入门到精通》一书旨在教会读者实现全流程的数据分析并且相对《Python机器学习原理与算法实现》一书增加了很多概念性、科普性的内容进一步降低了学习难度。国务院发展研究中心创新发展研究部第二研究室主任杨超 山东大学经济学院金融系党支部书记、副主任、副教授、硕士生导师张博山东管理学院信息工程学院院长 袁锋 教授、硕士生导师山东大学经济学院 刘一鸣 副研究员、硕士生导师得厚投资合伙人 张伟民等一众大牛联袂推荐。全书内容共分13章。其中第1章为数据科学应用概述第2章讲解Python的入门基础知识第3章讲解数据清洗。第4~6章介绍特征工程包括特征选择、特征处理、特征提取。第7章介绍数据可视化。第8~13章介绍6种数据挖掘与建模方法分别为线性回归、Logistic回归、决策树、随机森林、神经网络、RFM分析。从数据科学应用和Python的入门再到数据清洗与特征工程最终完成数据挖掘与建模或数据可视化从而可以为读者提供“从拿到数据开始一直到构建形成最终模型或可视化报告成果”的一站式、全流程指导。买这一本书相当于一下子得到了5本书Python基础、数据清洗、特征工程、数据可视化、数据挖掘与建模入门超级简单不需要编程基础也不需要过多数学推导非常适用于零基础学生。 两本书随书赠送的学习资料也很多包括全部的源代码、PPT、思维导图还有10小时以上的讲解视频每一章后面还有练习题及参考答案还有学习群相对于只看网络上的视频一方面更加系统、高效另一方面照着书一步步操作学起来也事半功倍。全网热销中当当、京东等平台搜索“Python机器学习 杨维忠”“Python数据科学 杨维忠”即可。
创作不易恳请多多点赞感谢您的支持
