南通网站建设心得,网页编程培训学校,汕头seo排名,wordpress api文档下载人工智能概述
课程前置知识
线性代数 概率论 #xff08;不要有路径依赖#xff0c;遇到不会的就现学#xff09;Python基础
人工智能
问题分类
人工智能#xff0c;实际上就是利用计算机来代替人脑进行智能工作#xff0c;计算机所要实现的智能可以分为两大部分 概率论 不要有路径依赖遇到不会的就现学Python基础
人工智能
问题分类
人工智能实际上就是利用计算机来代替人脑进行智能工作计算机所要实现的智能可以分为两大部分分别是推理和预测。
推理类
根据已有的信息来进行推理并做出决策的过程。
比如通过外界信息来判断自己要吃什么 人脑 - 中午吃什么 机器学习 - 中午吃什么
预测类
根据具体的实体将实体与抽象概念结合起来。
比如通过认识猫这一动物实体来与汉字“猫”建立联系本质是一个预测的过程赋予真实存在的事物一个不真实存在的抽象的符号 人 - 识别猫 机器学习 - 识别猫 算法分类
机器学习主要分为监督学习和非监督学习监督学习相当于考前给模拟卷和答案看完之后再考试而非监督学习就是给模拟卷但是不给答案看完之后就考试。
在学习的过程中需要用到机器学习算法这里的算法属于智能算法而不是我们算法课学的那些传统算法。
传统算法与智能算法
传统算法比如穷举法暴力法、分治法、动态规划dp和贪心我们基于这些思想可以利用数据结构来人工地设计算法。
智能算法是基于数据集生成的算法而非人工设计主要和统计相关。
人工智能领域细分
人工智能包括传统的知识库和新兴的机器学习而深度学习实际上是基于机器学习中的神经网路而衍生出的一种手段是机器学习的一个分支。 AI知识库- 机器学习逻辑回归- 表示学习自动编码器 - 深度学习多层感知机等神经网络 学习系统的发展
基于规则的系统
将数据输入人工设计的程序中从而得到满足目的的输出。 eg基于根据导函数求解原函数的法则设计求解原函数的程序其中用到积分规则来建立知识库并非真正的智能。
经典机器学习算法
在输入以后进行人工的特征提取并对所提取的特征进行适配以此来得到相应的输出。即先将具体信息变成张量再实现对张量的映射来得到输出。 表示学习方法
维度诅咒
在整个input里面对特征的需求越多则对整个样本数量的需求就越大造成参数空间搜索组合爆炸。
说明
依据大数定律采样越多与数据真实情况越接近。假定对于每个feature需要采集十个样本才能保证与真实情况足够得接近。
对于一组数据如果只有一个feature需要10个采样点。有两个feature 则需要102个采样点有n个feature,则需要10n个采样点。从而引起对原始数据量的过度需求即维度诅咒。
解决方法
进行一个线性或者非线性的映射来让原始维度降低。经过降维后的特征有可能会丢失关键信息因此综合上述问题需要进行表示学习的过程即在降维的同时而又保持住高维空间的度量信息也就是使用更少的更有代表性的参数。
第一代
在提取特征时利用特殊的算法进行也就是自动提取特征而非人工提取。
提取特征的部分以及最终学习的部分深色框需要分开训练。先提取特征再学习算法。 第二代深度学习
利用原始特征来进行特征提取在原始特征的基础上再进行提取所有训练过程是统一的。
将特征提取和特征函数训练两个过程结合起来也称之为End2End端到端。 传统机器学习策略 神经网络基础
基本原理
模仿神经元细胞来进行的设计在整体结构上模仿神经进行分层设计属于仿生学的算法。 人工神经网络Artificial Neural Networks简写为ANNs也简称为神经网络NNs或称作连接模型Connection Model它是一种模仿动物神经网络行为特征进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度通过调整内部大量节点之间相互连接的关系从而达到处理信息的目的。 神经网络是通过对人脑的基本单元——神经元的建模和联接探索模拟人脑神经系统功能的模型并研制一种具有学习、联想、记忆和模式识别等智能信息处理功能的人工系统。神经网络的一个重要特性是它能够从环境中学习并把学习的结果分布存储于网络的突触连接中。神经网络的学习是一个过程在其所处环境的激励下相继给网络输入一些样本模式并按照一定的规则学习算法调整网络各层的权值矩阵待网络各层权值都收敛到一定值学习过程结束。然后我们就可以用生成的神经网络来对真实数据做分类。 正向传播和反向传播
正向传播本质上是按照输入层到输出层的顺序求解并保存网络中的中间变量本身。
反向传播本质上是按照输出层到输入层的顺序求解并保存网络中的中间变量以及其他参数的导数梯度。
两者核心都是计算图
下图中左图每一步是需要正向传播过程计算的中间量及结果右图是需要进行反向传播过程进行计算的导数。 正向传播
上图中的实际计算过程为
e(ab)∗(b1)e(ab)*(b1) e(ab)∗(b1)
每一步都只能进行原子计算每个原子计算构成一个圈继而形成整个计算图。
在计算图中先进行正向计算cabcabcab, db1db1db1,再进行ec∗dec*dec∗d求解得到ee的值以后即完成了正向计算的过程。
反向传播 小结
需要学会已经发展健全的基本神经网络的结构进行针对问题的重新组装与搭建。
