影楼网站模板下载,软件开发是啥,wordpress按住标题没有显,如何提高权重降维#xff1a;将训练数据中的样本从高维空间转换到低维空间#xff0c;降维是对原始数据线性变换实现的。为什么要降维#xff1f;高维计算难#xff0c;泛化能力差#xff0c;防止维数灾难优点#xff1a;减少冗余特征#xff0c;方便数据可视化#xff0c;减少内存…降维将训练数据中的样本从高维空间转换到低维空间降维是对原始数据线性变换实现的。为什么要降维高维计算难泛化能力差防止维数灾难优点减少冗余特征方便数据可视化减少内存。缺点可能丢失数据需要确定保留多少主成分
奇异值分解
把一个矩阵拆成三个对角矩阵起到拉伸作用正交矩阵起到旋转作用。A UΣVTU和V为正交矩阵Σ为对角矩阵 Created with Raphaël 2.3.0 开始 M UΣV^T 求M^TM的特征向量得到V 求MM^T的特征向量得到U 求M^TM或MM^T的特征值然后开放得到奇异值 构成对角矩阵Σ 应用节省存储空间降维图片压缩
主成分分析
PCA识别在训练集中占方差最大的轴步骤
Z值化计算协方差矩阵它的特征向量就是主成分 利用SVD求特征向量基于特征值求特征向量
对角矩阵代表方差其余代表相关性缺点分类问题效果不好
t-SNE
归一化计算在二维空间中数据的相似度将二维随机映射到一维然后按照高纬度和低纬度相似度的差异设计损失函数用梯度下降来优化 常见降维算法