如何提高网站的收录率和收录量,wordpress主题在线帮助中心,上海比较好的网站制作公司,网页设计师考证多少钱来源#xff1a;海豚数据科学实验室研究人员在研究图像处理算法时提出了CNN#xff08;卷积神经网络#xff09;的概念。传统的全连接网络是一种黑盒子 - 它接收所有输入并通过每个值传递到一个dense 网络#xff0c;然后再传递给一个热输出。这似乎适用于少量的输入。当我… 来源海豚数据科学实验室研究人员在研究图像处理算法时提出了CNN卷积神经网络的概念。传统的全连接网络是一种黑盒子 - 它接收所有输入并通过每个值传递到一个dense 网络然后再传递给一个热输出。这似乎适用于少量的输入。当我们处理1024x768像素的图像时我们输入3x1024x768 2359296个数字每个像素的RGB值。使用2359296个数字的输入向量的dense多层神经网络在第一层中每个神经元至少具有2359296个权重 - 第一层的每个神经元具有2MB的权重。对于处理器以及RAM在20世纪90年代和2000年除这几乎是不可能的。这导致研究人员想知道是否有更好的方法来完成这项工作。任何图像处理识别中的第一个也是最重要的任务通常是检测边缘和纹理。接下来是识别和处理真实对象。很明显要注意检测纹理和边缘实际上并不依赖于整个图像。人们需要查看给定像素周围的像素以识别边缘或纹理。此外用于识别边缘或纹理的算法在整个图像中应该是相同的。我们不能对图像的中心或任何角落或侧面使用不同的算法。检测边缘或纹理的概念必须相同。我们不需要为图像的每个像素学习一组新参数。这种理解导致了卷积神经网络。网络的第一层由扫描图像的小块神经元组成 - 一次处理几个像素。通常这些是9或16或25像素的正方形。CNN非常有效地减少了计算量。小的“filter/kernel”沿着图像滑动一次处理一小块。整个图像所需的处理非常相似因此非常有效。虽然它是为图像处理而引入的但多年来CNN已经在许多其他领域中得到应用。一个例子现在我们已经了解了CNN的基本概念让我们了解数字的工作原理。正如我们所看到的边缘检测是任何图像处理问题的主要任务。让我们看看CNN如何用于解决边缘检测问题。左边是16x16单色图像的位图。矩阵中的每个值表示相应像素的亮度。我们可以看到这是一个简单的灰色图像中间有一个方块。当我们尝试将其用2x2 filter中图进行卷积时我们得到一个14x14的矩阵右图。我们选择的filter 可以突出显示图像中的边缘。我们可以在右边的矩阵中看到原始图像中与边缘对应的值是高的(正的或负的)。这是一个简单的边缘检测filter。研究人员已经确定了许多不同的filter可以识别和突出图像的各个不同方面。在典型的卷积神经网络CNN模型开发中我们让网络自己学习和发现这些filters。重要概念以下是我们在进一步使用CNN之前应该了解的一些重要概念。Padding卷积filter的一个明显问题是每一步都通过减小矩阵大小来减少“信息” - 缩小输出。基本上如果原始矩阵是N×N并且filter是F×F则得到的矩阵将是N-F 1×N-F 1。这是因为边缘上的像素比图像中间的像素少。如果我们在所有边上按F - 1/ 2像素填充图像则将保留N×N的大小。因此我们有两种类型的卷积即Valid Convolution和 Same Convolution。Valid 实质上意味着没有填充。因此每个卷积都会导致尺寸减小。Same Convolution使用填充以便保留矩阵的大小。在计算机视觉中F通常是奇数。奇数F有助于保持图像的对称性也允许一个中心像素这有助于在各种算法中应用均匀偏差。因此3x3, 5x5, 7x7 filter是很常见的。我们还有1x1个filter。Strided我们上面讨论的卷积是连续的因为它连续扫描像素。我们也可以使用strides - 通过在图像上移动卷积filter时跳过s像素。因此如果我们有nxn图像和fxf filter并且我们用stride s和padding p进行卷积则输出的大小为n 2p -f/ s 1xn 2p -f/ s 1卷积v / s互相关互相关基本上是在底部对角线上翻转矩阵的卷积。翻转会将关联性添加到操作中。但在图像处理中我们不会翻转它。RGB图像上的卷积现在我们有一个nxnx 3图像我们用fxfx 3 filter进行卷积。因此我们在任何图像及其filter中都有高度宽度和通道数。任何时候图像中的通道数量与filter中的通道数量相同。这个卷积的输出有宽度和高度n-f 1和1通道。多个filters一个3通道图像与一个3通道filter卷积得到一个单一通道输出。但我们并不局限于一个filter。我们可以有多个filters——每个filter都会产生一个新的输出层。因此输入中的通道数应该与每个filter中的通道数相同。filters的数量和输出通道的数量是一样的。因此我们从3个通道的图像开始并在输出中以多个通道结束。这些输出通道中的每一个都表示图像的某些特定方面这些方面由相应的filter拾取。因此它也被称为特征而不是通道。在一个真正的深层网络中我们还添加了一个偏差和一个非线性激活函数如RelU。池化层池化基本上是将值组合成一个值。我们可以有平均池最大池化最小化池等。因此使用fxf池化的nxn输入将生成(n/f)x(n/f)输出。它没有需要学习的参数。最大池化CNN架构典型的中小型CNN模型遵循一些基本原则。典型的CNN架构交替卷积和池化层逐渐减小frame 大小并增加frame 数朝向末端的Flat 和全连接层对所有隐藏层激活RelU然后为最终层激活softmax随着我们转向大型和超大型网络事情变得越来越复杂。研究人员为我们提供了更多可以在这里使用的具体架构如ImageNet, GoogleNet和VGGNet等。Python实现通常实现CNN模型时先进行数据分析和清理然后选择我们可以开始的网络模型。我们根据网络数量和层大小及其连接性的布局提供架构 - 然后我们允许网络自己学习其余部分。然后我们可以调整超参数来生成一个足以满足我们目的的模型。让我们看一个卷积网络如何工作的简单例子。导入模块我们首先导入所需的Python库。import numpy as np
import tensorflow as tf
from tensorflow import keras
from keras.layers import Dense, Conv2D, Flatten, MaxPooling2D
from keras.models import Sequential获取数据下一步是获取数据。我们使用构建到Keras模块中的机器学习数据集——MNIST数据集。在现实生活中这需要更多的处理。我们加载训练和测试数据。我们reshape数据使其更适合卷积网络。基本上我们将其reshape为具有60000记录数大小为28x28x1的4D数组每个图像的大小为28x28。这使得在Keras中构建Convolutional层变得容易。如果我们想要一个dense 神经网络我们会将数据reshape为60000x784 - 每个训练图像的1D记录。但CNN是不同的。请记住卷积的概念是2D - 因此没有必要将其flattening 为1维数组。我们还将标签更改为分类的one-hot数组而不是数字分类。最后对图像数据进行归一化处理以降低梯度消失的可能性。(train_images, train_labels), (test_images, test_labels) tf.keras.datasets.mnist.load_data()
train_images train_images.reshape(60000,28,28,1)
test_images test_images.reshape(10000,28,28,1)
test_labels tf.keras.utils.to_categorical(test_labels)
train_labels tf.keras.utils.to_categorical(train_labels)
train_images train_images / 255.0
test_images test_images / 255.0构建模型Keras库为我们提供了准备使用API来构建我们想要的模型。我们首先创建Sequential模型的实例。然后我们将层添加到模型中。第一层是卷积层处理28x28的输入图像。我们将核大小定义为3并创建32个这样的核 - 创建32 frames 的输出 - 大小为26x2628-3 1 26接下来是2x2的最大池化层。这将尺寸从26x26减小到13x13。我们使用了最大池化因为我们知道问题的本质是基于边缘 - 我们知道边缘在卷积中显示为高值。接下来是另一个核大小为3x3的卷积层并生成24个输出frames。每frame的大小为22x22。接下来是卷积层。最后我们将这些数据flatten 并将其输入到dense 层该层具有对应于10个所需值的输出。model Sequential()
model.add(Conv2D(32, kernel_size3, activationrelu, input_shape(28,28,1)))
model.add(MaxPooling2D(pool_size(3, 3)))
model.add(Conv2D(24, kernel_size3, activationrelu))
model.add(MaxPooling2D(pool_size(2, 2)))
model.add(Flatten())
model.add(Dense(10, activationsoftmax))
model.compile(optimizeradam, losscategorical_crossentropy, metrics[accuracy])训练模型最后我们用我们拥有的数据训练机器学习模型。五个epochs足以获得一个相当准确的模型。model.fit(train_images, train_labels, validation_data(test_images, test_labels), epochs5)最后上面的模型只有9*32 9*24 504个值需要学习。全连接网络在第一层本身需要每个神经元784个权重因此我们大大节省了处理能力 - 同时降低了过度拟合的风险。请注意我们使用了我们所知道的然后训练模型来发现其余部分。使用全连接或随机稀疏网络的黑盒方法永远不会以这个成本获得这样的准确性。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市大脑研究计划构建互联网城市大脑技术和企业图谱为提升企业行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
