【神经网络】5. 使用keras搭建神经网路

Tensorflow 的API：keras搭建神经网络

将kearas方法搭建神经网络分为六步：

keras.models.Sequential()

• 可以认为是一个容器，这个容器里封装了一个网络结构
• 在Sequential中，要描述从输入层到输出层每一层的网络结构
• 以全连接层为例，需要设定这一层的神经元个数、激活函数、正则化种类

model.compile()

• 是配置神经网络的训练方法
• 用来设定训练时选择的优化器、损失函数、评测指标

使用格式：

优化器：

两种方法：字符串形式的优化器名字or函数形式（可以调整超参数）

损失函数：

• 损失函数常使用tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False))
• 其中from_logits参数询问神经网络输出是否为原始输出（即：没有经过概率分布softmax处理的输出）
• 如果神经网络输出前经过了概率分布softmax处理，则from_logits=False，反之为true

评测指标：

• 网络评测指标
• 不同的选择，不同之处在于标签值y_与网络输出结果y是值形式还是独热码形式（概率分布形式）
• 大多数情况下，y_都是以值形式，y是概率分布形式，因此常用sparse_categorical_accuracy

model.fit()

• 设定执行过程中的参数
• 其中validation_data与validation_split二者选择其一

model.summary()

• 打印出网络结构和参数统计

实现鸢尾花分类的神经网络

之前没有用API，纯代码编写过可以查看【神经网络】3. 编写一个简单的神经网络，需要一百多行代码

采用keras编写的神经网络只需要20行左右的代码，如下：

import tensorflow as tf
from sklearn import datasets
import numpy as np

x_train = datasets.load_iris().data
y_train = datasets.load_iris().target

np.random.seed(116)
np.random.shuffle(x_train)
np.random.seed(116)
np.random.shuffle(y_train)
tf.random.set_seed(116)

model = tf.keras.models.Sequential([
    tf.keras.layers.Dense(3, activation='softmax', kernel_regularizer=tf.keras.regularizers.l2())
])

model.compile(optimizer=tf.keras.optimizers.SGD(lr=0.05),
              loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False),
              metrics=['sparse_categorical_accuracy'])

model.fit(x_train, y_train, batch_size=32, epochs=500, validation_split=0.2, validation_freq=20)

model.summary()

最后的结果：

对于搭建网络部分的Sequential：

• Sequential可以写出上层输出就是下层输入的顺序网络结构，无法写出一些带有跳连的非顺序网络结构
• 可以选择用类class搭建神经网络结构

class MyModel(Model)：

• 使用class类封装一个网络结构
• MyModel(Model)：MyMode表示类名称；Model表示继承了Tensorflow的Model类
• 如下，左边为MyModel类的框架，右边为一个案例

与上述代码的区别如下：

加入了新的引用：

from tensorflow.keras.layers import Dense
from tensorflow.keras import Model

更换了搭建网络部分：

class IrisModel(Model):
    def __init__(self):
        super(IrisModel, self).__init__()
        self.d1 = Dense(3, activation='softmax', kernel_regularizer=tf.keras.regularizers.l2())

    def call(self, x):
        y = self.d1(x)
        return y

model = IrisModel()

学习来源：人工智能实践：Tensorflow笔记