如何基于TensorFlow使用LSTM和CNN实现时序分类任务
- 2017-09-12 09:54:00
- 刘大牛 转自文章
- 230
时序数据经常出现在很多领域中，如金融、信号处理、语音识别和医药。传统的时序问题通常首先需要人力进行特征工程，才能将预处理的数据输入到机器学习算法中。并且这种特征工程通常需要一些特定领域内的专业知识，因此也就更进一步加大了预处理成本。例如信号处理（即 EEG 信号分类），特征工程可能就涉及到各种频带的功率谱（power spectra）、Hjorth 参数和其他一些特定的统计学特征。本文简要地介绍了使用 CNN 和 LSTM 实现序列分类的方法，详细代码请查看 Github。
Github 项目地址： https://github.com/healthDataScience/deep-learning-HAR
传统图像分类中也是采用的手动特征工程，然而随着深度学习的出现，卷积神经网络已经可以较为完美地处理计算机视觉任务。使用 CNN 处理图像不需要任何手动特征工程，网络会一层层自动从最基本的特征组合成更加高级和抽象的特征，从而完成计算机视觉任务。
在本文中，我们将讨论如何使用深度学习方法对时序数据进行分类。我们使用的案例是 UCI 项目中的人体活动识别（HAR）数据集。该数据集包含原始的时序数据和经预处理的数据（包含 561 个特征）。本文将对比用特征工程的机器学习算法和两种深度学习方法（卷积神经网络和循环神经网络），试验最后表明深度学习方法超越了传统使用特征工程的方法。
作者使用 TensorFlow 和实现并训练模型，文中只展示了部分代码，更详细的代码请查看 Github。
卷积神经网络（CNN）
首先第一步就是将数据馈送到 Numpy 中的数组，且数组的维度为 (batch_size, seq_len, n_channels)，其中 batch_size 为模型在执行 SGD 时每一次迭代需要的数据量，seq_len 为时序序列的长度（本文中为 128），n_channels 为执行检测（measurement）的通道数。本文案例中通道数为 9，即 3 个坐标轴每一个有 3 个不同的加速检测（acceleration measurement）。我们有六个活动标签，即每一个样本属于 LAYING、STANDING、SITTING、WALKING_DOWNSTAIRS、WALKING_UPSTAIRS 或 WALKING。
下面，我们首先构建计算图，其中我们使用占位符为输入数据做准备：
graph = tf.Graph()
with graph.as_default():
inputs_ = tf.placeholder(tf.float32, [None, seq_len, n_channels],
name =
inputs)
labels_ = tf.placeholder(tf.float32, [None, n_classes], name =
labels)
keep_prob_ = tf.placeholder(tf.float32, name =
keep)
learning_rate_ = tf.placeholder(tf.float32, name =
learning_rate)
其中 inputs_是馈送到计算图中的输入张量，第一个参数设置为「None」可以确保占位符第一个维度可以根据不同的批量大小而适当调整。labels_是需要预测的 one-hot 编码标签，keep_prob_为用于 dropout 正则化的保持概率，learning_rate_ 为用于 Adam 优化器的学习率。
我们使用在序列上移动的 1 维卷积核构建卷积层，图像一般使用的是 2 维卷积核。序列任务中的卷积核可以充当为训练中的滤波器。在许多 CNN 架构中，层级的深度越大，滤波器的数量就越多。每一个卷积操作后面都跟随着池化层以减少序列的长度。下面是我们可以使用的简单 CNN 架构。
上图描述的卷积层可用以下代码实现：
with graph.as_default():
# (batch,
128,
9) -> (batch,
32,
18)
conv1 = tf.layers.conv1d(inputs=inputs_, filters=
18, kernel_size=
2, strides=
1,
padding=
same, activation = tf.nn.relu)
max_pool_1 = tf.layers.max_pooling1d(inputs=conv1, pool_size=
4, strides=
4, padding=
same)
# (batch,
32,
18) -> (batch,
8,
36)
conv2 = tf.layers.conv1d(inputs=max_pool_1, filters=
36, kernel_size=
2, strides=
1,
padding=
same, activation = tf.nn.relu)
max_pool_2 = tf.layers.max_pooling1d(inputs=conv2, pool_size=
4, strides=
4, padding=
same)
# (batch,
8,
36) -> (batch,
2,
72)
conv3 = tf.layers.conv1d(inputs=max_pool_2, filters=
72, kernel_size=
2, strides=
1,
padding=
same, activation = tf.nn.relu)
max_pool_3 = tf.layers.max_pooling1d(inputs=conv3, pool_size=
4, strides=
4, padding=
same)
一旦到达了最后一层，我们需要 flatten 张量并投入到有适当神经元数的分类器中，在上图中为 144 个神经元。随后分类器输出 logits，并用于以下两种案例：
-
计算 softmax 交叉熵函数，该损失函数在多类别问题中是标准的损失度量。
-
在最大化概率和准确度的情况下预测类别标签。
下面是上述过程的实现：
with graph.as_default():
# Flatten and add dropout
flat = tf.reshape(max_pool_3, (
-1,
2*
72))
flat = tf.nn.dropout(flat, keep_prob=keep_prob_)
# Predictions
logits = tf.layers.dense(flat, n_classes)
# Cost
function
and
optimizer
cost =
tf.
reduce_mean(
tf.nn.softmax_cross_entropy_with_logits(logits=logits,
labels=labels_))
optimizer =
tf.
train.
AdamOptimizer(
learning_rate_).
minimize(
cost)
#
Accuracy
correct_pred =
tf.
equal(
tf.argmax(logits, 1),
tf.
argmax(
labels_, 1))
accuracy =
tf.
reduce_mean(
tf.cast(correct_pred, tf.float32),
name=
accuracy)
剩下的实现部分就比较典型了，读者可查看 GitHub 中的完整代码和过程。前面我们已经构建了计算图，后面就需要将批量训练数据馈送到计算图进行训练，同时我们还要使用验证集来评估训练结果。最后，完成训练的模型将在测试集上进行评估。我们在该实验中 batch_siza 使用的是 600、learning_rate 使用的是 0.001、keep_prob 为 0.5。在 500 个 epoch 后，我们得到的测试精度为 98%。下图显示了训练准确度和验证准确度随 epoch 的增加而显示的变化：
长短期记忆网络（LSTM）
LSTM 在处理文本数据上十分流行，它在情感分析、机器翻译、和文本生成等方面取得了十分显著的成果。因为本问题涉及相似分类的序列，所以 LSTM 是比较优秀的方法。
下面是能用于该问题的神经网络架构：
为了将数据馈送到网络中，我们需要将数组分割为 128 块（序列中的每一块都会进入一个 LSTM 单元），每一块的维度为（batch_size, n_channels）。随后单层神经元将转换这些输入并馈送到 LSTM 单元中，每一个 LSTM 单元的维度为 lstm_size，一般该参数需要选定为大于通道数量。这种方式很像文本应用中的嵌入层，其中词汇从给定的词汇表中嵌入为一个向量。后面我们需要选择 LSTM 层的数量（lstm_layers），我们可以设定为 2。
对于这一个实现，占位符的设定可以和上面一样。下面的代码段实现了 LSTM 层级：
with graph.as_default():
# Construct the LSTM inputs and LSTM cells
lstm_in = tf.transpose(inputs_, [
1,
0,
2]) # reshape into (seq_len, N, channels)
lstm_in = tf.reshape(lstm_in, [
-1, n_channels]) # Now (seq_len*N, n_channels)
# To cells
lstm_in = tf.layers.dense(lstm_in, lstm_size, activation=None)
# Open up the tensor into a list
of seq_len pieces
lstm_in = tf.split(lstm_in, seq_len,
0)
# Add LSTM layers
lstm = tf.contrib.rnn.BasicLSTMCell(lstm_size)
drop = tf.contrib.rnn.DropoutWrapper(lstm, output_keep_prob=keep_prob_)
cell = tf.contrib.rnn.MultiRNNCell([drop] * lstm_layers)
initial_state = cell.zero_state(batch_size, tf.float32)
上面的代码段是十分重要的技术细节。我们首先需要将数组从 (batch_size, seq_len, n_channels) 重建维度为 (seq_len, batch_size, n_channels)，因此 tf.split 将在每一步适当地分割数据（根据第 0 个索引）为一系列 (batch_size, lstm_size) 数组。剩下的部分就是标准的 LSTM 实现了，包括构建层级和初始状态。
下一步就是实现网络的前向传播和成本函数。比较重要的技术点是我们引入了梯度截断，因为梯度截断可以在反向传播中防止梯度爆炸而提升训练效果。
下面是我们定义前向传播和成本函数的代码：
with graph.as_default():
outputs, final_state = tf.contrib.rnn.static_rnn(cell, lstm_in, dtype=tf.float32,
initial_state = initial_state)
# We only need the last output tensor to pass into a classifier
logits = tf.layers.dense(outputs[
-1], n_classes, name=
logits)
# Cost
function
and
optimizer
cost =
tf.
reduce_mean(
tf.nn.softmax_cross_entropy_with_logits(logits=logits, labels=labels_))
#
Grad
clipping
train_op =
tf.
train.
AdamOptimizer(
learning_rate_)
gradients =
train_op.
compute_gradients(
cost)
capped_gradients = [(
tf.clip_by_value(grad, -1., 1.),
var)
for
grad,
var
in
gradients]
optimizer =
train_op.
apply_gradients(
capped_gradients)
#
Accuracy
correct_pred =
tf.
equal(
tf.argmax(logits, 1),
tf.
argmax(
labels_, 1))
accuracy =
tf.
reduce_mean(
tf.cast(correct_pred, tf.float32),
name=
accuracy)
注意我们只使用了 LSTM 顶层输出序列的最后一个元素，因为我们每个序列只是尝试预测一个分类概率。剩下的部分和前面我们训练 CNN 的过程相似，我们只需要将数据馈送到计算图中进行训练。其中超参数可选择为 lstm_size=27、lstm_layers=2、batch_size=600、learning_rate=0.0005 和 keep_prob=0.5，我们在测试集中可获得大约 95% 的准确度。这一结果要比 CNN 还差一些，但仍然十分优秀。可能选择其它超参数能产生更好的结果，读者朋友也可以在 Github 中获取源代码并进一步调试。
对比传统方法
前面作者已经使用带 561 个特征的数据集测试了一些机器学习方法，性能最好的方法是梯度提升树，如下梯度提升树的准确度能到达 96%。虽然 CNN、LSTM 架构与经过特征工程的梯度提升树的精度差不多，但 CNN 和 LSTM 的人工工作量要少得多。
HAR 任务经典机器学习方法： https://github.com/bhimmetoglu/talks-and-lectures/tree/master/MachineLearning/HAR
梯度提升树： https://rpubs.com/burakh/har_xgb
结语
在本文中，我们试验了使用 CNN 和 LSTM 进行时序数据的分类，这两种方法在性能上都有十分优秀的表现，并且最重要的是它们在训练中会一层层学习独特的特征，它们不需要成本昂贵的特征工程。
本文所使用的序列还是比较小的，只有 128 步。可能会有读者怀疑如果序列变得更长（甚至大于 1000），是不是训练就会变得十分困难。其实我们可以结合 LSTM 和 CNN 在这种长序列任务中表现得更好。总的来说，深度学习方法相对于传统方法有非常明显的优势。
| 联系人： | 透明七彩巨人 |
|---|---|
| Email： | weok168@gmail.com |
