高周波エンジニアのためのAI・機械学習入門（４）PythonとKeras3.0を使って回帰型ニューラルネットワーク（RNN）の一種LSTM（長・短期記憶）で3次のLCバンドパスフィルタ（BPF）のSパラメータを時系列データと見なして素子の値（L、C）を推定する。

前回、前々回はDNNとCNNでフィルタの素子の値を推定した。

今回は時系列予測に使われる回帰型ニューラルネットワーク（RNN、Reccurent Neural Networks)のうち、LSTMというものを使ってみる。

時系列予測

周波数特性は時系列のように順番に並んでいるので精度があがるんじゃないかな？という予想のもとにやってみた。

モデルはこんな感じで2層のLSTM。LayerNormarizationを入れるといいと聞くが今回試したものでは余計悪くなった。

# Functional APIでRNNを設定

inputs = keras.Input(shape=(200, 5))

x = keras.layers.LSTM(100, return_sequences=True)(inputs)

x = keras.layers.LSTM(100)(x)

outputs = keras.layers.Dense(6)(x)

#　モデルの設定

model = keras.Model(inputs=inputs, outputs=outputs)

model.compile(loss = 'mean_squared_error' ,optimizer=keras.optimizers.Adam())

model.summary()

これを

batch_size = 32

epochs = 300

keras.utils.set_random_seed(1)

history = model.fit(

    x_train,

    y_train,

    batch_size=batch_size,

    epochs=epochs,

    validation_split=0.15,

)

y_pred = model.predict(x_test)

metric = keras.metrics.R2Score()

metric.update_state(y_test, y_pred)

result = metric.result()

print(result)

error = np.abs((y_test - y_pred)/y_test*100)

print(error.mean(axis=0))

のように学習させる。R2は0.991といいが、

これを横軸推定値、縦軸が実際の値として図示するとこうなる。

あれ？なんか系統的にずれてるのがあるぞ？うーん理由がいまいちわからん…

とりあえず今回、DNN、CNN、RNNを試したが時間と精度的にはDNNがよかった。

まあハイパーパラメータの選定が適当過ぎるからかもしれないが…

この件はここでいったん終わって、次は逆パターン、つまりL,Cの値を与えてSパラメータそのものの波形が推定できるかをやってみよう（続く）。