Keras 3.0になってマルチバックエンド(TensorFlow,jax, PyTorch)が使えるようになったので速度を比較してみる(2) MNIST(手書き数字認識)でPythonでCNN(畳み込みニューラルネットワーク)でやってみる。TensorFlowが一番速く、PyTorch, JAXの順(CPUのみ使用の場合)。
Kerasが3.0になってまた独立してマルチバックエンドTensorFlow, JAX, PyTorch)が使えるようになっていたということで
前回はDNN(Deep Neural Networks)で比較してみた。
今回はCNN(畳み込みニューラルネットワーク)でやってみよう。
初期設定は共通で、Kerasのサイトの例題をFunctional APIに書き直して使っている。
import os
# os.environ["KERAS_BACKEND"] = "tensorflow"
# os.environ["KERAS_BACKEND"] = "jax"
os.environ["KERAS_BACKEND"] = "torch"
import keras
import numpy as np
# データはMNIST
(x_train, y_train), (x_test, y_test) = keras.datasets.mnist.load_data()
x_train = x_train.astype("float32") / 255
x_test = x_test.astype("float32") / 255
x_train = np.expand_dims(x_train, -1)
x_test = np.expand_dims(x_test, -1)
# Functional APIでCNN設定
inputs = keras.Input(shape=(28, 28, 1))
x = keras.layers.Conv2D(64, kernel_size=(3, 3), activation="relu")(inputs)
x = keras.layers.Conv2D(64, kernel_size=(3, 3), activation="relu")(x)
x = keras.layers.MaxPooling2D(pool_size=(2, 2))(x)
x = keras.layers.Conv2D(128, kernel_size=(3, 3), activation="relu")(x)
x = keras.layers.Conv2D(128, kernel_size=(3, 3), activation="relu")(x)
x = keras.layers.GlobalAveragePooling2D()(x)
x = keras.layers.Dropout(0.5)(x)
outputs = keras.layers.Dense(10, activation="softmax")(x)
# モデルの設定
model = keras.Model(inputs=inputs, outputs=outputs)
model.compile(optimizer=keras.optimizers.Adam(), loss=keras.losses.SparseCategoricalCrossentropy(),
metrics=[keras.metrics.SparseCategoricalAccuracy(name="acc"),])
|
時間を計測する学習部分はこのコード。
batch_size = 128
epochs = 5
keras.utils.set_random_seed(1)
model.fit(
x_train,
y_train,
batch_size=batch_size,
epochs=epochs,
validation_split=0.15,
)
score = model.evaluate(x_test, y_test, verbose=0)
print(score)
|
結果はこちら。
TensorFlow
JAX
PyTorch
TensorFlowがやっぱり速いのは前と同じだが、今度はJAXが非常に遅くなった。
謎だ…GPU使えば結果は変わるのかな。次はRNNをやってみよう。
« 高周波・RFニュース 2024年7月18日 QorvoのSmart Living eBook,BroadcomのCPOの解説,iFixitの任天堂スイッチ修理用ツールキット,SEMCOの2000V対応車載MLCC,SamsungがナレッジグラフのOxford Semantec Technologiesを買収,TIのパワーモジュールパッケージ(インダクタ内蔵)記事 | トップページ | 高周波・RFニュース 2024年7月19日 Nanusensの6G RF-FEM向けDTC、LNA市場は2030年で40億ドル規模に、HMD Skylineの分解しやすさ、アメリカがパッケージングに16億ドルを投資、ルネサスの宇宙向けリファレンスデザイン、Wi-Fi 8のMAPC、Walmartのonn分解 »
「パソコン・インターネット」カテゴリの記事
- Interface2025年8月号Pythonで体験!はじめての暗号を買った。上杉暗号からRSA、AES、DHなど、特に楕円曲線暗号についてはコードも実際に動かすところまで詳しくかかれていた。耐量子暗号や聞いたことなかったY-00暗号や関数型暗号も記載。(2025.07.10)
- Gemini CLIが使えるようになっていたので早速VSCodeのターミナルから使って、JavaScriptで連立一次方程式を計算するコードを書いてもらった。普通にガウスの消去法で計算するhtmlを作ってくれた。(2025.06.27)
- Google ColabのJulia言語で1次元のGray-Scottモデル(∂u/∂t=u²v-(F+k)u+Du∂²u/∂x²,∂v/∂t=-u²v+F(1-v)+Dv∂²v/∂x²)を計算してパルスが次々分裂する様子を見る。空間6次の差分、時間8次のルンゲクッタ法で計算。(2025.07.08)
「学問・資格」カテゴリの記事
- Interface2025年8月号Pythonで体験!はじめての暗号を買った。上杉暗号からRSA、AES、DHなど、特に楕円曲線暗号についてはコードも実際に動かすところまで詳しくかかれていた。耐量子暗号や聞いたことなかったY-00暗号や関数型暗号も記載。(2025.07.10)
- 高周波・RFニュース 2025年7月8日 NordicとSercommのセルラーIoTモジュール、iFixitがFairphone 6を分解、スコアは10/10、RCR wireless newsのウェビナー2件(6GとIndustry4.0)、SEMCOが高耐圧C0G MLCCを車載急速充電に提案(2025.07.09)
- 高周波・RFニュース 2025年7月2日 5G Americasが6Gに向けセンシングと通信ホワイトペーパー発行、KYOCERA AVXが3dBハイブリッドカプラ発表、TDKが車載薄膜インダクタ発表、Nordicが1次電池向けPMIC発表、ローデ・シュワルツの6GとAI/ML解説記事(2025.07.02)
- 高周波・RFニュース 2025年6月30日 QualcommがAIを用いた6Rxアンテナ解説、Next G Allianceと日本のXGMFが5G,6Gで協力、5G Americasが25Q1で5G加入者増加と発表、TechInsigtsがHuawei Pura 80 Pro+分解、Qorvoが5-7GHzのWi-Fi 7 FEM発表(2025.06.30)
- Gemini CLIが使えるようになっていたので早速VSCodeのターミナルから使って、JavaScriptで連立一次方程式を計算するコードを書いてもらった。普通にガウスの消去法で計算するhtmlを作ってくれた。(2025.06.27)
「日記・コラム・つぶやき」カテゴリの記事
- 高周波・RFニュース 2025年7月8日 NordicとSercommのセルラーIoTモジュール、iFixitがFairphone 6を分解、スコアは10/10、RCR wireless newsのウェビナー2件(6GとIndustry4.0)、SEMCOが高耐圧C0G MLCCを車載急速充電に提案(2025.07.09)
- 高周波・RFニュース 2025年7月2日 5G Americasが6Gに向けセンシングと通信ホワイトペーパー発行、KYOCERA AVXが3dBハイブリッドカプラ発表、TDKが車載薄膜インダクタ発表、Nordicが1次電池向けPMIC発表、ローデ・シュワルツの6GとAI/ML解説記事(2025.07.02)
- 高周波・RFニュース 2025年6月30日 QualcommがAIを用いた6Rxアンテナ解説、Next G Allianceと日本のXGMFが5G,6Gで協力、5G Americasが25Q1で5G加入者増加と発表、TechInsigtsがHuawei Pura 80 Pro+分解、Qorvoが5-7GHzのWi-Fi 7 FEM発表(2025.06.30)
- 高周波・RFニュース 2025年6月27日 Qualcommが6Gに向けての3GPPリリース20解説、TDKが100V1608サイズ1μFのMLCCを発表、Skyworksが低ジッタのクロックファミリーを発表、Elisa,Ericsson,MediaTekが5G SAで8Gbpsを達成(2025.06.27)
- 高周波・RFニュース 2025年6月26日 VishayがAEC-Q200 Qualifiedの70GHzまでの薄膜抵抗発表、NordicがMemfaultを買収、中国の5G-Advanced対応が300都市に達したという報道、6Gは分断されるという予測記事(2025.06.26)
« 高周波・RFニュース 2024年7月18日 QorvoのSmart Living eBook,BroadcomのCPOの解説,iFixitの任天堂スイッチ修理用ツールキット,SEMCOの2000V対応車載MLCC,SamsungがナレッジグラフのOxford Semantec Technologiesを買収,TIのパワーモジュールパッケージ(インダクタ内蔵)記事 | トップページ | 高周波・RFニュース 2024年7月19日 Nanusensの6G RF-FEM向けDTC、LNA市場は2030年で40億ドル規模に、HMD Skylineの分解しやすさ、アメリカがパッケージングに16億ドルを投資、ルネサスの宇宙向けリファレンスデザイン、Wi-Fi 8のMAPC、Walmartのonn分解 »
コメント