NVIDIA RTX5060 Laptop GPUを入手したのでOllamaを使ってローカルLLM(Gemma3:4b, Qwen3:8b, DeepSeek-r1:8b)を導入してみた。Pythonの高周波ライブラリscikit-rfを使ってSパラを図示するコードを書いてもらうとQwenとDeepSeekは何度かやり直して動くがGemma3が全然ダメ…

せっかくNVIDIAのGPUが自由に使えるということでローカルLLMをやってみよう。

先月のインターフェース誌を参考にする。

自分専用LLMの作り方。

ここは簡単にLLMが扱えるOllamaを使おう。最新のCUDA13にも対応している。

https://ollama.com/

コマンドラインで使うものだと思っていたが、最近はGUIが導入されていた。

RTX5060のVRAMが8GBしかないので、それに乗せられるモデルとして

Gemma3:4b, Qwen3:8b, DeepSeek-v1:8b

を選んだ。まあまあダウンロードに時間がかかる。

ollama psとすると各モデルでどれくらいGPUを使うかわかる。

NAME 　　　　　ID 　　　　　　　SIZE 　PROCESSOR 　　CONTEXT UNTIL
gemma3:4b 　　a2af6cc3eb7f 　5.4 GB 　100% GPU 　　4096 　　4 minutes from now

qwen3:8b 　　　500a1f067a9f 　6.0 GB 　100% GPU 　　4096 　　4 minutes from now

deepseek-r1:8b 6995872bfe4c 　6.0 GB 　100% GPU 　　4096 　　4 minutes from now

どれも100%GPUを使って計算できるようになっていてこれなら使えそう。反応はどれも速かった。

簡単な質問にはどれもちゃんと答えられたので、あまり学習していないであろうPythonの高周波用のライブラリ、scikit-rfでTouchstoneフォーマットのSパラメータファイルを読み込んで図示するコードを書いてもらった。

Qwen3

DeepSeek-r1

問題はGemma３で、何回言っても、scikit-rfの仕様書を投げても存在しない

rf.usrp.read_s2p

を使い続け、挙句の果てにあきらめた。

やっぱりインターフェースに出てたようなRAG使わないとだめだな。

どっちにしてもGPT-5とかGemini 3 Proなら一発で書いてくれるのに、３つとも大体GPT-3.5くらいの感じ。