Qwen3.6 27Bと31B-A3Bにllama.cppでDuckDuckGoのMCPサーバーを使って検索機能を付けてみた(量子化はunslothのQ4_K_M)。とりあえず今日の大阪の天気を聞くと31B-A3Bは今日の日付を知ってから検索始めたが、27Bはいきなり検索を始めた。これはどっちがいいのか。

Qwen3.6 27Bが使えるようになっていた。

 Qwen3.6-27B: Flagship-Level Coding in a 27B Dense Model

この前31B-A3Bを出したばかりなのに早い。

で早速使ってみよう。今までOllamaを使っていたが、この記事を読んで、まあそうだな、llama.cppを使ったほうがいいなと思い乗り換えてみた。web UIも普通に使えるし、最新のモデルもHuggingFaceからダウンロードできるし、MCPサーバーつなぐこともできる。

では検索をやってみよう。Ollamaも検索できるが、すぐに上限に達してしまう。無料のDuckDuckGoのMCPサーバーならよさげ。

このredditの記事通りにやればすぐできた。

MCPをllama-serverウェブUIで動作させる方法 (初心者向けの簡単ガイド)

Qwen3.6はHuggingFaceから持ってくるが、オリジナルはBF16ででかすぎる…のでUnslothの量子化モデルを使う。

https://huggingface.co/unsloth/Qwen3.6-27B-GGUF

で動く。

とりあえず大阪の天気を聞いてみよう。31B-A3Bはまず日付を取得してそれから検索してfetchしている。

Yahoo天気予報をちゃんと拾ってこれた。

27Bは日本気象協会から拾ってきたが、なぜか最初に日付を取得せずいきなり検索した。まあ検索して出てくるものが最新だろうし、賢いのか？