数理科学10月号「生成AIのしくみと数理 新しい知能はどこまでわかっているのか」を買った。様々なモデルについての解説があり、非平衡熱力学、ボルツマンマシンは学生のときかじった。ただTransformerも拡散モデルもなんでこんなシンプルなのに複雑なことができるのかが分からん…
生成AIは漠然としかアルゴリズムを知らないので網羅的に解説されているのはとても参考になる。
アマゾンリンク：https://amzn.to/3TSu0zz
内容は：
巻頭言 岡野原大輔
生成AIの登場と発展 岡野原大輔
生成モデルの基礎と主要なモデル 宮戸 岳
エネルギーベースモデル ～ ボルツマン，ホップフィールド ～ 唐木田 亮
拡散モデルの理論 鈴木大慈
拡散モデルやその周辺と非平衡熱力学との接点 伊藤創祐
大規模言語モデル 岡崎直観
大規模言語モデルとIn-Context学習の構成 得居誠也
生成AIと倫理・法・社会 工藤郁子
で、物理を専攻していた私には非平衡熱力学、フォッカープランク方程式、ランジュバン方程式やボルツマンマシンなど昔やっていたこととの関係が書かれていて興味ぶかい。
ただ、Transformerについては以前も学んだことがあるものの、なんでこんな簡単なモデルでLLMとかあんなに複雑なことができるのか全く分からない…この特集読んでもわからなかった…
岡野原さんが書かれていた多様体仮説（世の中の興味あるデータは見かけ上の次元よりずっと少ないパラメータで表現できる空間に分布している）が正しいということなのかな。人間の思考も考えているよりずっとシンプルなような気もする。
« 高周波・RFニュース 2024年10月1日 iFixitがiPhone 16 Pro MaxのMain Logic Board上のチップ解説、2024 International Conference on Microwave and Millimeter Wave Technology資料公開、3つ折りスマホHuawei Mate XT分解動画 | トップページ | 高周波・RFニュース 2024年10月2日 QualcommとSTMicroelectronicsがWireless IoTで提携、YoleがRF front-end市場は2029年に$23.1Bになると予測、Infineonが20GbpsのUWBペリフェラルコントローラ発表、SiversがFull Duplex arrayでCHIPS法から資金、NTTドコモとSamsungのAI協業 »
「学問・資格」カテゴリの記事
- Qwen3.6-35B-A3Bが発表され、Ollamaでも使える。そこで電子レンジの動作原理（2.45GHzは水分子の共振周波数でない）と隕石が大気圏突入で燃える原理（摩擦熱ではない）を聞くと、誘電緩和と断熱圧縮について正しく答えられた。今までのローカルLLMで一番賢い回答と思う。(2026.04.17)
- 高周波・RFニュース 2026年4月17日 atisの3GPP Rel.20ウェビナー動画公開、MWCバルセロナ2026でのGSMA Device Enablement Summit資料公開、ハリファ大学が無線周波数AI言語モデルRF-GPT発表、レドームの解説など(2026.04.17)
- ExcelのOfficeスクリプト(TypeScript)で数値計算ライブラリmath.jsを使う(1) Officeスクリプトは外部API呼び出せるし、math.jsは RESTful APIで呼び出せることがわかった。まずは選択したセルのデータを読み、行列演算。LU分解で一次方程式を解き、逆行列と行列式を求める。(2026.04.17)
- 高周波・RFニュース 2026年4月16日 AmazonがGlobalstarを買収、GSMAが日本のデジタル化をレポート、Mini-Circuitsがケーブルアセンブリを動画で解説、Kymetaが米国海軍研究局と衛星通信で契約、PerasoがドローンIFF向け60GHzモジュール出荷、SEMCOが1500V耐圧MLCC発表(2026.04.16)
- 高周波・RFニュース 2026年4月15日 Microwave Journalはアンプと発振器特集、Signal Integrity Journalは100GHz越えのインターコネクトのAIを使うHFSSモデル化、ローデ・シュワルツが潜水艦通信をUDT2026で発表、Xiaomi Poco X8 Pro分解動画、atisの5Gポリシーレポート(2026.04.15)
「日記・コラム・つぶやき」カテゴリの記事
- Qwen3.6-35B-A3Bが発表され、Ollamaでも使える。そこで電子レンジの動作原理（2.45GHzは水分子の共振周波数でない）と隕石が大気圏突入で燃える原理（摩擦熱ではない）を聞くと、誘電緩和と断熱圧縮について正しく答えられた。今までのローカルLLMで一番賢い回答と思う。(2026.04.17)
- 高周波・RFニュース 2026年4月17日 atisの3GPP Rel.20ウェビナー動画公開、MWCバルセロナ2026でのGSMA Device Enablement Summit資料公開、ハリファ大学が無線周波数AI言語モデルRF-GPT発表、レドームの解説など(2026.04.17)
- ExcelのOfficeスクリプト(TypeScript)で数値計算ライブラリmath.jsを使う(1) Officeスクリプトは外部API呼び出せるし、math.jsは RESTful APIで呼び出せることがわかった。まずは選択したセルのデータを読み、行列演算。LU分解で一次方程式を解き、逆行列と行列式を求める。(2026.04.17)
- 高周波・RFニュース 2026年4月16日 AmazonがGlobalstarを買収、GSMAが日本のデジタル化をレポート、Mini-Circuitsがケーブルアセンブリを動画で解説、Kymetaが米国海軍研究局と衛星通信で契約、PerasoがドローンIFF向け60GHzモジュール出荷、SEMCOが1500V耐圧MLCC発表(2026.04.16)
- 高周波・RFニュース 2026年4月15日 Microwave Journalはアンプと発振器特集、Signal Integrity Journalは100GHz越えのインターコネクトのAIを使うHFSSモデル化、ローデ・シュワルツが潜水艦通信をUDT2026で発表、Xiaomi Poco X8 Pro分解動画、atisの5Gポリシーレポート(2026.04.15)
「書籍・雑誌」カテゴリの記事
- 「5A73」（詠坂 雄二さん）を読んだ。連続して起こった自殺の遺体に貼られていた「暃」という幽霊文字のタトゥーシール。一体この意味は何なのかをいろいろな登場人物が考えるのが面白い…と思ったらもう術中にはまっている。前書もなぜこういう？と思っていたらなるほど…(2026.04.09)
- 「此の世の果ての殺人」を読んだ。小惑星が追突し世界が滅ぶことが確実な中、小春は大宰府の自動車学校で教習を受ける。その車内で惨殺体を発見する。もう滅ぶ世界でなぜ殺人を起こすのか。元刑事の教官とのバディものでもあり、意外だが納得できる真相もよかった。受賞も納得。(2026.04.01)
- 「探偵小石は恋しない」（森バジルさん）を読んだ。面白かった！ミステリオタクの探偵小石のもとには色恋調査の依頼しか来ないが、実はその裏側で起きている事件。真相もびっくりだし動機もびっくり！確かに変な表現だな…と思っていたがそういう…偏見はだめだな。(2026.03.10)
- Interface2026年4月号 シミュレーション開発入門［衝突/回転/摩擦/流体の物理で学ぶ］を買った。MATLAB／Simulink6か月ライセンス付き。Simulinkの使い方から微分方程式の数値解法まで高校物理（東大の問題とか）の範囲で書かれていてモデルベース開発に興味がある人にはぴったり。(2026.03.03)
- 「インサイト 戦闘妖精・雪風」を読んだ。面白かった！生成AIの時代になって？行動でしか示さなかった雪風が雑談の有用さに気付き会話をし始めるのが面白い。零と伊歩など2人の対話が多くそれもいいが、最後に大きな戦闘とそしてようやくジャムの正体が…というところで続く。(2026.03.18)
コメント
« 高周波・RFニュース 2024年10月1日 iFixitがiPhone 16 Pro MaxのMain Logic Board上のチップ解説、2024 International Conference on Microwave and Millimeter Wave Technology資料公開、3つ折りスマホHuawei Mate XT分解動画 | トップページ | 高周波・RFニュース 2024年10月2日 QualcommとSTMicroelectronicsがWireless IoTで提携、YoleがRF front-end市場は2029年に$23.1Bになると予測、Infineonが20GbpsのUWBペリフェラルコントローラ発表、SiversがFull Duplex arrayでCHIPS法から資金、NTTドコモとSamsungのAI協業 »
記事拝見致しました
生成AIの理論は非常に興味深いですよね
突然で申し訳ありませんが、記事内容にしている数理科学2024年10月号を現在探しておりまして、宜しければ読み終わっておられましたらお譲り頂くことはできますでしょうか。
1万円までなら対価としてお支払い可能です。
個人情報の観点が心配であれば、メルカリに1万円等で出品頂ければ購入させて頂きます。
ぜひご一考いただければと存じます。
投稿: | 2026年2月 3日 (火) 19時36分