4倍精度の計算をしても最初の桁どころか符号すら違うというRump’s example(f(a,b)=(333.75-a^2)*b^6+a^2*(11*a^2*b^2-121*b^4-2)+5.5*b^8+a/(2*b)で a = 77617.0, b = 33096.0)をカシオの高精度計算サイトkeisan.casio.jpで130桁まで計算してみる。
Rumpの例題というのがある。
https://tore.tuhh.de/bitstream/11420/318/1/Ru88a.pdf
https://www.researchgate.net/publication/225180314_Rump's_Example_Revisited
http://www.math.twcu.ac.jp/ogita/lec/u-tokyo2016/ogita01.pdf
f(a,b)=(333.75-a^2)*b^6+a^2*(11*a^2*b^2-121*b^4-2)+5.5*b^8+a/(2*b)
で、 a = 77617.0, b = 33096.0を代入すると
単精度で1.172603
倍精度で1.1726039400531
4倍精度で1.172603940053178
になって何となく精度が上がっているように見えますが、実際の値は
-0.827396・・・
で最初の一桁どころか、符号すら違うというもの。
※実際の計算はべきのところは掛け算の繰り返しにしないとこうならなかった。
カシオの高精度計算サイトでは130桁の計算までできるのでチェックしてみよう。
https://keisan.casio.jp/calculator
結果はこんな感じ。
6桁 : 1.1726
23桁 : 1.1726039400531786318588349
34桁 : 1.172603940053178631858834904520184
38桁 : -0.827396059946821368141165095479816292
50桁 : -0.82739605994682136814116509547981629199903311578438
130桁 : -0.8273960599468213681411650954798162919990331157843848199
17814841672709693014261542180323906212231085327532028039
6422528402223833696
4倍精度では34桁くらいなんで惜しかった。。。
38桁からまともに計算してくれた。
« ExcelのLET関数+SEQUENCE関数で数値計算シリーズ(その8) 1セルに入力するだけで直列共振回路のインピーダンスを計算 | トップページ | 松のやでささみかつ&ポルチーニ香るフォアグラ入りクリームコロッケ定食を食す。 »
「日記・コラム・つぶやき」カテゴリの記事
- 高周波・RFニュース 2026年月16日 Microwave JournalでCadenceのRF設計向けAI紹介、Samtecが30°傾いた1.85mmコネクタ発表、Mini-CircuitsのMMICアッテネータ紹介、SEMCOがAI向けMLCC発表など(2026.07.16)
- 高周波・RFニュース 2026年7月15日 IEEE Microwave Magazineで自分のコードを高周波シミュレータに組み込む等、DeepSigがAIベースのRF検出OminiSIG 4.0発表、BroadcomのWi-Fi 8 SoC解説、GSMAがモバイルネットゼロレポート発行など(2026.07.15)
- 高周波・RFニュース 2026年7月14日 KeysightとRCRTechが6Gウェビナー開催、Copper Mountain Technologiesの新低価格4ポートVNA、フジクラの5G Sub6GHz向け漏洩同軸ケーブル、TDKのパワー半導体向けMLCCアプリケーションガイドなど(2026.07.14)
- RF Weekly Digest (Codex(GPT-5.5)で作ったOllama経由のgemma4-26B-A4B QAT、DuckDuckGo Searchを使った高周波・RF情報の週刊まとめアプリ)2026/7/5-7/12(2026.07.12)
- Grok 4.5(Grok Build)でPythonのscikit-rfを使ってTouchstoneフォーマットのSパラメータファイルを読んでdB, 位相, スミスチャート, TDRを表示するGUIアプリを作成。エラーもなく一発で動くものができた。ただFreeだと1日のリミットが結構厳しめ。(2026.07.13)
« ExcelのLET関数+SEQUENCE関数で数値計算シリーズ(その8) 1セルに入力するだけで直列共振回路のインピーダンスを計算 | トップページ | 松のやでささみかつ&ポルチーニ香るフォアグラ入りクリームコロッケ定食を食す。 »


コメント