4倍精度の計算をしても最初の桁どころか符号すら違うというRump’s example(f(a,b)=(333.75-a^2)*b^6+a^2*(11*a^2*b^2-121*b^4-2)+5.5*b^8+a/(2*b)で a = 77617.0, b = 33096.0)をカシオの高精度計算サイトkeisan.casio.jpで130桁まで計算してみる。
Rumpの例題というのがある。
https://tore.tuhh.de/bitstream/11420/318/1/Ru88a.pdf
https://www.researchgate.net/publication/225180314_Rump's_Example_Revisited
http://www.math.twcu.ac.jp/ogita/lec/u-tokyo2016/ogita01.pdf
f(a,b)=(333.75-a^2)*b^6+a^2*(11*a^2*b^2-121*b^4-2)+5.5*b^8+a/(2*b)
で、 a = 77617.0, b = 33096.0を代入すると
単精度で1.172603
倍精度で1.1726039400531
4倍精度で1.172603940053178
になって何となく精度が上がっているように見えますが、実際の値は
-0.827396・・・
で最初の一桁どころか、符号すら違うというもの。
※実際の計算はべきのところは掛け算の繰り返しにしないとこうならなかった。
カシオの高精度計算サイトでは130桁の計算までできるのでチェックしてみよう。
https://keisan.casio.jp/calculator
結果はこんな感じ。
6桁 : 1.1726
23桁 : 1.1726039400531786318588349
34桁 : 1.172603940053178631858834904520184
38桁 : -0.827396059946821368141165095479816292
50桁 : -0.82739605994682136814116509547981629199903311578438
130桁 : -0.8273960599468213681411650954798162919990331157843848199
17814841672709693014261542180323906212231085327532028039
6422528402223833696
4倍精度では34桁くらいなんで惜しかった。。。
38桁からまともに計算してくれた。
« ExcelのLET関数+SEQUENCE関数で数値計算シリーズ(その8) 1セルに入力するだけで直列共振回路のインピーダンスを計算 | トップページ | 松のやでささみかつ&ポルチーニ香るフォアグラ入りクリームコロッケ定食を食す。 »
「日記・コラム・つぶやき」カテゴリの記事
- 高周波・RFニュース 2024年12月11日 5G AmericasがセルラーネットワークでのAIのホワイトペーパー、GSAが2024年の5Gレビュー、NordicがIoTに適したThingy:91 X発表、Wi-Fi 6GHzが世界でどうなっているか、Huaweiが5G GaNパワーアンプで有利、Samsung Galaxy M34 5G分解(2024.12.11)
- 高周波・RFニュース2024年12月9日 iFixitがDJI Neo分解、TechInsightsがApple Pencil Pro分解、QualcommのNeurIPS 2024でのAI技術発表、IntelのIEDM 2024での発表、 Nokiaの7GHz帯の6G、Analog DevicesのPhased Array Antennaのホワイトペーパー、ZDTが史上二番目の売上高(2024.12.09)
- 高周波・RFニュース 2024年12月6日 NGMNが無線パフォーマンス評価フレームワーク発行、5GAAがC-V2Xのロードマップ発行、Marvellの3nm 1.6Tbps PAM4インターコネクト、Nokiaの2.4Tbps光伝送、Silicon Labsの低消費電力モジュール、Xiaomi 14T Pro分解動画(2024.12.06)
- 高周波回路シミュレータQucsStudioがuSimmicsに名称変更し、バージョンも4.8.3から5.8にアップデートされた。Qucsと区別するためだそうだ。また、Pythonの高周波用ライブラリscikit-rfもv1.5.0にバージョンアップされていた(2024.12.04)
- 日経サイエンス2025年1月号の特集 和算再発見の佐藤賢一さんの記事「算聖 関孝和の実像」に出てきた矢高に対する円弧の2乗の近似式をカシオの高精度計算サイトkeisan.casio.jpの自作式として作った。ものすごい精度であることがよくわかる。(2024.12.03)
« ExcelのLET関数+SEQUENCE関数で数値計算シリーズ(その8) 1セルに入力するだけで直列共振回路のインピーダンスを計算 | トップページ | 松のやでささみかつ&ポルチーニ香るフォアグラ入りクリームコロッケ定食を食す。 »
コメント