ExcelとExcel VBAの演算子の優先順位が違うのにはまった！ exp(-x^2)をどう解釈するか？
今日、Excelでガウシアンカーブを描こうとしてセルに
=Exp(-C1^2)
みたいな式を書いたのですよ。すると例えばC1=2としたら54.・・・とかでる。
え？なんで？
その前にExcel VBAで
x=2
y=Exp(-x^2)
としたら普通に0.018・・・とでた。
もしかして演算子の優先順位違う？と思って調べたら
Excelは
”-”（マイナス）の方が”^”（べき）より優先順位が高い。
一方、Excel VBAは
”^”（べき）の方が”-”（マイナス）より優先順位が高い。
なんで同じプログラムで別々の定義にしているんだ、、、、
これも混乱しますが↓
« 兵庫県立美術館で絵のちから 東日本大震災復興支援 未来絵PROJECT巡回展を観てきた。よかった！たけしさんの絵も。 | トップページ | 中国共産党大会での習首席の3時間半の演説もまだまだ、、、カストロは7時間半、そして世界記録は75時間越え？ »
「パソコン・インターネット」カテゴリの記事
- Visual Basic （VB.NET)でC#用の数値計算ライブラリMath.NET Numericsを使う(1)複素行列を定義して一次方程式や逆行列、行列式などを計算する。(2023.03.24)
- KeysightのADSで位相を±180°に限らずに連続にする関数をよく聞かれるがいつも忘れる…unwrap()だ。PythonのNumPyでもあるので（matlabにもある）いい加減に覚えたい。とりあえずPythonでやってみて記憶する。(2023.03.02)
- 50万人が毎年受ける試験で採用、“謎”のプログラミング言語「DNCL」という記事を見た。大学入試センターで2022年1月に出している仕様（日本語プログラムぽい）と、令和７年度試験の問題作成の方向性，試作問題等で出している仕様（Pythonを日本語にしたっぽい）違うのか…(2023.03.01)
- LC共振回路のモンテカルロシミュレーションでL,Cを一様乱数で振って共振周波数を見る、、、と全然一様じゃない。そりゃそうだ。何を勘違いしてたんだろう…(2023.02.27)
「日記・コラム・つぶやき」カテゴリの記事
- Visual Basic （VB.NET)でC#用の数値計算ライブラリMath.NET Numericsを使う(1)複素行列を定義して一次方程式や逆行列、行列式などを計算する。(2023.03.24)
- BingのAIチャットに最大の素数はいくつ？と聞くと、存在しないが今知られている最大の素数は2^89589933-1だと答えた。が、これは引用している記事が誤植していて、実際は2^82589933-1だ...間違った記事を引用すると間違った答えになる。英語で聞くと１つ前のメルセンヌ素数に…(2023.03.17)
- 高周波（RF・マイクロ波・ミリ波・5G）関連ニュース(3/16) IEEE Microwave Magazineは女性マイクロ波研究者特集、Microwave Journalで285GHz帯で30GHz帯域のOTA測定！QorvoがUWB室内ナビのデモ、STMとonsemiのBluetooth新商品、IDTechExの6Gレポート、など。(2023.03.16)
- 今日は円周率の日（3.14)ということでChatGPTとBingのAIチャットに円周率を求める面白い方法を教えてくださいと聞いてみた。ChatGPTが訳の分からない方法をRegenerateするたびに提案してくる...ピザ押し。Bingは検索していることもあってまあこんな感じか。(2023.03.15)
« 兵庫県立美術館で絵のちから 東日本大震災復興支援 未来絵PROJECT巡回展を観てきた。よかった！たけしさんの絵も。 | トップページ | 中国共産党大会での習首席の3時間半の演説もまだまだ、、、カストロは7時間半、そして世界記録は75時間越え？ »
コメント