【微分】 そもそも微分とは何なのか?

今回は、「微分とはそもそも何なのか」についての説明です。 1.初めに 中学高校の数学で微分というものを習ったかと思います。 微分とは、一次関数や二次関数などのある点の傾き(変化の割合)を求めることを指します。何を言ってい […]

n進法 ~2進法・10進法・16進法の変換

今回は、「n進法」についての説明です。 1.初めに 数字の表し方は色々あります。 私達が普段日常生活で使用している0~9の10種類の数字で表す方法は10進法と言います。普通に過ごす分にはこれだけ知っていれば何も困らないの […]

平方根 ~√の計算

今回は、「平方根」についての説明です。 1.平方根って何? a、bという数字があったとして、a2=bを満たすaをbの平方根へいほうこんと呼びます。二乗根にじょうこんや自乗根じじょうこんとも呼びます。a2とはa×aのことで […]

RealLib ではじめる誤差ゼロ実数計算 – 2008-09-09 – ひとり勉強会

RealLib のソースコード読みを始めるはずだったんですが、なんだか全然進んでないので適当なまとめエントリでお茶を濁します! RealLib が普通にかっこよすぎるので紹介しまくりたくなりましたので紹介記事です。 実数計算と誤差 たいていのプログラミング言語の「実数 = 浮動小数点数」の計算には「誤差」があります。…