ツイート
シェア
LINEで送る
B! はてぶでブックマーク
Pocketでブックマーク
RSSフィード

オーバーフロー(桁あふれ)

2進数でつまずく人の盲点。整数で一番左から続く0が有効数字になる2進数とならない10進数。

2進数の画像

普段使う整数値(10進数)で、000876とは書いたりしません。左の0は意味がないもので876だからです。

これが有効数字や有効桁数(有効数字の桁数)の考え方です。

でも2進数では110と0110はまったくちがいます。10進数に変換すると値が変わる。じつは符号(+,-)もちがう。ここが2進数のポイント。

続きを読む