新人ぷろぐらまの覚え書きスマートフォン用の表示で見る新人ぷろぐらまの覚え書き最近プログラマーに転職したアザラシのブログ。この広告は、90日以上更新していないブログに表示しています。2016-11-03n進数についてn進数のnの文字は桁が進む数を表す。基数...基本となる数(n進数のnにあたる部分)2進数だと、桁が上がるたびに値が2倍になる→これを2進数が持つ各桁の重みという。桁が上がるたび(1→10→100→1000)1→2倍→4倍→8倍・・・と倍々になっていく。・2進数を8進数に変換する→2進数を3桁ごとに区切り、区切り単位で10進数に直す→8進数に直す・2進数を16進数に変換する→2進数を4桁ごとに区切り、区切り単位で10進数になおす→16進数に直す例えば、10011011.1という2進数の文字列があったとして8進数に基数変換13桁に区切る(桁が3桁に足りない場合は0を補う)010+011+011+.1002それぞれを10進数に基数変換し、くっつけた値が8進数での表示になる2+3+3+0.5=233.416進数に基数変換する場合14桁に区切る(桁が4桁に足りない場合は0を補う)1001+1011+.10002それぞれを10進数に基数変換し、くっつけた値が16進数での表示になる(9以上の値はA~Fに変換する)9+11+0.811は16進数ではBなので、9B.82進数での負の数の表し方=補数を用いる補数は2種類ある。左にずらすと*2、右にずらすと/2になる論理シフト...符号は考慮せず行うシフト操作(シフト操作して、はみ出たビットは削除足りないビットは0を補う)算術シフト...+-を考えたシフト。先頭の符号ビットは固定にし、それ以外のビットをシフトする。固定小数点数...ビット列のどの位置に小数点があるかを暗黙了解として扱う。整数部、小数部に分けて考える。整数を表すときに使う(int型など)浮動小数点数...指数表記を用いて数値を扱う。有効な仮数部をできるだけ有効に使えるよう、小数点の位置を指数部で調整すること。有効な桁数を多くとることができると、その分誤差が減る。実際の数値とコンピュータ内部で表現できる数値との間に生じたずれを誤差という。した誤差が積み重なることで不具合が発生することもあるので注意すること。桁あふれ...演算した結果がコンピュータの扱える最大値や最小値を超えることによって起きる対策:データ型のサイズを大きくする。(int型でオーバーするならlong型にする、float型をdouble型にするなど)アンダーフロー:最小値を超えてしまうこと。(限りなく0に近い実数によって浮動小数点の指数部がパンクして精度が保てなくなる)オーバーフロー:最大値を超えてしまうこと。情報落ち...絶対値の大きな値と小さな値の加減算を行ったときに、小さな値が反映されないこと。対策:絶対値の大きい値に小さい値をいきなり足さない。対策:誤差がどのくらいまで許されるのかを考えて計算を打ち切る桁を決める桁落ち...絶対値がほぼ等しい値同士の差を求めたときに、有効な桁数が大きく減ることで生じる対策:差が小さい引き算はしないように工夫する丸め誤差...表現できる桁数を超えてしまったときに、最小桁よりも小さい部分が四捨五入や切り上げ、切り捨てを行うことによって発生する対策:データのサイズが大きい型を使う基数変換の計算に時間がかかってしまうので、練習しなきゃだな〜2進数はパッと見て桁の重みを計算して10進数に変換できるようになりたい。月別アーカイブはてなブログをはじめよう!mmm06さんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。