基数を変えるとは位取りを変えること
十進法の255は 2×10² + 5×10¹ + 5×10⁰ です。二進法は同じ位取りに2のべき乗を、十六進法は16のべき乗を使います。二進法で書けば255は11111111、十六進法ならFFになります。ひとつの量を三つの尺度で綴った三つの姿です。
十進法から出るには余りを集めます。目的の基数で割って余りを記し、商をまた割り、余りを最後から順に読みます。逆向きなら、各桁にその位の重みを掛けて足し合わせます。
十六進法が好まれるのは、二進法の四桁がちょうど十六進法の一桁に対応するからです。色コードの#8B5CF6は24ビットを六文字に圧縮しています。八進法は三ビットずつをまとめるので、Unix のファイル権限のように三ビットの組に意味がある場面で生き残っています。
変換が狂うところ
十六進法の入力は0xの接頭辞や大文字小文字の混在で読み取れないことがよくあります。FF も ff も 0xFF もすべて255なので、書式より先に桁数を見てください。もっと厄介なのは元の基数を取り違えることです。101は二進法なら5、十進法なら101と、まったく別の答えになります。
ビット数は、その値を表すのに何桁の二進数が要るかを示すもので、必要な記憶領域とは別の話です。255は符号なし八ビットに収まりますが、符号つき八ビットの整数は−128から127までしか持てないので、そこには収まりません。
負の数と小数はこの道具の範囲外です。負の数は二の補数のような別の表現が要り、答えは選んだビット幅に左右されます。小数は二進法でめったに割り切れないので、十進法の小数を正確に表すことはできません。