2018-08-07から1日間の記事一覧
A 下位2Byteが、F2Dot14 A / 2^14 -32768 F8000 -2.000000 **** -32767 F8001 -1.999939 -32766 F8002 -1.999878 -16386 FBFFE -1.000122 -16385 FBFFF -1.000061 -16384 FC000 -1.000000 **** -16383 FC001 -0.999939 -16382 FC002 -0.999878 -2 FFFFE -0.0…
dec2hexで負数を表示すると、桁数制限しているのに、符号拡張部分のFFFFが表示されてしまう。 この、FFFFをカットして表示する方法例：A2=-32768 =DEC2HEX(A2,5) FFFF8000=DEC2HEX(BITAND(A2+2^16,2^16-1),5) 8000=DEC2HEX(BITAND(A2+2^20,2^20-1),5) F8000…
