上次有寫到 16進位轉浮點數 的程式寫法。
這次來探討,用手如何計算…
詳細文章請參考:這篇
我只說結論。細部請參考上面文章。
當你得到兩組16進位的數字,先將他轉成二進位,高低位元要轉置的請記得自己轉。
以41 2C 57 57來說 轉成二進位變成
0100 0001 0010 1100 0101 0111 0101 0111
再來切割一下,
S E M 0 10000010 01011000101011101010111
V=(-1)s x M x 2E
而E全為0 跟全為1 有不同的算法這邊不討論,請往上點連結
帶入以上公式會得到 1 x M x 2(130-127)
再來重點的M(小數點部份),很複雜也很麻煩,首先他有22bit,
所以會變成 0x2-1+1x2-2+0x2-3+1x2-4+1x2-5+…..
0是二進位的數字,-1 ,-2 ,-3 是按照順序排下去的。所以要算到2的負22次方…
所以 0 + 1/4 + 0 + 1/16 + 1/32 約 0.3125…
用 此網站 換算出來 大約是 1.346….,得M。
最後相乘得出結果 10.7713 。
還是用程式算比較快……..
總網頁瀏覽量
About
每次一句
Popular Posts
-
放了四天假,第一天上班 就看到Server出了點問題, 開工作管理員沒看到有吃大量記憶體的程式, 後來查到一篇, 黑暗執行緒-Windows記憶體都用到哪裡去了? 去抓了 RAMMap 來用,才發現所有的記憶體都被Drier Locked吃掉了,大約有4xG 看了幾篇文章 ...
-
前言 最近發現的,電腦開機過一段時間後,記憶體常被咬滿。 但看真實的記憶體使用量,又沒有特定的程式在使用。 最後才看到,『非分頁集區的記憶體』高的很誇張。
-
總是要用到下面的script 就是上一篇講沒很多的 @name @namespace @version @author @description ..這些東西 原文請參考 官網 簡單的就帶過, 困難的就略過, 普通的就掃過。XD 自己要用的其實上面打什...
-
首先來說起因源由, 因為以前常用的F2碰到了硬碟的GPT格式就不能用。 有試過改電腦的bios,但不是每台電腦都能改。 所以,回來當MIS後,就開始找其他備份軟體了。 此軟體的 安裝、下載,不解釋,網路上很多教學。 值得一提的是,有些電腦如果你設定了秒數,但一直都沒看到...
-
前言 弄MsChart的時候,搞了太多的參數, 不寫一下又怕到時忘記
Categories
.NET
小技巧
小說
文章分享
正規表示法
序列埠通訊
居家
拼圖
科學上網
逆向工程
偽文青
軟體
硬體
程式概念
逸品
雲端
試算表
資料庫
資訊安全
電影
演算法
網站心得
網路
機器學習
隨筆
鍵盤
雜事記錄
Android
ATOM
AutoIT
Blogger
Chrome
CSS
Dapper
dd-wrt
Debug
DevOops
DISM
DIY
Docker
Driver
Drone
EasyUI
ECK
EPPlus
EXCEL
FFmpeg
Flot Chart
GCP
Git
GKE
Golang
Google App Script
Grafana
IIS
iOS
istio
iTunes
JavaScript
jQuery
k8s
Katalon
Kubernetes
Line
LINQ
LinqToExcel
Linux
Log4Net
MAC
MailKit
Modbus
moment
MS SQL
MsChart
Nginx
NPOI
Nuget
OpenCV
OpenData
Oracle
PHP
Postgresql
powerBuilder
PowerShell
Prometheus
Python
Raspberry
Redis
ReportViwer
RPA
Scrapy
shellScript
SignalR
Solr
SQL CLR
SRE
SRS
Swagger
T-SQL
tampermonkey
Terraform
TFS
TypeScript
Ubuntu
USB安裝
VBA
VivoStick
VMware
VPN
VS Code
WebAPI
Windchill
Windows 10
Windows 7
Windows OS
Windows Server
WorePress
Xpath
Zookeeper
0 意見:
張貼留言