上次有寫到 16進位轉浮點數 的程式寫法。
這次來探討,用手如何計算…
詳細文章請參考:這篇
我只說結論。細部請參考上面文章。
當你得到兩組16進位的數字,先將他轉成二進位,高低位元要轉置的請記得自己轉。
以41 2C 57 57來說 轉成二進位變成
0100 0001 0010 1100 0101 0111 0101 0111
再來切割一下,
S E M 0 10000010 01011000101011101010111
V=(-1)s x M x 2E
而E全為0 跟全為1 有不同的算法這邊不討論,請往上點連結
帶入以上公式會得到 1 x M x 2(130-127)
再來重點的M(小數點部份),很複雜也很麻煩,首先他有22bit,
所以會變成 0x2-1+1x2-2+0x2-3+1x2-4+1x2-5+…..
0是二進位的數字,-1 ,-2 ,-3 是按照順序排下去的。所以要算到2的負22次方…
所以 0 + 1/4 + 0 + 1/16 + 1/32 約 0.3125…
用 此網站 換算出來 大約是 1.346….,得M。
最後相乘得出結果 10.7713 。
還是用程式算比較快……..
總網頁瀏覽量
About
每次一句
Popular Posts
-
前言 最近發現的,電腦開機過一段時間後,記憶體常被咬滿。 但看真實的記憶體使用量,又沒有特定的程式在使用。 最後才看到,『非分頁集區的記憶體』高的很誇張。
-
前言 經歷上次的container無法啟動事件, 開始學習看docker的設定值,越挖才知道越深奧。 Docker是用Go 開發的,所以可以直接針對結果做格式化輸出, 有支援--format的指令皆可使用
-
放了四天假,第一天上班 就看到Server出了點問題, 開工作管理員沒看到有吃大量記憶體的程式, 後來查到一篇, 黑暗執行緒-Windows記憶體都用到哪裡去了? 去抓了 RAMMap 來用,才發現所有的記憶體都被Drier Locked吃掉了,大約有4xG 看了幾篇文章 ...
-
前言 上一篇文章有提到一般常用的工具USB都有WinPE的選項,但如果用AIO Boot的話有點不太一樣
-
同事寫出來的,掛在stored procedure 下, 發送line 通知使用。 我也不知道他從哪些網頁參考出來的XD 取得token的方式,可參考前面文章 快速使用Line Notify 簡單說明 @token 就是對方的token @msg就是內容
Categories
.NET
小技巧
小說
文章分享
正規表示法
序列埠通訊
居家
拼圖
科學上網
逆向工程
偽文青
軟體
硬體
程式概念
逸品
雲端
試算表
資料庫
資訊安全
電影
演算法
網站心得
網路
機器學習
隨筆
鍵盤
雜事記錄
Android
ATOM
AutoIT
Blogger
Chrome
CSS
Dapper
dd-wrt
Debug
DevOops
DISM
DIY
Docker
Driver
Drone
EasyUI
ECK
EPPlus
EXCEL
FFmpeg
Flot Chart
GCP
Git
GKE
Golang
Google App Script
Grafana
IIS
iOS
istio
iTunes
JavaScript
jQuery
k8s
Katalon
Kubernetes
Line
LINQ
LinqToExcel
Linux
Log4Net
MAC
MailKit
Modbus
moment
MS SQL
MsChart
Nginx
NPOI
Nuget
OpenCV
OpenData
Oracle
PHP
Postgresql
powerBuilder
PowerShell
Prometheus
Python
Raspberry
Redis
ReportViwer
RPA
Scrapy
shellScript
SignalR
Solr
SQL CLR
SRE
SRS
Swagger
T-SQL
tampermonkey
Terraform
TFS
TypeScript
Ubuntu
USB安裝
VBA
VivoStick
VMware
VPN
VS Code
WebAPI
Windchill
Windows 10
Windows 7
Windows OS
Windows Server
WorePress
Xpath
Zookeeper
0 意見:
張貼留言