『壹』 c++ 浮點數誤差
浮點數的概念請看計算機組成原理。也可以看看IEEE754標准。
浮點數的相等問題，只能用兩個浮點數的差的絕對值小於某個值來判斷。誤差無法避免。float的精度大概是小數點後的6位到7位。如果要減少誤差可以用double.
『貳』 怎麼消除浮點運算誤差
在進行數據計算時，小數也就是浮點數擁有不低的出場率。在常人看來，機器也就是計算機的數據運算是不會出錯的，沒錯，計算機進行數據運算的確不會犯錯，但小數運算的誤差是免不了的。
來試一試。
在JS中寫上console.log(0.3-0.1);輸出到控制台
0.3與0.1轉換為二進制的浮點數都是無限循環小數。但由於浮點數精度有限被強行截斷，所以轉回十進制輸出的數據會有誤差。
那麼如何解決這個問題。
最簡單的解決方案就是給出明確的精度要求，在返回值的過程中，計算機會自動四捨五入。
console.log((0.3-0.1).toFixed(2));//輸出的結果是0.20；
然而這樣子解決有點勉強。
再看下面的方法
var s = Math.pow(10,8);
console.log((0.3 * s - 0.1 * s)/s);
輸出後結果為0.2，沒有誤差。為什麼，上面是什麼意思。
原來為了避免產生精度差異，我們要把需要計算的數字乘以 10 的 n 次冪，換算成計算機能夠精確識別的整數，然後再除以 10 的 n 次冪，就能夠得到准確的結果了。
大部分編程語言都是這樣處理精度差異的，這里就借用過來處理一下 JS 中的浮點數精度誤差。
『叄』 如何消除浮點計算導致的計算誤差-Excel學習網
乍看之下，以下報告是一份普通報告。它僅按產品和地區對Excel表進行求和，然後對結果進行交叉計算。
報告的主體使用類似於所示單元格的公式…
F3：= SUMIFS（表格[值]，表格[區域]，$ E3，表格[產品]，F $ 2）
… SUMIFS使用以下語法：
= SUMIFS（sum_range，criteria_range1，criteria1，criteria_range2，criteria2，...）
該報告的結構良好的版本會將測試添加到行和列的總計中，這些測試可確保報告不會忽略自上次生成報告以來添加到源數據中的新區域或產品。
但不幸的是，Excel的浮點數不準確會導致立足和跨立腳困難。
『肆』 wpsexcel消除公式浮點運算誤差
一是盡可能使用加法而不是使用減法，會很少受浮點運算誤差的影響
二是可採用ROUND之類的數據截取，一般這個誤差是很小很小的，小數位數在8位以上的，所以，只要四舍五十截取前面幾位數，就可以消除這個誤差了……
『伍』 sql語句 decimal(18,0)什麼意思
decimal(18,0)，數值中共有18位數，其中整數佔18位，小數佔0位。Decimal(n,m)表示數值中共有n位數，其中整數n-m位，小數m位。
例：decimal(2,1)，此時，插入數據「12.3」、「12」等會出現「數據溢出錯誤」的異常；插入「1.23」或「1.2345...」會自動四捨五入成「1.2」；插入「2」會自動補成「2.0」，以確保2位的有效長度，其中包含1位小數。
當用 int類型會有溢出時，可以用 decimal 類型進行處理，把結果可以用 convert 或是 cast 進行轉換。
(5)怎麼消除浮點誤差sql擴展閱讀：
Decimal 數據類型Decimal 變數存儲為 96 位（12 個位元組）無符號的整型形式，並除以一個 10 的冪數。這個變比因子決定了小數點右面的數字位數，其范圍從 0 到 28。變比因子為 0（沒有小數位）的情形下，最大的可能值為 +/-79,228,162,514,264,337,593,543,950,335。
在有 28 個小數位的情況下，最大值為 +/-7.9228162514264337593543950335，而最小的非零值為 +/-0.0000000000000000000000000001。注意 此時，Decimal 數據類型只能在 Variant中使用，也就是說，不能聲明一變數為 Decimal 的類型。
不過可用 Cdec 函數，創建一個子類型為 Decimal 的 Variant。 這樣就對了。Decimal類型消除了發生在各種浮點運算中的舍入誤差,並可以准確地表示28個小數位。
『陸』 VB單精度、雙精度浮點數誤差，如何消除
浮點數的存在是完全有必要、不可或缺的。電腦由於設計上的特點，它是不可能精確儲存一個無限小數（比如說圓周率）的，否則的話一台電腦上的全部內存空間都不夠用來儲存一個數字！因此，電腦就用浮點數來近似表示一個實數，其中單精度浮點數（Single）佔用4個位元組，可表示7位有效數字（比如說圓周率用Single型表示就是3.141593），雙精度浮點數（Double）佔用8個位元組，可表示15位有效數字（圓周率的Double型值為3.14159265358979）。正因為它是「近似值」，所以浮點數的運算難免會產生誤差，這個是不可避免的，而且這也不是VB的「罪」，在所有程序設計語言中都是存在的（當然，不同的語言可能有不同的規避措施，VB也許在這方面做得不夠好）。
貨幣型（佔用8個位元組）是一種特殊的數據類型，它看起來像浮點數（因為可帶小數），但其實它是定點數（因為它的小數位是固定4位的）。它在運算時會先把自己轉換為整數（小數點右移4位），運算後再轉為小數（小數點左移4位），所以它的運算是精確運算，不存在浮點誤差的問題。但是，由於貨幣的特殊性，貨幣型只能有4位小數，因此當小數位超過4位時就不適合用貨幣型了。
變體型屬於「萬金油」數據類型，可接受任何數據類型，而且它會自動根據數值的特點自動選擇適合的數據類型參與運算，如果數值不含小數，它會自動按整數處理；如果數值所含小數不多於4位，它會按貨幣型處理（這就是為什麼你的程序用變體型不會產生誤差的原因）；如果小數位大於4，就按浮點數處理（也就是說你的程序處理的數據如果大於4位小數，用變體型一樣會產生誤差的）。但是，變體型屬於VB的「畸形產物」（其他高級語言中是沒有這樣的類型的），除了剛入門的初學者，一般不建議使用變體型。因為變體型為了適應各種數據類型，它要佔用16個位元組的內存空間（也就是說一個變體型變數即使值為0，它也要佔用16個位元組），這會嚴重浪費寶貴的系統資源，嚴重影響程序的運行效率，而且有可能會產生一些意料之外的錯誤（這里就不贅述了）。所以，千萬不要以為變體型簡單、好用，一個程序中如果大量使用變體型變數，那麼可以肯定的是，這個程序會顯得非常業余，一點也不專業！
綜上所述，使用浮點數並不是因為它「准確」，而是當你處理的數據含有小數（尤其是大於4位的小數）時，你只能選擇浮點數來計算了，別無選擇！其次，浮點運算誤差是不可避免的，只能通過其他措施盡量減小誤差的影響。此外，變體型並不是一種獨立的數據類型，它會根據需要自動轉為整數、貨幣型、浮點數等，所以所謂「變體型不如單雙精度准確」之類的提法也是錯誤的。
『柒』 js浮點數精度誤差問題，解決方法
JavaScript 是一門弱類型的語言，從設計思想上就沒有對浮點數有個嚴格的數據類型，所以精度誤差的問題就顯得格外突出。下面就分析下為什麼會有這個精度誤差，以及怎樣修復這個誤差。
首先，我們要站在計算機的角度思考 0.1 + 0.2 這個看似小兒科的問題。我們知道，能被計算機讀懂的是二進制，而不是十進制，所以我們先把 0.1 和 0.2 轉換成二進制看看：
0.1 => 0.0001 1001 1001 1001…（無限循環）
0.2 => 0.0011 0011 0011 0011…（無限循環）
雙精度浮點數的小數部分最多支持 52 位，所以兩者相加之後得到這么一串 0. 因浮點數小數位的限制而截斷的二進制數字，這時候，我們再把它轉換為十進制，就成了 0.30000000000000004。
原來如此，那怎麼解決這個問題呢？我想要的結果就是 0.1 + 0.2 === 0.3 啊！！！
有種最簡單的解決方案，就是給出明確的精度要求，在返回值的過程中，計算機會自動四捨五入，比如：
var numA = 0.1;
var numB = 0.2;
alert( parseFloat((numA + numB).toFixed(2)) === 0.3 );
乘法運算中有這種，比如0.58*100，結果是57.99999999999999。可以用Math.round()進行處理，
------||-------
盡量避免對小數進行操作，先處理成整數後在進行操作，其結果會比較精確。
『捌』 浮點數運算，因編譯器精度不同導致的誤差如何避免
將小數部分放大10倍
『玖』 Excel 求教用VBA解決浮點誤差
原因：這是由於浮點運算造成的。（在微軟官方有詳細說明的）
(0.65)10 = (0.......)2(0.6) 10 = (0.......)2
目前計算機上存儲浮點數值是按照IEEE（電氣和電子工程師協會）754浮點存儲格式標准來存儲的。IEEE單精度浮點格式共32位，包含三個構成欄位：23位小數f，8位偏置指數e，1位符號s。將這些欄位連續存放在一個32位字里，並對其進行編碼。其中0:22位包含23位的小數f； 23:30位包含8位指數e；第31位包含符號s。也就是說上面將0.65及0.5轉換出的二進制代碼，我們只能存儲23位，即使數據類型為double，也只能存儲52位，這樣大家便能看出問題出現的原因了。
截取的二進制代碼已無法正確表示0.65及0.5，根據這個二進制代碼肯定無法正確得到結果0.05。
在Excel進行計算時在計算機中是轉換成二進制進算然後保留數值的，所以會出現誤差。
方法一：
將原公式利用round()函數將其保留固定的小數位。
方法二：
工具----選項----重新計算---勾選【以顯示精度為准】
『拾』 表格浮點誤差怎麼解決
在Excel進行計算時在計算機中是轉換成二進制進算然後保留數值的，所以會出現誤差。解決方法：1、打開excel表格，在單元格A1中輸入數字「2.88」，在單元格B1中輸入數字「5.89」。2、在C1單元格中輸入計算公式：=(ROUND(A1,2))+ROUND(B1,2)，意思為使用ROUND函數確保小數位為2位。3、點擊回車生成函數公式計算結果，得到的數值為「8.77」。4、復制C1單元格，在C2點擊右鍵，選擇「粘貼數值」。5、粘貼之後，可以看到計算得到的數值是小數點顯示後兩位，沒有出現誤差。