Я использую два следующих утверждения: -
double foo = 20.00
float bar = 20.00
println foo == bar
А также
double foo = 20.01
float bar = 20.01
println foo == bar
Он дает результат как: -
true
false
Может ли кто-нибудь знать, в чем разница между этими двумя утверждениями?
Часть 0,1 числа 20.01 бесконечно повторяется в двоичном формате; 20.01 =
10100.00000010100011110101110000101000111101011100001010001111010111...
числа с плавающей запятой округляются (до ближайшего значения) до 24 значащих битов; двойные округляются до 53. Таким образом, число с плавающей запятой
10100.0000001010001111011
и двойной
10100.000000101000111101011100001010001111010111000011
В десятичном виде это
20.0100002288818359375 и
20.010000000000001563194018672220408916473388671875 соответственно.
(Вы могли убедиться в этом напрямую, используя мой преобразователь десятичных чисел в числа с плавающей запятой.)
float и double, но не дает прямого ответа на вопрос о том, почему 20.00 дает результат true, а 20.01 дает результат false.
- person Jose Ignacio Acin Pozo; 15.09.2016
Значения double и float не имеют точного внутреннего представления для каждого значения. Единственными десятичными значениями, которые могут быть представлены как двоичные числа с плавающей запятой IEEE-754 для двух десятичных запятых, являются 0, 0,25, 0,5, 0,75 и 1. Остальные представления всегда будут немного отличаться, с небольшими различиями между числами типа double и float, создающими это неравенство в поведении.
Это справедливо не только для Groovy, но и для Java.
Например:
double foo = 20.25
float bar = 20.25
println foo == bar
Выход:
правда
Groovy Float не хранится точно в памяти. Это основная причина ваших различий.
В Groovy определение точности по количеству цифр после правой части точки может быть достигнуто с помощью следующей сигнатуры метода:
public float trunc (int precision)
precision - количество сохраняемых десятичных знаков.
Дополнительные сведения см. В документации по классам Float .
При использовании языка Groovy более предпочтительно использовать класс BigDecimal в качестве плавающего числа. Преобразование из Number в String намного проще, и есть возможность определить точность плавающего числа ** в конструкторе.
BigDecimal (BigInteger unscaledVal, int scale) преобразует немасштабированное значение BigInteger и масштаб int в BigDecimal.
Дополнительную информацию можно найти в документации Java BigDecimal . Поскольку язык Groovy основан на языке Java. Более того, BigDecimal будет представлять точное значение числа.
