Вопросы по теме 'single-precision'

После преобразования битов в Double, как сохранить фактическое значение float / double без использования BigDecimal?
Согласно нескольким калькуляторам с плавающей запятой, а также моему приведенному ниже коду, следующие 32 бита 00111111010000000100000110001001 имеют фактическое значение с плавающей запятой (0,750999987125396728515625). Поскольку это фактическое...
62 просмотров

IEEE 64 и 32-битная проверка с плавающей запятой в OCaml
У меня есть строка, соответствующая следующему регулярному выражению \-?[0-9]*\.[0-9]+ , которое предположительно представляет собой число с плавающей запятой IEEE. Это может быть одинарная или двойная точность, и я заранее знаю тип. Мне нужно...
420 просмотров

CUDA C использует флоп одинарной точности на двойных
Проблема Во время проекта в CUDA C я столкнулся с неожиданным поведением в отношении операций с плавающей запятой одинарной и двойной точности. В проекте я сначала заполняю массив числами в ядре, а в другом ядре я делаю некоторые вычисления с...
651 просмотров
schedule 30.12.2022

Почему экспонента для числа с плавающей запятой (32 бита) в Java -126, а не -128?
32-битный стандарт: 1 бит для положительного/отрицательного значения числа. 8 бит для экспоненты и 24 бита для мантиссы. 8 бит для экспоненты, это означает 1 * 2^7 + 1 * 2^6 + ... = 255. Когда максимальная экспонента равна 127, тогда...
305 просмотров