Вопросы по теме 'floating-accuracy'
Может ли вычисление с плавающей запятой отличаться на разных процессорах? (+ передача двойников между C # и C)
У меня есть приложение, написанное на C #, которое также вызывает некоторый код C. Код C # получает двойное значение на входе, выполняет над ним некоторые вычисления, передает его на собственный уровень, который выполняет свои собственные вычисления,...
867 просмотров
schedule
17.11.2021
Управление и сравнение с плавающей запятой в java
В Java арифметика с плавающей запятой не представлена точно. Например, этот Java-код:
float a = 1.2;
float b= 3.0;
float c = a * b;
if(c == 3.6){
System.out.println("c is 3.6");
}
else {
System.out.println("c is not 3.6");
}...
27982 просмотров
schedule
09.09.2021
Как на самом деле избежать ошибок с плавающей запятой, когда вам нужно использовать float?
Я пытаюсь повлиять на перевод 3D-модели с помощью некоторых кнопок пользовательского интерфейса, чтобы сместить положение на 0,1 или -0,1.
Моя позиция модели - это трехмерное поплавок, поэтому простое добавление 0,1f к одному из значений вызывает...
1116 просмотров
schedule
08.09.2021
Как совместить представление с плавающей запятой с прерывистой функцией?
Я много читал о плавающих ошибках, плавающих аппроксимациях и всем остальном. Дело в том, что я никогда не читал ответов на реальные проблемы. И сегодня я столкнулся с реальной проблемой. И это действительно плохо, и я действительно не знаю, как...
151 просмотров
schedule
21.10.2021
Выбор лучей с буфером глубины: ужасно неточно?
Я пытаюсь реализовать алгоритм выбора лучей для рисования и выбора блоков (поэтому мне нужна изрядная точность). Изначально я выбрал реализацию лучей, но не чувствовал, что она достаточно точна (хотя ошибка могла быть связана с моим тестированием...
1249 просмотров
schedule
26.10.2021
Почему 0,4 / 2 равно 0,2, а 0,6 / 3 в Python равно 0,19999999999999998?
Я знаю, что это деление с плавающей запятой. Но почему эти две формулы вели себя по-разному?
И я провел еще одно расследование, результат меня еще больше сбил с толку:
>>>0.9/3
0.3
>>>1.2/3
0.39999999999999997...
1573 просмотров
schedule
01.12.2021
Точность добавления чисел с плавающей запятой в сравнении с умножением числа с плавающей запятой на целое число
В моем курсе информатики мы изучаем числа с плавающей запятой и то, как они представлены в памяти. Я уже понимаю, как они представлены в памяти (мантисса / мантисса, показатель степени и его смещение, и бит знака), и я понимаю, как числа с плавающей...
1253 просмотров
schedule
13.11.2021
Как проверить, подходит ли long long в двойную переменную
Я хотел бы проверить, можно ли безопасно преобразовать длинную переменную в двойную. DBL_MAX не помогает, потому что есть целые числа меньшие, чем то, которые не могут быть представлены двойным числом, в то время как некоторые из целых чисел,...
286 просмотров
schedule
07.11.2021
Распределение R говорит о том, что полная точность, возможно, не была достигнута
Я работаю с проблемой, которая обычно требует вычисления плотности t-распределения довольно далеко в хвостах R.
Например, используя функцию распределения R t, dt(1.424781, 1486, -5) возвращает [1] 2.75818e-10 . Некоторые из моих окончательных...
1094 просмотров
schedule
16.11.2021
Когда в Java использовать тип float?
Я знаю, что тип float - это плавающая точка IEEE, и это не точность вычислений, например, если я хочу суммировать два числа с плавающей запятой 8.4 и 2.4 , я получаю 10.7999999 , а не 10.8 . Я также знаю, что BigDecimal может решить эту...
470 просмотров
schedule
07.09.2021
Деление на и последующее умножение на одно и то же число с плавающей запятой
Следующий код выполняет эмпирический анализ поведения деления на и последующего умножения с тем же числом с плавающей запятой.
Когда я смотрю на вывод программы без округления, поведение кажется мне несколько произвольным. Я ожидал менее резкого...
130 просмотров
schedule
09.09.2021
Гарантируется ли, что копия переменной с плавающей запятой будет побитовым эквивалентом оригинала?
Я работаю над детерминизмом с плавающей запятой и уже изучив так много удивительных потенциальных причин индетерминизма, я начинаю становиться параноиком по поводу копирования чисел с плавающей запятой:
Что-нибудь в стандарте C ++ или вообще...
269 просмотров
schedule
14.10.2021
Сравнение с плавающей запятой
У меня есть конкретный вопрос о сравнениях с плавающей запятой. Я знаю, что не рекомендуется использовать сравнение == из-за проблем с точностью, но в этом конкретном случае мне интересно, будет ли это утверждение во всех случаях/компиляторах верным?...
99 просмотров
schedule
13.02.2022
Рубиновая точность поплавка
Насколько я понимаю, числа с плавающей запятой Ruby (1.9.2) имеют точность 15 знаков после запятой. Поэтому я ожидаю, что округление числа с плавающей запятой x до 15 знаков после запятой будет равно x . Для данного расчета это не так.
x =...
12506 просмотров
schedule
18.02.2022
Вычислить максимальные цифры точности для числа с плавающей запятой
Согласно википедии, число с плавающей запятой с одинарной точностью сохраняет точность до тех пор, пока в нем меньше 7 значащих цифр. Есть ли формула для нахождения этого максимального количества значащих цифр?
Например: сколько десятичных цифр...
36 просмотров
schedule
25.02.2022
Точное текстовое представление двойника IEEE
Мне нужно представить двойное (64-разрядное) число с плавающей запятой IEEE 754-1985 в удобочитаемой текстовой форме с условием, что текстовая форма может быть проанализирована обратно в точно то же самое (бит -мудрое) число.
Возможно ли это...
3261 просмотров
schedule
10.03.2022
сравнение координат GPS с определенным запасом в c
Я привязывал, чтобы сделать устройство с ардуино, которое будет использовать два модуля gps. Таким образом, один отправляет шнуры GPS, а другой получает и сравнивает свое текущее местоположение с местоположением отправителя, и как только получатель...
755 просмотров
schedule
16.03.2022
TensorFlow: использование F1_score в контексте двоичной классификации
Я использую функцию softmax для задачи двоичной классификации. Мой тестовый ярлык представляет собой один из горячих списков и выглядит так: test_y = [[1. 0.] [1. 0.]…]
И прогнозируемая метка представляет собой список вероятностей:...
86 просмотров
schedule
21.03.2022
Как численно решать разностные уравнения в python
Рассмотрим это разностное уравнение:
Решение
Я пытаюсь решить это численно в python, чтобы объяснить проблемы, возникающие при вычислениях с плавающей запятой.
Я написал функцию, которая вычисляет x n+1
def diff(n):
c = 1...
921 просмотров
schedule
01.04.2022
разделение счета алгоритмически и честно, потом :)
Я пытаюсь решить следующую реальную проблему, с которой вы могли столкнуться сами:
Вы ужинали с друзьями и согласились разделить счет поровну. За исключением того, что когда, наконец, приходит счет, вы обнаруживаете, что не у всех достаточно денег...
5189 просмотров
schedule
10.04.2022
