Вопросы по теме 'double-precision'
C ++: разница между 0. и 0.0?
Мне хорошо известна разница между 0 и 0.0 (int и double).
Но есть ли разница между 0. и 0.0 (обратите внимание на.)?
Заранее большое спасибо,
Аксель
3084 просмотров
schedule
04.11.2021
Почему при использовании удвоений (x / (y * z)) не совпадает с (x / y / z)?
Это отчасти чисто академический характер, так как для моих целей мне нужно округлить только до двух знаков после запятой; но я очень хочу знать, что происходит, чтобы дать два немного разных результата.
Это тест, который я написал, чтобы сузить...
1788 просмотров
schedule
01.12.2021
постфикс 'd+0' в реальных литеральных выражениях Fortran
Кто-нибудь знает, что означает постфикс « d+0 » в заданиях для M1, M2 и M4 ниже, или есть ли какой-либо ресурс в Интернете или книга, где можно найти эту информацию?
subroutine plot( t, x, p, q, nga, nt, wron,
&...
3843 просмотров
schedule
05.04.2022
Glib: g_ascii_dtostr неточна?
Я немного заинтригован тем, как работают некоторые бойкие функции, такие как "g_ascii_dtostr" (и функции GKeyFile, использующие двойники).
Рассмотрим эту строку:
gchar buf[30];
g_message("Double: %f, as String: %s", 0.2, g_ascii_dtostr(buf, 30,...
546 просмотров
schedule
16.04.2022
хост в сети двойной?
Я хотел бы отправить несколько чисел с плавающей запятой двойной точности по сети. (стандартный C, стандартные сокеты) Нет htond или ntohd для преобразования данных в сетевой порядок байтов и обратно. Что я должен делать? У меня есть пара решений в...
6127 просмотров
schedule
10.05.2022
Точность long double хуже, чем double
Когда я использую long double , я получаю худшую точность, чем при использовании double . 3.14159265358979323846264L хорошо ли писать long double const в исходном коде, или я должен добавить что-то другое, кроме L ?
РЕДАКТИРОВАТЬ Я решил...
258 просмотров
schedule
17.05.2022
Есть ли точное приближение функции acos()?
Мне нужна функция acos() с двойной точностью в вычислительном шейдере. Поскольку в GLSL нет встроенной функции acos() с двойной точностью, я попытался реализовать свою.
Сначала я реализовал ряд Тейлора, подобный уравнению из Вики — ряд...
2221 просмотров
schedule
18.05.2022
NaN, проблема с Java
Я пытаюсь разделить два полных двойных значения (т.е. двойные переменные со всей памятью, заполненной числом высокой точности). При этом результат операции будет размещен в двойной переменной.
Когда я выполняю процесс, этот возвращает мне NaN....
110 просмотров
schedule
10.06.2022
Двойная точность - MS Visual C++ 2005 против Matlab
Я использую MS Visual C++ 2005 для реализации некоторых математических алгоритмов на C++. Мой код C++ принимает 10K входных значений двойного типа данных с точностью до 12 знаков после запятой (например, 866.333333333333), которые генерируются в...
1422 просмотров
schedule
11.07.2022
Несоответствие типа возвращаемого значения функции
Я пытаюсь перекодировать старую программу C++ в Fortran, чтобы использовать LAPACK (я знаю, что C++ действительно имеет LAPACK++, но у меня большие проблемы с его установкой, поэтому я сдался).
Изначально у меня не было проблем с компиляцией, но...
23630 просмотров
schedule
08.08.2022
Насколько точным/точным является java.lang.Math.pow(x, n) для больших n?
Я хотел бы вычислить (1.0-p)^n , где p — это двойное число от 0 до 1 (часто очень близкое к 0), а n — положительное целое число, которое может быть порядка сотен или тысяч (возможно, больше; я еще не уверен). Если возможно, я хотел бы просто...
3501 просмотров
schedule
30.04.2023
Ошибка с плавающей запятой в представлении?
когда я делаю это умножение
0.94 * 8700
вывод
8177.999999999999
но это должно было быть
8178
я использую java, но я не думаю, что эта ошибка связана с конкретным языком программирования, теперь мой вопрос: почему...
372 просмотров
schedule
17.02.2023
Как определить, имеет ли двойная переменная целочисленное значение?
Я пытаюсь найти возможные целые корни квадратного уравнения с Java.
Вот фрагмент моего кода:
double sqrtDiscriminant = Math.sqrt(b * b - 4 * a * c);
double root1 = ((-1.0 * b) - sqrtDiscriminant) / (2.0 * a);
double root2 = ((-1.0 * b)...
912 просмотров
schedule
09.06.2023
Матричный продукт Matlab и С++: один и тот же вход, разные выходы
Я использую Matlab 2010 в своей Ubuntu 12.04 на компьютере с архитектурой x86 и g++ 4.6.3. вот как я делаю производство и ввод:
#include <Src/Tools/Math/Matrix_nxn.h>
#include <iostream>
using namespace std;
int main()...
305 просмотров
schedule
26.05.2023
Как C сохраняет двойное значение в выделенном массиве типа float?
Я меняю свою программу с точности с плавающей запятой на двойную точность. Тем не менее, я начинаю эту процедуру с чтения чисел с плавающей запятой из двоичного файла.
bufz = alloc1float(nz);
for (i=0; i<nx; i++) {
nu =...
1946 просмотров
schedule
22.05.2023
Двойная точность числа
Если предположить, что переменные x и y могут быть представлены с двойной точностью без ошибки. Лучше написать x^2 - y^2 или просто (x + y)(x-y) ?
Я думал об этой проблеме и думаю, что x^2 - y^2 должно быть точнее из-за иррациональности...
67 просмотров
schedule
12.11.2022
GLSL Угол двойной точности, временное решение для триггерных и экспоненциальных функций
В GLSL есть элементарная поддержка переменных и операций с двойной точностью, которые можно найти здесь . Однако они также упоминают «Версии с двойной точностью для угловых, тригонометрических и экспоненциальных функций не поддерживаются».
Есть...
1465 просмотров
schedule
15.11.2022
Перетасовка CUDA для данных с двойной точностью
Программа CUDA должна выполнять сокращение для данных с двойной точностью, я использую слайды Жюльена Демута под названием «Перемешать: советы и рекомендации».
функция перемешивания ниже:
/*for shuffle of double-precision point */
__device__...
1525 просмотров
schedule
17.03.2023
Цикл for с двойным значением в Java
Проблема. У меня есть строка с двойным значением "0.4 0.3 2.1 и т.д.". Мне нужно зациклиться на этом списке и подсчитать количество вхождений каждого числа.
я использовал
StringTokenizer stokens = new StringTokenizer(values);...
3379 просмотров
schedule
26.10.2022
Точность расчетов
Я делаю расчет на Фортране для переменной двойной точности, и после расчета переменная получает значение -7.217301636365630e-24 .
Однако, когда я делаю те же вычисления в Matlab, переменная просто получает значение 0 . Есть ли способ повысить...
163 просмотров
schedule
20.10.2023
