Вопросы по теме 'extended-precision'
В J, как мне найти пол квадратного корня с целочисленным значением повышенной точности
Я понимаю, что когда я извлекаю квадратный корень ( %: ) из числа, которое не дает целого числа, мой ответ - число с плавающей запятой. Я ищу нижний предел ( <. ) квадратного корня, чтобы получить целочисленный результат. Есть ли у J встроенный...
81 просмотров
schedule
01.11.2021
896-битное целое число? Или 16384-битный?
Поскольку x86_64 имеет 14 регистров общего назначения ( rsp и rbp для стека), не могли бы вы сделать 896-битное целое число?
Или вы могли бы даже использовать все 32 zmm регистра (512-битных) для создания 16384-битного целого числа, перемещая...
44 просмотров
schedule
21.10.2021
Какова философия использования значений с плавающей запятой в Clojure?
В настоящее время я работаю с Clojure-on-top-of-the-JVM .
язык Java , раскрывающий функциональность JVM с плавающей запятой, говорит, что мы получаем ( точно ) IEEE-754 32-битная одинарная точность (Java "плавающая") и 64-битные...
150 просмотров
schedule
08.03.2022
Функция, которая возвращает, полностью ли соответствует IEEE-754 тип с плавающей запятой?
Я хотел бы написать функцию, которая проверяет, что float , double или long double полностью соответствуют формату IEEE-754. Я имею в виду:
float = двоичный файл IEEE-75432
double = двоичный файл IEEE-75464
long double = двоичный...
202 просмотров
schedule
09.09.2022
Какой самый быстрый алгоритм разделения на языке ассемблера x86-64 для огромных чисел?
Я пишу библиотеку кода на языке ассемблера x86-64, чтобы обеспечить все обычные побитовые, сдвиговые, логические, сравнивающие, арифметические и математические функции для s0128 , s0256 , s0512 , s1024 целочисленных типов со знаком и f0128 ,...
3065 просмотров
schedule
21.06.2023
Практичный BigNum AVX / SSE возможен?
Регистры SSE / AVX можно рассматривать как целые числа или BigNums с плавающей запятой. То есть можно было пренебречь тем, что полосы вообще существуют. Существует ли простой способ использовать эту точку зрения и использовать эти регистры как...
4429 просмотров
schedule
26.12.2022
Есть ли 256-битный целочисленный тип?
ОС: Linux (Debian 10)
CC: GCC 8.3
Процессор: i7-5775C
В GCC есть _1 _ / _ 2_, но есть ли способ иметь _3 _ / _ 4_ в GCC?
Я читал о __m256i , похоже, от Intel. Есть ли какой-нибудь заголовок, который я могу добавить, чтобы получить его?
Это...
8327 просмотров
schedule
04.02.2023