Вопросы по теме 'extended-precision'

В J, как мне найти пол квадратного корня с целочисленным значением повышенной точности
Я понимаю, что когда я извлекаю квадратный корень ( %: ) из числа, которое не дает целого числа, мой ответ - число с плавающей запятой. Я ищу нижний предел ( <. ) квадратного корня, чтобы получить целочисленный результат. Есть ли у J встроенный...
81 просмотров
schedule 01.11.2021

896-битное целое число? Или 16384-битный?
Поскольку x86_64 имеет 14 регистров общего назначения ( rsp и rbp для стека), не могли бы вы сделать 896-битное целое число? Или вы могли бы даже использовать все 32 zmm регистра (512-битных) для создания 16384-битного целого числа, перемещая...
44 просмотров
schedule 21.10.2021

Какова философия использования значений с плавающей запятой в Clojure?
В настоящее время я работаю с Clojure-on-top-of-the-JVM . язык Java , раскрывающий функциональность JVM с плавающей запятой, говорит, что мы получаем ( точно ) IEEE-754 32-битная одинарная точность (Java "плавающая") и 64-битные...
150 просмотров

Функция, которая возвращает, полностью ли соответствует IEEE-754 тип с плавающей запятой?
Я хотел бы написать функцию, которая проверяет, что float , double или long double полностью соответствуют формату IEEE-754. Я имею в виду: float = двоичный файл IEEE-75432 double = двоичный файл IEEE-75464 long double = двоичный...
202 просмотров

Какой самый быстрый алгоритм разделения на языке ассемблера x86-64 для огромных чисел?
Я пишу библиотеку кода на языке ассемблера x86-64, чтобы обеспечить все обычные побитовые, сдвиговые, логические, сравнивающие, арифметические и математические функции для s0128 , s0256 , s0512 , s1024 целочисленных типов со знаком и f0128 ,...
3065 просмотров

Практичный BigNum AVX / SSE возможен?
Регистры SSE / AVX можно рассматривать как целые числа или BigNums с плавающей запятой. То есть можно было пренебречь тем, что полосы вообще существуют. Существует ли простой способ использовать эту точку зрения и использовать эти регистры как...
4429 просмотров
schedule 26.12.2022

Есть ли 256-битный целочисленный тип?
ОС: Linux (Debian 10) CC: GCC 8.3 Процессор: i7-5775C В GCC есть _1 _ / _ 2_, но есть ли способ иметь _3 _ / _ 4_ в GCC? Я читал о __m256i , похоже, от Intel. Есть ли какой-нибудь заголовок, который я могу добавить, чтобы получить его? Это...
8327 просмотров
schedule 04.02.2023