floating-point — все вопросы

1ответ
4 голоса
Функция MySQL Round () для десятичной записи в строке
Версия MySQL 5.66.22 Когда я использую функцию ROUND для десятичных чисел, хранящихся в varchar, я вижу странное поведение для всех .5 чисел Select round(0.5) 1 Select round('0.5') 0 Select r
4ответа
4 голоса
Надежное обнаружение переполнения преобразования типа с плавающей точкой
Есть ли безопасный способ надежно определить, может ли целочисленный тип T хранить целочисленное значение с плавающей точкой f (поэтому f == floor(f)) без переполнения? Имейте в виду, что нет ник
1ответ
4 голоса
Понимание констант с плавающей точкой GCC в выводе списка сборки
Просто из любопытства я использую Проводник компилятора , чтобы увидеть результаты сборки некоторых простых кодов C ++. Рассмотрим следующий пример int main(void){ double x = -5.3; }
1ответ
4 голоса
Как получить данные с плавающей запятой через веб-сокет в машинописи
Я понимаю, что невозможно легко отправлять и получать плавающие слова так же, как для строк. Однако, если я настрою свой веб-сокет так: ws = new WebSocket(address); ws.binaryType = 'blob'; Я до
6ответов
4 голоса
странные результаты простых операций с плавающей точкой - плохое внутреннее состояние FPU?
У меня есть программный проект, в котором я иногда получаю странные результаты от небольших простых операций с плавающей запятой. Я предполагаю, что что-то упустил, и хотел бы дать несколько советов
2ответа
4 голоса
Какие правила использует MySQL для отображения значений с плавающей запятой?
Я храню значения в столбце, определенном как float. Когда я считываю эти значения из базы данных, они иногда значительно отличаются от исходных значений, чем я ожидал (я знаю, что float не хранит то
3ответа
4 голоса
Почему разные компьютеры могут вычислять разные арифметические результаты в VB.NET?
У меня есть некоторое программное обеспечение, написанное на VB.NET, которое выполняет много вычислений, в основном извлекает JPEG-файлы в растровые изображения и вычисляет вычисления на пикселях, т
1ответ
4 голоса
Платформа компиляции с учетом режима округления FPU при печати, конверсии
РЕДАКТИРОВАТЬ: во время сеанса отладки я допустил ошибку, которая заставила меня задать этот вопрос. Различия, которые я видел, на самом деле заключались в распечатке double и разборе double (strto
3ответа
4 голоса
Алгоритмы с плавающей точкой в ​​C
В последнее время я думаю о том, как математика с плавающей запятой работает на компьютерах, и мне трудно понять все технические детали, лежащие в основе формул. Мне нужно было бы понять основы слож
1ответ
4 голоса
Отрицательный аргумент для программы на C в execl обнаружен как опция
Я использую функцию execl() для этого вызова: execl("/localhome/globususer/mandel", "-b", xmin, xmax, ymin, ymax, "-f", name, (char*)NULL); Все xmin, xmax, ymin, ymax инициализируются следующим
2ответа
4 голоса
Можно ли использовать числа с плавающей точкой в ​​качестве индексов или при создании факторов в R?
Можно ли использовать числа с плавающей запятой в качестве индексов или при создании факторов в R? Я не имею в виду числа с десятичными частями; это было бы явно странно, но вместо этого числа, к
2ответа
4 голоса
Нахождение «дискретной» разницы между близкими числами с плавающей точкой
Предположим, у меня есть два числа с плавающей точкой: x и y, где их значения очень близки. На компьютере имеется дискретное число чисел с плавающей запятой, поэтому мы можем перечислять их в пор
1ответ
4 голоса
Округление со значительными цифрами
В Xcode /Objective-C для iPhone. У меня есть число с плавающей запятой со значением 0,00004876544. Как заставить его отображать два знака после запятой после первого значащего числа? Например,
1ответ
4 голоса
Оптимизированная FFT и математика для AR91-процессора AT91SAM9.
Я занимаюсь разработкой программного обеспечения на C /C ++ для встроенной системы Linux с процессором AT91SAM9G20 от Atmel. Мне нужно быстро вычислить БПФ с использованием математики с фиксированно
2ответа
4 голоса
Реализация Pow для двойного
Я разрабатываю код, который будет использоваться для управления движением, и у меня возникла проблема с функцией pow. Я использую VS2010 в качестве IDE. Вот моя проблема: У меня есть: doubl
2ответа
4 голоса
Как рассчитать проценты от суммы подмассивов, чтобы их сумма была строго равна 100 с использованием десятичного числа C #
Допустим, у меня есть массив целых чисел. Логически разделим его на две части для упрощения. Допустим, total sum всех элементов массива равно 2860800 Допустим, сумма всех элементов left half р
1ответ
4 голоса
Lua с плавающей запятой в табличном индексе
Обычно я сравниваю два числа с плавающей точкой, проверяя, находятся ли они в диапазоне очень небольшого числа. Он не работает для ключей таблицы, потому что вы не знаете, существуют ли они, не зная
5ответов
4 голоса
PLC Структурированный текст, преобразование десятичной дроби в реальную (с плавающей запятой). Не получить значение, которое я ожидаю. (IEEE-754)
У меня есть оборудование, которое связывается с ПЛК через Profibus DP, которое отправляет мне 4 байта данных в шестнадцатеричном формате, то есть "44 79 FF FF" и в программе ПЛК, которую я объявил м
1ответ
4 голоса
Проверка на равенство с плавающей точкой и дополнительная точность: может ли этот код не сработать?
Обсуждение началось в разделе мой ответ на другой вопрос . Следующий код определяет машинный эпсилон : float compute_eps() { float eps = 1.0f; while (1.0f + eps != 1.0f) eps /= 2.0f;
3ответа
4 голоса
реализация функции с фиксированной точкой bool isnan (…) в C ++
я делаю реализацию с фиксированной запятой в c ++ и пытаюсь определить «not-a-number» и поддерживаю функцию bool isnan (…), которая возвращает true, если число не является числом, и false в противно
1 2 3 4 5

Популярные теги

security × 330linux × 316macos × 2827 × 268performance × 244command-line × 241sql-server × 235joomla-3.x × 222java × 189c++ × 186windows × 180cisco × 168bash × 158c# × 142gmail × 139arduino-uno × 139javascript × 134ssh × 133seo × 132mysql × 132