Описание тега significant-digits
Значащие цифры - это способ описания точности измерений независимо от масштаба.
17
ответов
Округление до произвольного числа значащих цифр
Как можно округлить любое число (не только целые числа> 0) до N значащих цифр? Например, если я хочу округлить до трех значащих цифр, я ищу формулу, которая может принять: 1 239 451 и возврат 1 240 000 12,1257 и возврат 12,1 .0681 и возвращение.0681…
14 окт '08 в 18:37
2
ответа
Как заставить R написать научную запись с 3 значащими цифрами после десятичной дроби?
Поскольку на Фортране мне нужно написать программу, которая, помимо других замечательных функций, заставит R выводить число в научной записи с 3 значащими цифрами после десятичной точки. В частности, мне нужно записать 170.5 для вывода как 1.705e+02…
11 янв '18 в 00:10
1
ответ
Как я могу получить до 7 значимых цифр моего результата в FORTRAN90?
INTEGER, PARAMETER :: SINGLE=SELECTED_REAL_KIND(7) REAL(KIND=SINGLE) :: K REAL::X ... K=X WRITE(*,*) K Когда я пишу 5 или 6 внутри SELECTED_REAL_KIND, он выводит шесть значащих цифр, но когда я пытаюсь 7, он выводит больше 7. Можете ли вы сказать мн…
25 апр '12 в 20:36
2
ответа
jQuery обратный отсчет компактный с двумя значащими цифрами
Когда я отображаю компактный отсчет с двумя значащими цифрами, он показывает что-то вроде: "2d 12:00:00" и минуты / секунды остаются на "00" навсегда. Как я могу заставить его отображать что-то вроде: "2d 12h"? Как ни странно, если я использую неком…
07 авг '12 в 22:54
1
ответ
Округление до значащих цифр * только * с десятичной частью числа в R
signif() Функция округляет значения на основе заданного количества значащих цифр в данном значении. Эта функция применяется ко всем цифрам в числе, поэтому числа разных порядков округляются и усекаются по-разному. Например, с этим вектором x... x &l…
27 мар '17 в 15:47
4
ответа
Проверьте десятичную цифру
Я хочу проверить, имеет ли десятичное число значение в 4-й значащей цифре. //3 Significant figures var val = 1.015; //4 Significant figures var val2 = 1.0155; Как я могу проверить, чтобы увидеть, когда есть значение в 4-м значащем месте. Я хочу усло…
26 ноя '13 в 00:12
0
ответов
Контроль количества значимых факторов в R
Я хочу, чтобы количество значащих цифр во всем моем R-коде было равно 15. Опция: options(digits=15) не дает мне вывод, который я хочу. Это округляет результат до наименьшего числа значащих цифр. Это дает мне, например, вывод: -1.234567890123456 -0.1…
15 мар '16 в 15:56
10
ответов
Как заставить Excel отображать определенное количество значимых цифр?
Я использую Excel и хочу отобразить значение для определенного количества значащих цифр. Я попытался использовать следующее уравнение =ROUND(value,sigfigs-1-INT(LOG10(ABS(value)))) со значением, замененным числом, которое я использую, и sigfigs, зам…
17 дек '13 в 22:09
8
ответов
Как округлить до ближайшего значимого числа в php
Есть ли какой-нибудь удобный способ округления до ближайшей значащей цифры в php? Так: 0->0 9->9 10->10 17->10 77->70 114->100 745->700 1200->1000 ?
29 апр '11 в 16:14
1
ответ
Получите n LSB из Integer C++
Так что я получаю неподписанный int, переданный в мою функцию. Теперь я должен получить n младших битов этого целого числа и использовать его для доступа к местоположению в массиве размера 2^n, Так, например, если мой массив имеет размер 1024, n = 1…
12 фев '17 в 18:49
1
ответ
Извлечение значения с плавающей точкой и экспоненты в NumPy
Я хотел бы иметь возможность извлечь значение и показатель числа с плавающей точкой в NumPy. Получение показателя в виде целого числа хорошо и хорошо для значения. Получить значение и битовое поле было бы еще удобнее. Я знаю, что Python поплавки и…
07 сен '17 в 09:45
1
ответ
Увеличить последнюю цифру числа
VB2010 У меня есть пользовательская форма, где пользователь вводит числовой формат. Затем подпрограмма циклически перебирает список пар чисел и отображает их в списке категорий: User format "0.00" 0.00 - 164.04 164.04 - 410.10 410.10 - 820.21 Я пыта…
21 янв '14 в 19:55
6
ответов
Округление до произвольного числа значащих цифр в JavaScript не работает
Я пробовал ниже пример кода function sigFigs(n, sig) { if ( n === 0 ) return 0 var mult = Math.pow(10, sig - Math.floor(Math.log(n < 0 ? -n: n) / Math.LN10) - 1); return Math.round(n * mult) / mult; } Но эта функция не работает для таких входных …
02 апр '16 в 04:35
1
ответ
Установка десятичных разрядов в BlueSky Statistics
Как в BlueSky Statistics контролировать количество десятичных знаков, используемых для отображения результатов анализа? Это показывает четыре значения после десятичного знака, и я хотел бы, чтобы оно округлялось после двух.
20 авг '18 в 12:35
2
ответа
Значение в ostream или fprintf в C++
Я пытаюсь получить вывод в файл, такой как этот: 1.11111 11.1111 111.111 1111.11 111111 Другими словами, я пытаюсь установить значение моего результата, а не мою точность. я пробовал oFile <<setprecision(6); а также fprintf(oFile, "%6f", varNa…
22 апр '14 в 14:44
2
ответа
Точность численного интегрирования в Matlab
Я пытаюсь интегрировать аналитическую функцию (смесь функций sqrt и trig) в области прямоугольника. У этого нет никакого особенного пункта в области и, кажется, прекрасный кандидат, чтобы использовать dblquad, Мой вопрос состоит в том, как оценить т…
16 май '13 в 07:55
1
ответ
Показать 2 знака после запятой (если нет более значащих цифр)
Возможный дубликат: Отображать число с плавающей точкой как минимум с 1 десятичным знаком Даны следующие значения: 23,50 15 19,3500 31,505 45,6670 Как я могу добиться следующего отображения: 23,50 15.00 19,35 31,505 45,667 То, что я пытаюсь сделать,…
26 дек '12 в 16:04
2
ответа
Получить самую значимую цифру в питоне
Скажи у меня есть список [34523, 55, 65, 2] Какой самый эффективный способ получить [3,5,6,2] которые являются наиболее значительными цифрами. Если возможно, не меняя меняя каждый на str()?
26 ноя '15 в 22:06
1
ответ
Ошибка с плавающей точкой в MATLAB - линейно разнесенные векторы
ОС: Win 7 64bit. Matlab: 2014a, 2015a Когда я создаю вектор следующим образом: a = 0.2:0.2:1 Я получил: a = 0.2000 0.4000 0.6000 0.8000 1.0000 что ожидается. Теперь, когда я хочу увидеть, существует ли 0,6 в моем векторе, я печатаю: a == 0.6 и я пол…
26 апр '15 в 18:58
1
ответ
Почему выход cout << setprecision(2) << 0.999 равен 1 вместо 1.0?
Значимые цифры - 2. Почему выход cout << setprecision(2) << 0.999 << endl;` является 1 вместо 1.0?
22 июн '16 в 09:17