Как считает калькулятор
Автор Мария Иванова задал вопрос в разделе Естественные науки
как считает калькулятор и получил лучший ответ
Ответ от
Калькулятор-бульбулятор)
Ответ от Квазимодо[гуру]
-9 223 372 036 854 775 808 .0 / 9 223 372 036 854 775 807.0 - вот, что он считает
-9 223 372 036 854 775 808 .0 / 9 223 372 036 854 775 807.0 - вот, что он считает
Ответ от Asdf sdgf[гуру]
смотря какой калькулятор, компьютерный считает с точностью до того типа переменной, которая выделена, электронный тоже под те байты что у него есть
смотря какой калькулятор, компьютерный считает с точностью до того типа переменной, которая выделена, электронный тоже под те байты что у него есть
Ответ от Alex S[гуру]
У разных калькуляторов заложена разная точность вычислений. У офисных/бухгалтерских очень не высокая, то что влезает на табло, так и считает. Инженерные калькуляторы считают точнее
У разных калькуляторов заложена разная точность вычислений. У офисных/бухгалтерских очень не высокая, то что влезает на табло, так и считает. Инженерные калькуляторы считают точнее
Ответ от Sergey V. Voronin[гуру]
как бы там ни считали инженерные калькуляторы, практическая точность расчета всегда ограничена точностью измерения исходных данных. Поэтому корень из 4 = корню из 4.
как бы там ни считали инженерные калькуляторы, практическая точность расчета всегда ограничена точностью измерения исходных данных. Поэтому корень из 4 = корню из 4.
Ответ от Карен Гуюмджян[гуру]
...считает дуально, - это значит началом и концом...
...считает дуально, - это значит началом и концом...
Ответ от Mikhail Levin[гуру]
обычно при каждой операции считаются еще два дополнительных знака. Операции типа взятия корня - это какие-то итерации типа метода касательных, не одно действие, а множество. В каких-то экстремальных случаях может погрешность вылезти и в показываемые знаки.
обычно при каждой операции считаются еще два дополнительных знака. Операции типа взятия корня - это какие-то итерации типа метода касательных, не одно действие, а множество. В каких-то экстремальных случаях может погрешность вылезти и в показываемые знаки.
Ответ от Кирилл Васильев[гуру]
В двоичной системе, где участвуют только две цифры- 0 и 1: ввод-перевод в двоичную-совершение операции в двоичн. системе-перевод в десятеричную-вывод на табло.
В двоичной системе, где участвуют только две цифры- 0 и 1: ввод-перевод в двоичную-совершение операции в двоичн. системе-перевод в десятеричную-вывод на табло.
Ответ от Александр Шеруда[гуру]
Если у вас инженерный калькулятор, то в его паспорте написано, при каких операциях какой тип данных используется и какие погрешности при этом возникают.
Если у вас инженерный калькулятор, то в его паспорте написано, при каких операциях какой тип данных используется и какие погрешности при этом возникают.
Ответ от 3 ответа[гуру]
Привет! Вот подборка тем с похожими вопросами и ответами на Ваш вопрос: как считает калькулятор