как калькулятор считает

Ответ от Квазимодо[гуру]
-9 223 372 036 854 775 808 .0 / 9 223 372 036 854 775 807.0 - вот, что он считает

Ответ от Asdf sdgf[гуру]
смотря какой калькулятор, компьютерный считает с точностью до того типа переменной, которая выделена, электронный тоже под те байты что у него есть

Ответ от Alex S[гуру]
У разных калькуляторов заложена разная точность вычислений. У офисных/бухгалтерских очень не высокая, то что влезает на табло, так и считает. Инженерные калькуляторы считают точнее

Ответ от Sergey V. Voronin[гуру]
как бы там ни считали инженерные калькуляторы, практическая точность расчета всегда ограничена точностью измерения исходных данных. Поэтому корень из 4 = корню из 4.

Ответ от Карен Гуюмджян[гуру]
...считает дуально, - это значит началом и концом...

Ответ от Mikhail Levin[гуру]
обычно при каждой операции считаются еще два дополнительных знака. Операции типа взятия корня - это какие-то итерации типа метода касательных, не одно действие, а множество. В каких-то экстремальных случаях может погрешность вылезти и в показываемые знаки.

Ответ от Кирилл Васильев[гуру]
В двоичной системе, где участвуют только две цифры- 0 и 1: ввод-перевод в двоичную-совершение операции в двоичн. системе-перевод в десятеричную-вывод на табло.

Ответ от Александр Шеруда[гуру]
Если у вас инженерный калькулятор, то в его паспорте написано, при каких операциях какой тип данных используется и какие погрешности при этом возникают.

Ответ от 3 ответа[гуру]

Ответ от 3 ответа[гуру]