Microsoft Office Excel 2003 problem

esavicka

Очень маленькие числа (<1e-15) данным Excel интерпретируются как нули (в отличии от 2000) из чего возникают ошибки, кто-нибудь знаком с такой проблемой, подскажите плиз?

leuven

а вид числа у тебя какой выставлен то?

esavicka

вид числа - 2 знака после запятой, но проблема точно не в этом, а похоже в точности вычислений встроенных функций excel, а конкретно функции linest

leuven

а что может быть с точностью вычислений? то есть 2e-20 + 3e-20 правильно считает а linest нет?

esavicka

т.е. например результат 1e-15 она показывает нормально а меньше значение, например 1e-19 показывает как нуль

leuven

а вдруг он и правда нуль? ты как знаешь что он не нуль?

esavicka

потому-что тот же самый спредшит в 2000 офисе выдает не нуль а правильное значение, да кстати с такими маленькими числами 2003 работает нормально, т.е. проблема в том что сама функция похоже лажу выдает

leuven

так поставь 2003 в чем проблема то? или заплатку какую поищи...
Оставить комментарий
Имя или ник:
Комментарий: