Объясние порядок расчета округлений 7 и 8
23.07.2009
15:50
#1
"вот такой случай перешли на 8 ку Торговля
*******************************************************************************
кусок из 7-ки Торговля
//ТаблИтогов.СуммаБезНДС=4271.19
//КоэффСписания=0.16666666666666666667
РегПартии.СуммаБезНДС = Окр(ТаблИтогов.СуммаБезНДС*КоэффСписания,2,1);
*******************************************************************************
проблема заключается в том, что 7-ка по другому считает в отладчик в 7-ке показывает такой расчет:
1. ТаблИтогов.СуммаБезНДС*КоэффСписания=711,865
2. полсле округления Окр(ТаблИтогов.СуммаБезНДС*КоэффСписания,2,1)=711,86
3. произвел расчёт в Табло: Окр(4271.19*0.16666666666666666667,2,1) = 711.87
в 7-ке получается 777,86
в 8-ке получается 777,87
и как можно прейти с 7-ки на 8-ку ? если оругления разные и по разному считаются ???"
*******************************************************************************
кусок из 7-ки Торговля
//ТаблИтогов.СуммаБезНДС=4271.19
//КоэффСписания=0.16666666666666666667
РегПартии.СуммаБезНДС = Окр(ТаблИтогов.СуммаБезНДС*КоэффСписания,2,1);
*******************************************************************************
проблема заключается в том, что 7-ка по другому считает в отладчик в 7-ке показывает такой расчет:
1. ТаблИтогов.СуммаБезНДС*КоэффСписания=711,865
2. полсле округления Окр(ТаблИтогов.СуммаБезНДС*КоэффСписания,2,1)=711,86
3. произвел расчёт в Табло: Окр(4271.19*0.16666666666666666667,2,1) = 711.87
в 7-ке получается 777,86
в 8-ке получается 777,87
и как можно прейти с 7-ки на 8-ку ? если оругления разные и по разному считаются ???"
23.07.2009
16:15
#2
Вопрос, что у 7-ки получается при таком умножении 4271.19*0.16666666666666666667? Если предположить, что последняя цифра (7-ка) не поместилась в сетку, тогда результат будет не 711,865, а 711,8649999.
Так что вопрос не округлений, а вычислений. Учитывая, что такая дикая точность 20 знаков после запятой при таком вычислении не интересно, то стоит "укоротить число" или же заменить его на действие.
Так что вопрос не округлений, а вычислений. Учитывая, что такая дикая точность 20 знаков после запятой при таком вычислении не интересно, то стоит "укоротить число" или же заменить его на действие.
23.07.2009
17:10
#4
"Не знаю, что у вас за 7-ка, но такой код: Сообщить (Строка(Окр(711.865,2,1)));
выдает 711.87
"
выдает 711.87
"
23.07.2009
17:13
#5
Вообще то в 7.7 модно настроить как округлять, по математическим правилам или нет!
23.07.2009
17:16
#6
Это где ?
Конфигурация-Свойства-Задача-Округлять 1,5 до 2 ? (у меня так и настроено)
Конфигурация-Свойства-Задача-Округлять 1,5 до 2 ? (у меня так и настроено)
Читают тему
(гостей: 1)