![]() |
|
|
Регистрация Восстановить пароль |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
![]() |
|
Опции темы | Поиск в этой теме |
![]() |
#1 |
Регистрация: 02.03.2012
Сообщений: 4
|
![]()
Здравствуйте!
Помогите разобраться, пожалуйста! Я полдня уже гуглю, но так и не нашел решения. Есть таблица: |id | value | 1 | 10 | 1 | -0,2 | 1 | -0,1 | 1 | -0,7 | 1 | -9 | 2 | 2,302 | 2 | -0,08 | 2 | -0,01 | 2 | -0,02 | 2 | -0,092 | 2 | -2,1 в запросе использую групировку по полю id и Sum по value. Вот результат виполнения запроса. |id | value |1 |1,77635683940025E-15 |2 |0 Откуда берется число 1,77635683940025E-15 граничащае с нулем? |
![]() |
![]() |
![]() |
#2 |
Белик Виталий :)
Старожил
Регистрация: 23.07.2007
Сообщений: 57,097
|
![]()
Это погрешность процессора. Он точно не умеет считать.
Когда-то слышал такой совет: Попробуй к сумме прибавлять 0,0000001 чтоб выравнивать как-то эту погрешность. Кому-то если память не прошибает помогло...
I'm learning to live...
|
![]() |
![]() |
![]() |
#3 |
Регистрация: 02.03.2012
Сообщений: 4
|
![]()
Если прибавлять 0,0000001, то получается 0,0000001 там где должен бить ноль, так не катит.
Ничего лутшего я не придумал как: написал еще один запрос, которий округляет суму, и округление делаю вот так Код:
|
![]() |
![]() |
![]() |
#4 |
Форумчанин
Регистрация: 09.06.2011
Сообщений: 515
|
![]()
Странно, а у меня работает.
Пример: Код:
|
![]() |
![]() |
![]() |
#5 |
Регистрация: 02.03.2012
Сообщений: 4
|
![]()
Да, она работает, но не всегда правильно. Я уже с этим сталковался, долго об стену бился пока понял в чем дело.
Когда нада математическое округление лутше взять Format Глянь здесь http://www.cyberforum.ru/vba/thread496633.html |
![]() |
![]() |
![]() |
#6 |
Участник клуба
Регистрация: 10.08.2009
Сообщений: 1,796
|
![]()
Здравствуйте frajj.
"..Ничего лучшего я не придумал как:.." Возможно и будет лучше если использовать следующее выражение: Sum([value]*1000)/1000 но только при условии : формат поля value - Двойное с плавающей точкой Евгений. |
![]() |
![]() |
![]() |
#7 |
Регистрация: 02.03.2012
Сообщений: 4
|
![]()
Здравствуйте Teslenko_EA.
Действительно так лутше. Спасибо! |
![]() |
![]() |
![]() |
#8 |
Форумчанин
Регистрация: 30.03.2010
Сообщений: 153
|
![]()
Здравствуйте!
Я как то тоже задумался, откуда берётся столько знаков после запятой. Почитайте как хранятся десятичные числа с плавающей точкой. |
![]() |
![]() |
![]() |
![]() |
||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Странное поведение функции работы с массивом(шаблон) | РагнаР | Общие вопросы C/C++ | 4 | 17.03.2011 00:30 |
Странное поведение чисел.... | sult9191 | Общие вопросы по Java, Java SE, Kotlin | 2 | 20.01.2011 17:12 |
Странное поведение gets | alex_alpha | Общие вопросы C/C++ | 3 | 27.03.2010 18:21 |
Странное поведение null | Vitalyk | JavaScript, Ajax | 6 | 13.02.2010 15:22 |
Странное поведение базы | yulia | БД в Delphi | 7 | 22.04.2009 07:15 |