|
|
|
Регистрация Восстановить пароль |
|||||||
| Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
||||
 |
|
|
Опции темы | Поиск в этой теме |
21.12.2014, 16:58
|
#1 |
|
Форумчанин
Регистрация: 08.11.2013
Сообщений: 137
|
непонятные вычисления
Имеются поля A (числовое), B (вычисояемое), C (вычисояемое), D (вычисояемое).
У всех полей формат поля "основной" и тип "двойное с плавоющей точкой". D=A-B-C D=1520.89 - 101.3 - 1419.59 = 0, а почемуто в поле D стоит 2.27373675443232E-13 Подскажите пожалуйста, в чем может быть беда. Спасибо |
|
|
|
22.12.2014, 09:38
|
#2 | |
|
Старожил
Регистрация: 20.04.2008
Сообщений: 5,543
|
Цитата:
Все преобразования выполняются с определенной точностью. ( с определенным числом значащих цифр). Для получения ответа необходимо указать число зн. цифр в ответе (попросту ОКРУГЛИТЬ!!!).
программа — запись алгоритма на языке понятном транслятору
|
|
|
|
|
|
Похожие темы
|
||||
| Тема | Автор | Раздел | Ответов | Последнее сообщение |
| Непонятные ошибки | monro86 | Visual C++ | 2 | 05.04.2012 00:44 |
| непонятные слова | kupall | Общие вопросы Delphi | 1 | 02.06.2010 22:33 |
| непонятные ошибки | rapuhabass | Общие вопросы C/C++ | 3 | 20.05.2010 06:30 |
| непонятные вриусы... | 4444 | Безопасность, Шифрование | 6 | 03.06.2008 11:32 |
| непонятные символы | XATAB | Assembler - Ассемблер (FASM, MASM, WASM, NASM, GoASM, Gas, RosAsm, HLA) и не рекомендуем TASM | 3 | 28.12.2007 11:23 |
