Форум программистов
 

Восстановите пароль или Зарегистрируйтесь на форуме, о проблемах и с заказом рекламы пишите сюда - alarforum@yandex.ru, проверяйте папку спам!

Вернуться   Форум программистов > Низкоуровневое программирование > Assembler - Ассемблер (FASM, MASM, WASM, NASM, GoASM, Gas, RosAsm, HLA) и не рекомендуем TASM
Регистрация

Восстановить пароль
Повторная активизация e-mail

Купить рекламу на форуме - 42 тыс руб за месяц

Ответ
 
Опции темы Поиск в этой теме
Старый 01.06.2011, 21:51   #1
DuBy
 
Регистрация: 26.02.2010
Сообщений: 3
Вопрос Сравнение вещественых чисел

У меня такая ситуация:
Код:
...
.data
condition dd ?
eps dd 0.0001
m16 dw 0
...
;идут вычисления
...
mov cx,-1
с1:
...
fld condition
fcom eps
fstsw m16
sahf
jl m3
loop c1
m3:
...
Из цыкла нужно выйти когда condition<=eps. В дебагере при прохождению по цыклу такая ситуация (eps всегда 0.0001):
При первом прохождении: condition == 0.305555
При втором прохождении: condition == 0.049887
При третем прохождении: condition == 0.001598
При четвертом прохождении: condition == 1.6689e-06
И сообственно на 4ом прохождении должно по условии jl m3 выходить из цыкла, потому что 1.6689e-06 < 0.0001, но етого не происходит. Помогите пожалуйста, в чем проблема? Очень нужно.

Последний раз редактировалось rpy3uH; 03.06.2011 в 11:10.
DuBy вне форума Ответить с цитированием
Ответ


Купить рекламу на форуме - 42 тыс руб за месяц



Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Сравнение двух чисел Ardarik Общие вопросы C/C++ 2 16.01.2011 23:49
Сравнение 2-х рациональных чисел ManCOM Python 3 06.01.2011 13:10
Задача на сравнение 2-ух чисел Klik_1602 Помощь студентам 17 23.09.2010 22:49
Сравнение чисел Draips Помощь студентам 2 17.06.2010 16:51
Сравнение чисел с плавающей точкой ? Ulex Assembler - Ассемблер (FASM, MASM, WASM, NASM, GoASM, Gas, RosAsm, HLA) и не рекомендуем TASM 11 12.04.2008 21:14