Формулы

[digitalis]

Насколько помнит мой склероз, Extended легко переваривает до 10+-4932, так что машинная арифметика тут не при делах. Пусть ТС раскроет военно-морскую тайну: куда он девает введенное а ? Куда угодно, но только не в расчитываемую формулу. Я так понимаю: вводит он а, а обработчик, смачно плюнув на введенное значение, ставит свое константное 10, и так до посинения. So?
См. разницу в обработчике моего кода в #9

[Serge_Bliznykov]

Сообщение от digitalis

Насколько помнит мой склероз, Extended легко переваривает до 10+-4932

Вы правы.
Но там есть ограничение длину значащей части.
ну, грубо говоря (я не проверял, так пишу, наобум)
возмите два РАЗНЫХ числа:
1000000000000000000099E23
1000000000000000000001E23
подставьте в вашу формулу.
ответы получатся различные?

[digitalis]

Это азбучно понятно - точность представления ограничивается числом разрядов мантиссы. Но человек (любопытно наблюдающий сейчас за высоко-тетеритической дискуссией об его предмет ) не ставил таких иезуитских казусов прцессору, а тихо-мирно вводил свои 1, 2,3. Как вводил - мой телепатор в предыдущем моем посте #11.
-------------------
А ТС уже слинял - сдавать свои скудные знания на "хорошо" и "отлично".
"Мсье, а ваша дама уже ушла!" © из анекдота про китайца в Париже.

[Serge_Bliznykov]

Сообщение от digitalis

А ТС уже слинял - сдавать свои скудные знания на "хорошо" и "отлично".

Аминь.