|
|
Регистрация Восстановить пароль |
Повторная активизация e-mail |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
|
|
Опции темы | Поиск в этой теме |
29.03.2019, 11:59 | #11 |
Старожил
Регистрация: 04.02.2011
Сообщений: 4,546
|
Насколько помнит мой склероз, Extended легко переваривает до 10+-4932, так что машинная арифметика тут не при делах. Пусть ТС раскроет военно-морскую тайну: куда он девает введенное а ? Куда угодно, но только не в расчитываемую формулу. Я так понимаю: вводит он а, а обработчик, смачно плюнув на введенное значение, ставит свое константное 10, и так до посинения. So?
См. разницу в обработчике моего кода в #9 Последний раз редактировалось digitalis; 29.03.2019 в 12:21. |
29.03.2019, 12:05 | #12 | |
Старожил
Регистрация: 09.01.2008
Сообщений: 26,229
|
Цитата:
Но там есть ограничение длину значащей части. ну, грубо говоря (я не проверял, так пишу, наобум) возмите два РАЗНЫХ числа: 1000000000000000000099E23 1000000000000000000001E23 подставьте в вашу формулу. ответы получатся различные? |
|
29.03.2019, 12:12 | #13 |
Старожил
Регистрация: 04.02.2011
Сообщений: 4,546
|
Это азбучно понятно - точность представления ограничивается числом разрядов мантиссы. Но человек (любопытно наблюдающий сейчас за высоко-тетеритической дискуссией об его предмет ) не ставил таких иезуитских казусов прцессору, а тихо-мирно вводил свои 1, 2,3. Как вводил - мой телепатор в предыдущем моем посте #11.
------------------- А ТС уже слинял - сдавать свои скудные знания на "хорошо" и "отлично". "Мсье, а ваша дама уже ушла!" © из анекдота про китайца в Париже. Последний раз редактировалось digitalis; 29.03.2019 в 12:18. |
29.03.2019, 13:04 | #14 |
Старожил
Регистрация: 09.01.2008
Сообщений: 26,229
|
|
|
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Как поменять положительное число на отрицательное при получении результата после формулы "если", При использовании формулы "если" выходят положительные и отрицательные числа | asanee | Помощь студентам | 2 | 05.01.2017 08:45 |
C# Формулы | LeNZZZ08 | Помощь студентам | 1 | 07.11.2014 06:24 |
Формулы | shadezx | Помощь студентам | 1 | 03.12.2013 20:07 |
Формулы | SunKnight | Общие вопросы Delphi | 2 | 07.04.2008 09:38 |