Форум программистов
 

Восстановите пароль или Зарегистрируйтесь на форуме, о проблемах и с заказом рекламы пишите сюда - alarforum@yandex.ru, проверяйте папку спам!

Вернуться   Форум программистов > Delphi программирование > Общие вопросы Delphi
Регистрация

Восстановить пароль

Купить рекламу на форуме - 42 тыс руб за месяц

Ответ
 
Опции темы Поиск в этой теме
Старый 10.05.2012, 00:04   #1
Matrix6993
Пользователь
 
Регистрация: 26.12.2011
Сообщений: 69
По умолчанию Точность числа

Доброй ночи всем! У меня есть одна проблема, которую я не могу решить!
Имеется переменная A типа real. Через edit ввожу значение этой переменной, и подставляю в формулу. После расчета мне выдается результат, он правильный, но мне нужно значение более точное, оно должно быть точным до тысячных или даже до миллионных. Как это реализовать, подскажите пожалуйста. Может тип другой должен быть или еще чего. Помогите! (
Matrix6993 вне форума Ответить с цитированием
Старый 10.05.2012, 00:09   #2
BDA
МегаМодератор
СуперМодератор
 
Аватар для BDA
 
Регистрация: 09.11.2010
Сообщений: 7,342
По умолчанию

Во-первых, используйте extended.
Во-вторых, гляньте для вывода http://delphibasics.ru/FloatToStrF.php.
Пишите язык программирования - это форум программистов, а не экстрасенсов. (<= это подпись )
BDA вне форума Ответить с цитированием
Старый 10.05.2012, 00:13   #3
veniside
Старожил
 
Регистрация: 03.01.2011
Сообщений: 2,508
По умолчанию

real = double, так что как минимум 15 честных чисел после точки должны присутсвовать.

Код:
Fundamental Win32 real types 
Type       Approximate Positive Range  Significant digits  Size in bytes  
Real48     2.9e-39   .. 1.7e+38        11-12               6
Single     1.5e-45   .. 3.4e+38        7-8                 4  
Double     5.0e-324  .. 1.7e+308       15-16               8  
Extended   3.4e-4932 .. 1.1e+4932      10-20               10  
Comp       -263+1    .. 263-1          10-20               8
Скорей всего проблема в выдаче результата — форматирование отбрасывает значащие цифры.
"Когда приходит положенное время, человек перестаёт играть в пинбол. Только и всего."
veniside вне форума Ответить с цитированием
Старый 10.05.2012, 20:05   #4
kta87
Форумчанин
 
Аватар для kta87
 
Регистрация: 22.02.2010
Сообщений: 912
По умолчанию

Код:
FloatToStrF('Ваша переменная', ffFixed, 'Кол-во знаков в целой части','кол-во знаков в дробной части');
kta87 вне форума Ответить с цитированием
Ответ


Купить рекламу на форуме - 42 тыс руб за месяц



Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Большая точность ArmanPrestige Общие вопросы C/C++ 7 18.03.2012 01:15
Точность double в c++ firephenix Помощь студентам 0 25.10.2011 12:35
Точность вычисления Von Общие вопросы C/C++ 2 25.01.2011 17:45
Точность вводимого числа art_d Помощь студентам 5 30.09.2010 23:44
Точность Sour Помощь студентам 2 31.05.2007 21:08