|
|
Регистрация Восстановить пароль |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
|
Опции темы | Поиск в этой теме |
05.09.2012, 01:20 | #1 |
Регистрация: 24.05.2011
Сообщений: 3
|
floating point overflow
Код:
мненужно только 5 знаков после запятой в самом крайнем случае. с этой ошибкой я довольно часто сталкиваюсь так что мне нужно както решить ее основательно. раньше я просто увеличивал точность(double-> long double). я разложил цикл получилось что переполнение вызывает вот это выражение stp1.mass[j].x * 1000; |
05.09.2012, 07:54 | #2 | |
Белик Виталий :)
Старожил
Регистрация: 23.07.2007
Сообщений: 57,097
|
Цитата:
Покажи весь код, если он небольшой можно его оттрассировать и понять в чем причина.
I'm learning to live...
|
|
05.09.2012, 13:54 | #3 |
Регистрация: 24.05.2011
Сообщений: 3
|
весь код очень большой это один case
http://www.cyberforum.ru/cpp-beginne...ead646687.html tempsum = 78.513620529019278; cr = -0.059998035430908203; - это 0.06 представленная в long double stp1.mass[j].x = 0.039999999105930328 - это 0.04 представленная в long double j = 123; i = 1; я разложил цикл получилось что переполнение вызывает вот это выражение stp1.mass[j].x * 1000; как вообще бороться с floating point overflow на с++ |
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Floating point overflow | Ania Lunee | Помощь студентам | 4 | 18.05.2012 22:01 |
Floating point division by zero | flouwjke | Помощь студентам | 2 | 27.04.2012 19:26 |
Чтение файла в массив и построение графика TChart, floating point overflow А здесь смотрели? | vitalyisaev2 | C++ Builder | 1 | 09.11.2010 21:36 |
s not a valid floating point value | prod87 | Помощь студентам | 1 | 02.12.2009 20:57 |
Delphi, "Floating point overflow" что делать? | xMass | Помощь студентам | 12 | 02.04.2009 01:37 |