|
|
Регистрация Восстановить пароль |
Повторная активизация e-mail |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
|
Опции темы | Поиск в этой теме |
02.06.2017, 16:56 | #1 |
Пользователь
Регистрация: 27.09.2012
Сообщений: 37
|
Неточное деление float
Вот делю я допустим какое-нибудь число, результат должен быть 0.5. Но выходит 0.50000034646. Или типа того. Как с этим бороться?
|
02.06.2017, 17:27 | #2 |
Старожил
Регистрация: 09.01.2008
Сообщений: 26,229
|
округляйте до нужного числа знаков.
а вообще, думаю, будет полезно ознакомится с тем, откуда эта проблема берётся: https://habrahabr.ru/post/112953/ http://www.programmersforum.ru/showp...05&postcount=9 |
05.06.2017, 18:05 | #3 |
Форумчанин
Регистрация: 09.05.2017
Сообщений: 735
|
Почему они там базу 2 придумали, а не 10? Я всю жизнь думал, что там 10.:D
Напишу программу на C++ и Asm для AVR. Черчение: sergeisky@yahoo.com.
|
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Помогите разобраться с float, short float | nahal_nik | Помощь студентам | 2 | 21.09.2016 10:42 |
Неточное соответствие ВПР | s8259 | Microsoft Office Excel | 11 | 11.12.2015 01:18 |
Конвертация single float в double float | kypck | Assembler - Ассемблер (FASM, MASM, WASM, NASM, GoASM, Gas, RosAsm, HLA) и не рекомендуем TASM | 10 | 23.04.2012 00:22 |
Ошибка типа cannot convert `float*' to `float' for argument `1' ... | Trackman | Помощь студентам | 3 | 23.05.2011 17:09 |
ВПР + неточное совпадение | r-zz | Microsoft Office Excel | 4 | 31.03.2011 17:28 |