Форум программистов
 

Восстановите пароль или Зарегистрируйтесь на форуме, о проблемах и с заказом рекламы пишите сюда - alarforum@yandex.ru, проверяйте папку спам!

Вернуться   Форум программистов > Microsoft Office и VBA программирование > Microsoft Office Excel
Регистрация

Восстановить пароль
Повторная активизация e-mail

Купить рекламу на форуме - 42 тыс руб за месяц

Ответ
 
Опции темы Поиск в этой теме
Старый 20.05.2019, 10:56   #1
gsg
Форумчанин
 
Регистрация: 11.06.2010
Сообщений: 108
По умолчанию Нецелое значение

Здравствуйте.

Помогите, пожалуйста, выйти из очередного ступора:


Код:
debug.print 10.12-10
получаем результат "0,119999999999999". Как так?
-Возьмите лучших их лучщих!
-Лучшие из лучших зализывают раны...
-Тогда, возьмите лучших из худших!
gsg вне форума Ответить с цитированием
Старый 20.05.2019, 11:07   #2
p51x
Старожил
 
Регистрация: 15.02.2010
Сообщений: 15,695
По умолчанию

Добро пожаловать в вещественную арифметику
p51x вне форума Ответить с цитированием
Старый 20.05.2019, 11:16   #3
Serge_Bliznykov
Старожил
 
Регистрация: 09.01.2008
Сообщений: 26,238
По умолчанию

Цитата:
Сообщение от gsg Посмотреть сообщение
получаем результат "0,119999999999999". Как так?
если ответа p51x недостаточно (хотя он кратко и правильно объяснил причину),
тогда посмотрите информацию по ссылкам в этой теме - ТЫЦ
Serge_Bliznykov вне форума Ответить с цитированием
Старый 20.05.2019, 11:37   #4
gsg
Форумчанин
 
Регистрация: 11.06.2010
Сообщений: 108
По умолчанию

ок, спасибо
-Возьмите лучших их лучщих!
-Лучшие из лучших зализывают раны...
-Тогда, возьмите лучших из худших!
gsg вне форума Ответить с цитированием
Старый 20.05.2019, 12:08   #5
IgorGO
Новичок
СтарожилДжуниор
 
Аватар для IgorGO
 
Регистрация: 05.02.2008
Сообщений: 9,487
По умолчанию

выйдите так:
debug.print round( 10.12-10,8 )
Программисты - это люди, решающие проблемы, о существовании которых Вы не подозревали, методами, которых Вы не понимаете
IgorGO вне форума Ответить с цитированием
Ответ


Купить рекламу на форуме - 42 тыс руб за месяц

Опции темы Поиск в этой теме
Поиск в этой теме:

Расширенный поиск


Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Найти значение на другом листе и подставить значение следующей ячейки ElenaNTro Microsoft Office Excel 12 11.02.2019 12:44
Турбо Паскаль - Введите значение х, выведите значение функции sign(x). Руслан086 Паскаль, Turbo Pascal, PascalABC.NET 2 11.12.2016 10:54
Вычислить значение функции(или функция не определена), значение х вводится с клавиатуры Safok Помощь студентам 2 16.12.2014 08:04
Подсчитать значение функции, значение х вводится с клавиатуры, вычисление f(x) оформить в виде подпрограммы Safok Помощь студентам 0 15.12.2014 17:54