|
|
Регистрация Восстановить пароль |
Повторная активизация e-mail |
Регистрация | Задать вопрос |
Заплачу за решение |
Новые сообщения |
Сообщения за день |
Расширенный поиск |
Правила |
Всё прочитано |
|
Опции темы | Поиск в этой теме |
07.02.2012, 14:31 | #1 |
Пользователь
Регистрация: 06.01.2012
Сообщений: 33
|
Откуда берутся милионные при простых операциях
Добрый день. Давно подозревал что есть такие подвохи в EXCEL и вот сегодня я его поймал.
При простейшей операции отнимания в ответе появляются какие-то 5 миллионных. Если войти во вторую ячейку и нажать ENTER то они превращаются в 1 миллионную. Книга2.rar Кто может объяснить, почему это происходит? ЗЫ: очень скромное чувство что этот вопрос обсуждался , но не знаю по каким ключевым словам его искать. Так что если что - ткинте носом пожалуйста, спасибо. |
07.02.2012, 16:07 | #2 |
Новичок
СтарожилДжуниор
Регистрация: 05.02.2008
Сообщений: 9,487
|
от того, что способ хранения чисел в компьютере принципиально отличается от способа их представления на экране.
В интернете полно информации по этому поводу, поищите слово "мантиса"
Программисты - это люди, решающие проблемы, о существовании которых Вы не подозревали, методами, которых Вы не понимаете
|
07.02.2012, 16:56 | #3 |
Пользователь
Регистрация: 06.01.2012
Сообщений: 33
|
IgorGO Мда, спасибо. Все именно так грусно как я и думал.
Хотя не до конца понятно почему округление мантисы приводит вместо потери числа к получению целой единицы. Но копать явно необходимо в этом направлении и это не суть важно если поверить в то что так компъютер переводит число. Тогда вопрос, как это обходить в Excel? Вот к примеру у меня стоит условное форматирование что при значении ячейки отличным от "0" она закрашивается в крассный цвет. Иногда выходит что значение это равно -0. Что при внимательном расмотрении означает что-то типа -0,00000000000001. В результате условное форматирование не срабатывает так как нужно. Выходит что, единственый вариант - поменять условное форматирование с фиксированого на диапазон -0,00001< >+0,00001? |
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
jQuery, смена картинок, как лучше реализовать, их пути берутся из БД? | AlienNation | JavaScript, Ajax | 1 | 08.01.2012 13:19 |
Программа для поиска простых, простых парных и взаимнопростых чисел | in da fly | Помощь студентам | 1 | 26.05.2011 23:30 |
Откуда дубли при запросе? | hronos1975 | Microsoft Office Access | 7 | 11.02.2011 19:14 |
не берутся данные из access в builder | tatysya | Помощь студентам | 6 | 04.08.2010 12:02 |
Как избавиться от зависания приложения при выполнении длительных операциях | Des | Общие вопросы Delphi | 15 | 30.04.2009 02:05 |