 Погрешность типа Float |
Правила раздела!
1. Заголовок или название темы должно быть информативным !
2. Все тексты фрагментов программ должны помещаться в теги [code] ... [/code] или [code=pas] ... [/code].
3. Прежде чем задавать вопрос, см. "FAQ" и используйте ПОИСК !
4. НЕ используйте форум для личного общения!
5. Самое главное - это раздел теоретический, т.е. никаких задач и программ (за исключением небольших фрагментов) - для этого есть отдельный раздел!
| X.XaM_MaX.X |
  24.01.2007 21:05
Сообщение
#1
|
|
Новичок  Группа: Пользователи Сообщений: 33 Пол: Мужской Репутация:  0   |
Я делаю калькулятор, но в моём распоряжение только тип float(real использовать нет возможности) и я заметил что в некоторых случаях у него появляется погрешность типа такого:
h1 and h2 - float h1=2.38 h2=32 h1+h2=34.380001 Как мне избегать эту погрешность?  Сообщение отредактировано: X.XaM_MaX.X - 24.01.2007 21:05 |
   |
 
|
  |
Ответов
| arhimag |
24.01.2007 21:53
Сообщение
#2
|
 Знаток Группа: Пользователи Сообщений: 424 Пол: Мужской Репутация: 2 |
смотри у тебя длина первого хвоста дроби 2 у второго 1 тогда выведи все с точностью до 2ого символа
Добавлено: или проблема в чем-то другом? также можно и с результатом, обрезаем дробь до максималоьной длины хвоста и заново присваиваем для этого придется написать процедуру перевода строки в реал -------------------- Чего хочет женщина – того хочет Бог
|
|
|
|
Сообщений в этой теме
X.XaM_MaX.X Погрешность типа Float 24.01.2007 21:05
volvo Типа Float в Паскале нет... Или ты что-то недогова... 24.01.2007 21:07 X.XaM_MaX.X Блин ошибся :mega_chok: Я был уверен что он там ... 24.01.2007 21:11 Malice Не float а single может быть? А вообще - никак. Т.... 24.01.2007 21:13 X.XaM_MaX.X Ээ..перегонять их в строки потом перегонять в floa... 24.01.2007 21:17
Malice Не надо перегонять. Хранить числа в строках. Опера... 24.01.2007 21:40 X.XaM_MaX.X Значит надо самому процедуры писать свои для этого... 24.01.2007 21:50 klem4
Str уже не устраивает ? 24.01.2007 22:23 |
1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)
Пользователей: 0
|
Текстовая версия | 20.07.2025 13:29 |