Погрешность типа Float |
1. Заголовок или название темы должно быть информативным !
2. Все тексты фрагментов программ должны помещаться в теги [code] ... [/code] или [code=pas] ... [/code].
3. Прежде чем задавать вопрос, см. "FAQ" и используйте ПОИСК !
4. НЕ используйте форум для личного общения!
5. Самое главное - это раздел теоретический, т.е. никаких задач и программ (за исключением небольших фрагментов) - для этого есть отдельный раздел!
Погрешность типа Float |
X.XaM_MaX.X |
24.01.2007 21:05
Сообщение
#1
|
Новичок Группа: Пользователи Сообщений: 33 Пол: Мужской Репутация: 0 |
Я делаю калькулятор, но в моём распоряжение только тип float(real использовать нет возможности) и я заметил что в некоторых случаях у него появляется погрешность типа такого:
h1 and h2 - float h1=2.38 h2=32 h1+h2=34.380001 Как мне избегать эту погрешность? Сообщение отредактировано: X.XaM_MaX.X - 24.01.2007 21:05 |
volvo |
24.01.2007 21:07
Сообщение
#2
|
Гость |
Типа Float в Паскале нет... Или ты что-то недоговариваешь, или ошибся разделом...
|
X.XaM_MaX.X |
24.01.2007 21:11
Сообщение
#3
|
Новичок Группа: Пользователи Сообщений: 33 Пол: Мужской Репутация: 0 |
Блин ошибся Я был уверен что он там есть Я вообще на другом я языке пишу, но когда у меня чего-то не получается начинаю сначала писать на паскале вот и спросил, а надо было сначало проверить если там такой тип (простите меня дурака) =( А вообще здесь мне с этим типом помогут где-нибудь? В какой раздел мне идти?
Сообщение отредактировано: X.XaM_MaX.X - 24.01.2007 21:11 |
Malice |
24.01.2007 21:13
Сообщение
#4
|
Профи Группа: Пользователи Сообщений: 705 Пол: Мужской Репутация: 20 |
Не float а single может быть? А вообще - никак. Т.к. для калькулятора особо скорость не нужна, сделай лучше числа в строках, и допиши функции для +-*/. Тогда в твоем распоряжении будет 255 знаков, огромная точность, почти никаких потерь.
|
X.XaM_MaX.X |
24.01.2007 21:17
Сообщение
#5
|
Новичок Группа: Пользователи Сообщений: 33 Пол: Мужской Репутация: 0 |
Ээ..перегонять их в строки потом перегонять в float(single) считать и опять перегонять в строки? Нет я точно чего-то не понял ( Можно по подробней...если не сложно...
|
Malice |
24.01.2007 21:40
Сообщение
#6
|
Профи Группа: Пользователи Сообщений: 705 Пол: Мужской Репутация: 20 |
Не надо перегонять. Хранить числа в строках. Операции производить тоже со строками. Немножго геморойно по началу, но зато какая точность !
|
X.XaM_MaX.X |
24.01.2007 21:50
Сообщение
#7
|
Новичок Группа: Пользователи Сообщений: 33 Пол: Мужской Репутация: 0 |
Значит надо самому процедуры писать свои для этого?
|
arhimag |
24.01.2007 21:53
Сообщение
#8
|
Знаток Группа: Пользователи Сообщений: 424 Пол: Мужской Репутация: 2 |
смотри у тебя длина первого хвоста дроби 2 у второго 1 тогда выведи все с точностью до 2ого символа
Добавлено: или проблема в чем-то другом? также можно и с результатом, обрезаем дробь до максималоьной длины хвоста и заново присваиваем для этого придется написать процедуру перевода строки в реал -------------------- Чего хочет женщина – того хочет Бог
|
klem4 |
24.01.2007 22:23
Сообщение
#9
|
Perl. Just code it! Группа: Модераторы Сообщений: 4 100 Пол: Мужской Реальное имя: Андрей Репутация: 44 |
Цитата придется написать процедуру перевода строки в реал Str уже не устраивает ? -------------------- perl -e 'print for (map{chr(hex)}("4861707079204E6577205965617221"=~/(.{2})/g)), "\n";'
|
Текстовая версия | 25.05.2024 23:45 |