 Sqrt Function, Интересный факт |
Правила раздела!
1. Заголовок или название темы должно быть информативным !
2. Все тексты фрагментов программ должны помещаться в теги [code] ... [/code] или [code=pas] ... [/code].
3. Прежде чем задавать вопрос, см. "FAQ" и используйте ПОИСК !
4. НЕ используйте форум для личного общения!
5. Самое главное - это раздел теоретический, т.е. никаких задач и программ (за исключением небольших фрагментов) - для этого есть отдельный раздел!
| IBladeMasterI |
 4.10.2006 18:20
Сообщение
#1
|
|
Гость  |
Напишем маленькую программку(Console App)
var I,K: Ineteger; Begin I := 100000; K := round(sqrt( sqr(I) )); WriteLn('k=',K); ReadLn; End; Как вы думаете что будет выведено?Максимальный размер Integer 2147483647 т.е 2*10^10 Будет выведено 37551. Мы думаем что это связано что когда в функцию sqrt поступает Integer там происходит переполнение. Если бы I было типа Real то все нормально. |
 
|
|
  |
Ответов
| volvo |
4.10.2006 19:30
Сообщение
#2
|
|
Гость |
Цитата нет там переполнения Запусти Windows Calculator, переведи 100000 в Binary и возведи в квадрат (при указании QWORD, разумеется), потом скопируй это в Notepad и ОЧЕНЬ ВНИМАТЕЛЬНО пересчитай биты, это понятно? Придешь, когда закончишь подсчеты... |
|
|
|
Сообщений в этой теме
IBladeMasterI Sqrt Function 4.10.2006 18:20
volvo А ВЫ что хотели? Потеря разрядности, результат - н... 4.10.2006 18:49 IBladeMasterI 100000= 10^5
10^5*10^5=10^10, Это <= 32 бит, т.... 4.10.2006 19:21
IBladeMasterI
100000= 10^5
10^5*10^5=10^10, Это <= 32 бит, т... 4.10.2006 19:25 volvo :blink: :blink:
Это с каких пор? Вообще-то 10^... 4.10.2006 19:23 IBladeMasterI Ха, при исполнение вашего кода выдает тотже резуль... 4.10.2006 19:23 Гость
Ха, при исполнение вашего кода выдает тотже резул... 4.10.2006 19:26 Гость
Ха, при исполнение вашего кода выдает тотже резул... 4.10.2006 19:32 volvo Как ВЫ думаете, прежде чем что-то отвечать, НЕУЖЕЛ... 4.10.2006 19:24 Гость 10^1=10
10^2=100
10^3=1000
10^4=10000
10^5=100000
... 4.10.2006 19:28 volvo Если это не помогает ТЕБЕ, это не значит, что у ме... 4.10.2006 19:34 Гость Посчитал, да их там 34 - переполнение
Скрин: так т... 4.10.2006 19:40 lapp
Максимальный размер Integer 2147483647 т.е 2*10^1... 5.10.2006 5:46 Гость
тебя спросил про компилятор в посте №6 - почему т... 5.10.2006 7:14 lapp
Мне не наплевать,просто я думал что Object Pascal... 5.10.2006 10:56 |
2 чел. читают эту тему (гостей: 2, скрытых пользователей: 0)
Пользователей: 0
|
Текстовая версия | 22.07.2025 20:30 |