exchange12rocks: (Default)
[personal profile] exchange12rocks
http://ithappens.ru/story/6264

5-ка у нас ведь вверх округляется?

Date: 2011-05-20 03:56 pm (UTC)
From: [identity profile] oldmann.livejournal.com
кстати, в POWER6 есть десятичный сопроцессор, специально для округлений с большой точностью.

Date: 2011-05-20 04:07 pm (UTC)
From: [identity profile] tat-ti.livejournal.com
Есть несколько вариантов округления:
1) программистский. Дробная часть отбрасывается.
2) математический. .5 и выше - вверх, остальное - вниз.
3) Банковское округление (англ. banker's rounding) — округление для этого случая происходит к ближайшему чётному. Это позволяет устранить систематическую ошибку округления при суммировании большого количества чисел. То есть, 2,5 → 2, 3,5 → 4.

Тетка с калькулятором была абсолютно права.

Date: 2011-05-20 04:52 pm (UTC)
From: [identity profile] tomilin.livejournal.com
banker's rounding, в Powershell по умолчанию
PS C:\> [int]0.5
0
PS C:\> [int]1.5
2
PS C:\> [int]2.5
2
PS C:\> [int]3.5
4

Date: 2011-05-20 04:56 pm (UTC)
From: [identity profile] tomilin.livejournal.com
кто бы мне ещё объяснил почему
PS C:\> [int]1.495
1

Date: 2011-05-20 05:28 pm (UTC)
From: [identity profile] kf.livejournal.com
Компьютерщики..

Date: 2011-05-20 08:59 pm (UTC)
From: [identity profile] paracloud.livejournal.com
админ банковский, га-га-га

Date: 2011-05-20 09:26 pm (UTC)

Profile

exchange12rocks: (Default)
Kirill 'kf' Nikolaev

September 2016

S M T W T F S
    123
456789 10
11121314151617
18192021222324
252627282930 

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Mar. 19th, 2026 09:40 am
Powered by Dreamwidth Studios