[elektro] Statisztika matek
Palasik Sandor
palasik at mail.datanet.hu
Wed Feb 25 10:26:15 CET 2009
> A kérdés csak az, hogy ha szerény képességű, rövid számárbázolású
> aritmetikát alkalmazol a lusta képletre, akkor valóban tudja-e majd
> annyi jegyre ?
Azért, ha végig 32 bites egész számokkal számol, ahogy írta és nem
csordulnak túl, akkor nagy meglepetés nem érheti. A lebegőpont persze már
más kérdés.
Másrészt az esetleg megfontolandó, hogy ha mondjuk az egész méréssorból
kivonja az ember az első mérési eredményt, majd a végén hozzáadja az
eltoláshoz, akkor végig kisebb számok lesznek, de ugyanúgy lehet egészekkel
számolni.
Palasik Sándor
More information about the Elektro
mailing list