[elektro] Statisztika matek

Palasik Sandor palasik at mail.datanet.hu
Wed Feb 25 10:26:15 CET 2009


> A kérdés csak az, hogy ha szerény képességű, rövid számárbázolású
> aritmetikát alkalmazol a lusta képletre, akkor valóban tudja-e majd
> annyi jegyre ?

Azért, ha végig 32 bites egész számokkal számol, ahogy írta és nem
csordulnak túl, akkor nagy meglepetés nem érheti. A lebegőpont persze már
más kérdés.

Másrészt az esetleg megfontolandó, hogy ha mondjuk az egész méréssorból
kivonja az ember az első mérési eredményt, majd a végén hozzáadja az
eltoláshoz, akkor végig kisebb számok lesznek, de ugyanúgy lehet egészekkel
számolni.

Palasik Sándor



More information about the Elektro mailing list