Re: Excel VBA kérdés

[Palasik Sandor]

>> Annak idején úgy tanultam, hogy lebegopontos muvelet eredményét az
>> ember nem vizsgálja egyenloségre.
>
> Hát igen, de gondoltam hogy ha a számábrázolás pontossága véges akkor
> a legkisebb egyezoség után a nulla fog következni ami ugyancsak
> egyenloség. De hát én ezt nem tanultam, most ennyivel többet tudok.

Általában különbség van az ábrázolt és a kiírt szám között. A legtöbb
program, még a debugger is, legalább az utolsó jegyet kerekíti. Már én is
többször jártam úgy, hogy valami csak teszem azt a tizenkettedik jegyben
tért el, a kiíratás meg mondjuk tíz jegyig volt, úgyhogy nem értettem, hogy
mi történik. Mondjuk az x kiíratva 10.0, a floor(x) meg 9.0.

Legegyszerubb vizsgálat, ha csinálsz egy változót, amibe a különbséget
teszed és azt nézed debuggerben. Legalább látszik, hogy mekkora az eltérés a
várttól.

Palasik Sándor