ATMEGA AD non-linearity

[Bali Zoltan]

Bakker !

Én számoltam rosszul.
A 5.06 helyett 5.006-al
számoltam. Becsapott hogy a multiméter a
2.503 -at 3 tizedessel irta az 5 volt körül
átváltott 2 tizedesre és csak a végét figyeltem
és megállapitottam hibásan hogy a 2.503 pont
fele a tápfesznek(AREF) ;és olyan 510 körüli
értéket vártam.
Az az igazság hogy fejben kalkuláltam rossz
értékkel.
Most hogy pontosabban számolok valóban jó minden.
Az én elnagyolt számitásaim szerint:

1024*505/506 =  1021.97
1024*2503/5060 = 506.53

Köszi

Üdv Zoli

----- Original Message -----
From: "Marcell Gal" <cell at x-dsl.hu>
To: <elektro at tesla.hu>
Cc: <avr-hun at x-dsl.hu>
Sent: Wednesday, June 22, 2005 19:12
Subject: Re: ATMEGA AD non-linearity


Hello Zoltán,

> 0 V bemenet esetén ADC = 1-0  Ok.
> 5.05 V bemenetmél  ADC = 1021 még ez is Ok ?.
> 2.503  esetén   ADC = 505 !!! már nem Ok.
>
> Létezik ekkora hiba, vagy valamit rosszul csinálok ?
> Az adatlapon 1.5 LSB nél nagyobb hiba nincs feltüntetve.

kb. (1021+0.5)*2503/5050 =
506.3  => 506 -ot várnék
Az 505 (hiba = -1LSB) nem olyan rossz szerintem.
Ráadásul a DVM-ed hibáját sem ismerjük.
Nem hiszem, hogy a reklamációdat elfogadnák. **

üdv,
   Marcell

** bár a pontos képletet meg kellene nézni
az adatlapban, ha az alapján nem tetszik
az eredmény, javaslom, a számításod is include-old.