ATMEGA AD non-linearity

[Marcell Gal]

Hello Zoltán,

> 0 V bemenet esetén ADC = 1-0  Ok.
> 5.05 V bemenetmél  ADC = 1021 még ez is Ok ?.
> 2.503  esetén   ADC = 505 !!! már nem Ok.
>
> Létezik ekkora hiba, vagy valamit rosszul csinálok ?
> Az adatlapon 1.5 LSB nél nagyobb hiba nincs feltüntetve.

kb. (1021+0.5)*2503/5050 =
506.3  => 506 -ot várnék
Az 505 (hiba = -1LSB) nem olyan rossz szerintem.
Ráadásul a DVM-ed hibáját sem ismerjük.
Nem hiszem, hogy a reklamációdat elfogadnák. **

üdv, 
   Marcell

** bár a pontos képletet meg kellene nézni 
az adatlapban, ha az alapján nem tetszik
az eredmény, javaslom, a számításod is include-old.