FGX, а на ATmega какого уровня сигнал приходит? А как он формируется? А опорное какое напряжение?
У меня опорное 1,1 В, а сигнал изначально с электретного микрофона и усиливается транзистором (а в микрофоне, насколько я понимаю, еще и свой транзистор). Вот, похоже, на этих транзисторах эти пики...