De acordo com a definição de PSNR, como mencionado aqui, não pode ser negativo.
O que significa um valor negativo do PSNR?
Se o MSE for muito pequeno, você certamente deve obter valores negativos de dB para PSNR. Significa apenas que a suavização do ruído de pequena variância é muito melhor do que suavizar o ruído com a variação mais alta.
O que indica o valor do PSNR?
A relação sinal / ruído de pico (PSNR) é um termo de engenharia para a proporção entre a potência máxima possível de um sinal e o poder de corromper o ruído que afeta a fidelidade de sua representação.