- O que é escala e ponto zero na quantização?
- O que é escala de quantização?
- Qual é o conceito de quantização?
O que é escala e ponto zero na quantização?
O fator de escala e o ponto zero são usados para mapear um valor de ponto flutuante para a grade inteira, cujo tamanho depende da largura de bits. O fator de escala é comumente representado como um número de ponto flutuante e especifica o tamanho do quantizador do quantizador.
O que é escala de quantização?
A quantização da escala é uma técnica de mapeamento de faixa simétrica (sem ponto zero) que é usado para mapear uma entrada de intervalo de um determinado intervalo (digamos [A1, A2]) para uma faixa quantizada de bits de tamanho B. Um exemplo é converter dados FP32 de um determinado intervalo para dados INT8.
Qual é o conceito de quantização?
A quantização é o processo de mapeamento de valores infinitos contínuos para um conjunto menor de valores finitos discretos. No contexto de simulação e computação incorporada, trata-se de aproximar valores do mundo real com uma representação digital que introduz limites na precisão e na faixa de um valor.