Howtosignalprocessing
- O que é informação mútua em Python?
- O que é matriz de informações mútuas?
- Como você calcula informações mútuas?
- Como você interpreta a pontuação de informações mútuas?
O que é informação mútua em Python?
Informações mútuas (mi) [1] entre duas variáveis aleatórias é um valor não negativo, que mede a dependência entre as variáveis. É igual a zero se e somente se duas variáveis aleatórias forem independentes, e valores mais altos significam maior dependência.
O que é matriz de informações mútuas?
Informação mútua é uma métrica da teoria da informação que quantifica as co-dependências não lineares entre um par de variáveis aleatórias. Quando estendido a mais de um par, uma matriz de informações mútuas pode ser construída, semelhante à matriz de correlação.
Como você calcula informações mútuas?
A informação mútua também pode ser calculada como a divergência de KL entre a distribuição de probabilidade articular e o produto das probabilidades marginais para cada variável. - Página 57, Reconhecimento de padrões e aprendizado de máquina, 2006. Isso pode ser declarado formalmente da seguinte forma: i (x; y) = kl (p (x, y) || p (x) * p (y))
Como você interpreta a pontuação de informações mútuas?
A pontuação do Mi cairá na faixa de 0 a ∞. O valor mais alto, a conexão mais próxima entre esse recurso e o alvo, o que sugere que devemos colocar esse recurso no conjunto de dados de treinamento. Se a pontuação do Mi for 0 ou muito baixa como 0.01. A pontuação baixa sugere uma conexão fraca entre esse recurso e o alvo.
