Fusion Of Continuous-Valued Outputs
-
Upload
ciaran-caldwell -
Category
Documents
-
view
62 -
download
0
description
Transcript of Fusion Of Continuous-Valued Outputs
![Page 1: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/1.jpg)
FUSION OF CONTINUOUS-VALUED OUTPUTS
Equipe: Henrique Lins (hsmpl)
João Pascoal Neto (jrpn)
Mário Barbosa (mbaj)
Tiago Farias (tfs)
![Page 2: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/2.jpg)
ROTEIRO
Introdução Adquirindo scores
Scores discriminantes Estimadores de Laplace
Combinadores Conscientes à Classe Não treináveis Treináveis
Combinadores Indiferentes à Classe Templates de Decisão Combinador Dempster-Shafer
![Page 3: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/3.jpg)
INTRODUÇÃO
Viável para vetores de características contínuas
Utiliza vários classificadores diferentes Cada classificador gera um score para cada
classe Scores são armazenados em uma matriz
conhecida como Perfil de Decisão (DP)
![Page 4: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/4.jpg)
INTRODUÇÃO
Dimensão da DP é L x C onde L é a quantidade de classificadores e C é a quantidade de classes
Cada score pertence aos reais no intervalo [0,1]
Para cada coluna (classe) é calculado o score μ(x)
A classe que possuir o maior μ(x) é a escolhida
![Page 5: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/5.jpg)
INTRODUÇÃO
Espaço de Características Intermediário Scores iniciais são colocados nesse espaço Outro classificador gera uma class label
![Page 6: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/6.jpg)
ADQUIRINDO SCORES
Alguns exemplos Classificadores discriminantes Classificador Parzen Softmax
Função softmax normaliza resultados gerados Score 0 = Não há suporte para a classe Score 1 = Suporte máximo para a classe
![Page 7: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/7.jpg)
ADQUIRINDO SCORES DE PROBABILIDADES
Scores probabilísticos são mais confiáveis Vários algoritmos
LDC QDC
Convergência para função softmax Softmax adaptado para problemas de 2
classes
![Page 8: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/8.jpg)
REDES NEURAIS E CLASSIFICADORES KERNEL
Para uma rede neural (RN) com c saídas Saídas denotadas por (y1, y2, ..., yc) | yi є R, para i
= 1, 2, ..., c. Alvo denotado por (t1, ..., tc) | ti є {0, 1}, para i =
1, 2, ..., c. AQUI!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!
!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!
![Page 9: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/9.jpg)
ESTIMADOR DE LAPLACE
Árvores de estimativas de probabilidades (PETs) Calcula com precisão probabilidades a posteriori Estimativa da probabilidade utiliza-se de
proporção de classes do conjunto de treinamento
PET não é confiável para poucos elementos Usa-se a correção de Laplace para resolver
este problema Ajusta as estimativas para evitar extremos
![Page 10: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/10.jpg)
ESTIMADOR DE LAPLACE
Suavização da regularização do estimador Utilização de uma parametro m (m-
estimator)
m muito grande, probabilidade restrita m muito pequeno, falta de regularização m x P(wj) ≈ 10 é considerado a melhor
alternativa
![Page 11: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/11.jpg)
ESTIMADOR DE LAPLACE
Adaptação de Ting e Witten Onde ω* é a classe majoritária
Utilizando distâncias Baseado no k-nn
![Page 12: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/12.jpg)
COMBINADORES CONSCIENTES À CLASSE
Divididos em duas categorias Não-treináveis Treináveis
Combinadores não-treináveis Sem parâmetros adicionais O conjunto final já está preparado Operações diretas no Perfil de Decisão
Combinadores treináveis Combinações de pesos Integral Fuzzy
![Page 13: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/13.jpg)
COMBINADORES NÃO-TREINÁVEIS
Geram o μ(x) para cada coluna (classe) da DP
Aplicação de uma combinação sobre a coluna Média Simples
Máximo
Média cortada (trimmed mean) Utiliza um percentual α para “podar” o conjunto
Produto
![Page 14: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/14.jpg)
COMBINADORES NÃO-TREINÁVEIS
Média Generalizada α = -∞ (mínimo) α = -1 (média harmônica) α = 0 (média geométrica) α = -1 (média aritmética) α = -∞ (máximo)
O “otimismo” do combinador cresce com o α
![Page 15: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/15.jpg)
COMBINADORES NÃO-TREINÁVEIS
![Page 16: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/16.jpg)
COMBINADORES NÃO-TREINÁVEIS
OWA (Ordered Weighted Averaging) Conjunto de L coeficientes Um coeficiente para cada classificador Trabalha com colunas do DP(x)
separadamente Coluna organizada em ordem decrescente Seja b um vetor de coeficientes
![Page 17: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/17.jpg)
COMBINADORES NÃO-TREINÁVEIS
b varia de acordo com o combinador escolhido
Se L = 5 e o operador usado é o trimmed mean b = [0, 1/3, 1/3, 1/3, 0] (transposta)
![Page 18: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/18.jpg)
COMBINADORES TREINÁVEIS
Média ponderada Três grupos baseados no número de pesos
L pesos. Um peso para cada classificador
(c x L) pesos. Um peso para cada conjunto {classe, classificador}
(c x c x L) pesos. DEPOIS!!
![Page 19: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/19.jpg)
COMBINADORES TREINÁVEIS
Integral Fuzzy Gera bons resultados de classficação Confronta competência contra o suporte mais
alto Trabalha com subconjunto de classificadores medida fuzzy = “força” de cada subconjunto Para L classificadores, existem (2^k) – 1
subconjuntos Logo, são (2^k) – 1 medidas fuzzy
![Page 20: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/20.jpg)
COMBINADORES TREINÁVEIS
![Page 21: Fusion Of Continuous-Valued Outputs](https://reader033.fdocument.pub/reader033/viewer/2022061616/5681323f550346895d98adb7/html5/thumbnails/21.jpg)
COMBINADORES INDIFERENTES À CLASSE
Geram μj(x) usando todos os scores da DP