Phd Thesis Dissertation (Italian)

80
Algorithms for Image Algorithms for Image Segmentation and Segmentation and Classification: Classification: Integrating Automated Integrating Automated Processing and Human Processing and Human Perception Perception Salvatore Nicotra Salvatore Nicotra Università degli Studi di Catania Università degli Studi di Catania Facoltà di Scienze MM. FF. NN Facoltà di Scienze MM. FF. NN Dottorato di Ricerca in Informatica Dottorato di Ricerca in Informatica Dipartimento di Matematica e Informatica Dipartimento di Matematica e Informatica Tutor: Chiar.mo Prof. Tutor: Chiar.mo Prof. Giovanni Gallo Giovanni Gallo Coordinatore: Chiar.mo Prof. Coordinatore: Chiar.mo Prof. Alfredo Ferro Alfredo Ferro TESI DI TESI DI DOTTORATO DOTTORATO

description

 

Transcript of Phd Thesis Dissertation (Italian)

Page 1: Phd Thesis Dissertation (Italian)

Algorithms for Image Algorithms for Image Segmentation and Segmentation and

Classification: Classification: Integrating Automated Integrating Automated Processing and Human Processing and Human

PerceptionPerception

Salvatore NicotraSalvatore Nicotra

Università degli Studi di CataniaUniversità degli Studi di CataniaFacoltà di Scienze MM. FF. NNFacoltà di Scienze MM. FF. NN

Dottorato di Ricerca in InformaticaDottorato di Ricerca in InformaticaDipartimento di Matematica e Informatica Dipartimento di Matematica e Informatica

Tutor: Chiar.mo Prof. Tutor: Chiar.mo Prof. Giovanni GalloGiovanni Gallo

Coordinatore: Chiar.mo Prof. Coordinatore: Chiar.mo Prof. Alfredo FerroAlfredo Ferro

TESI DI TESI DI DOTTORATODOTTORATO

Page 2: Phd Thesis Dissertation (Italian)

OutlineOutline IntroduzioneIntroduzione Parte I: Parte I: Shape Refinement of Remote Sensed Shape Refinement of Remote Sensed

ImagesImages Riconoscimento di: Burned Area e Vegetation Area.Riconoscimento di: Burned Area e Vegetation Area. Confronti con classificazione human-driven.Confronti con classificazione human-driven. Nuovo algoritmo: Watershed Region Growing.Nuovo algoritmo: Watershed Region Growing.

Parte II: Parte II: Analysis of Perceptual Relevant Analysis of Perceptual Relevant Features in Database of Textures and their Features in Database of Textures and their VisualizationVisualization ““Come scegliere una tessitura da un database ?”.Come scegliere una tessitura da un database ?”. Indicizzazione tramite caratteristiche Indicizzazione tramite caratteristiche

percettivamente rilevanti: Direzionalità, Contrasto -> percettivamente rilevanti: Direzionalità, Contrasto -> Spazio percettivo.Spazio percettivo.

Rappresentazione Iconica di qualità visive.Rappresentazione Iconica di qualità visive.

Page 3: Phd Thesis Dissertation (Italian)

L’artigiano e la L’artigiano e la Catena di Catena di montaggiomontaggio

Introduzione all’approccio Introduzione all’approccio

semi-automaticosemi-automatico

Page 4: Phd Thesis Dissertation (Italian)

L’artigiano : l’espertoL’artigiano : l’esperto

VANTAGGIVANTAGGI Conosce bene il Conosce bene il

suo lavoro.suo lavoro. Sfrutta le capacità Sfrutta le capacità

percettive.percettive.

SVANTAGGISVANTAGGI Lungo tempo di Lungo tempo di

addestramento.addestramento. Costa.Costa.

Page 5: Phd Thesis Dissertation (Italian)

La catena di montaggio: Gli La catena di montaggio: Gli algoritmi automaticialgoritmi automatici

VANTAGGI:VANTAGGI: Poco controllo Poco controllo

umano.umano. Veloce, economica Veloce, economica

ed efficiente.ed efficiente.

SVANTAGGI:SVANTAGGI: È limitata.È limitata. Il “prodotto” va Il “prodotto” va

verificato.verificato.

Page 6: Phd Thesis Dissertation (Italian)

Approccio semi Approccio semi automaticoautomatico

Target: Integrare il calcolo automatico Target: Integrare il calcolo automatico con la percezione umana per prendere con la percezione umana per prendere il meglio dei due approcci:il meglio dei due approcci: Capacità percettiveCapacità percettive Potenza di calcoloPotenza di calcolo

Legami con Legami con Pattern RecognitionPattern Recognition Knowledge Discovery in DataBases (KDD) Knowledge Discovery in DataBases (KDD) Information Visualization and Visual Data Information Visualization and Visual Data

MiningMining

Page 7: Phd Thesis Dissertation (Italian)

Dati consideratiDati consideratiComputer Vision I dati presi in

considerazione sono immagini digitali.In particolare:

Immagini satellitari (Segmentazione)

Tessiture (Classificazione Percettiva)

Visual Perception L’esperienza visiva e

le capacità percettive umane.

L’uomo sa capire il “contenuto” di un immagine…

Page 8: Phd Thesis Dissertation (Italian)

Applicazioni del Pattern Applicazioni del Pattern RecognitionRecognition

Bioinformatics

Speech Recogntion

Remote Sensing

BiometricRecognition

Multimedia Database Retrieval

Industrial Automation

Document Image

Analysis

Document Classification

Data Mining

Pattern Recognition

Page 9: Phd Thesis Dissertation (Italian)

PART IPART I

Shape Refinement of Remote Shape Refinement of Remote Sensed ImagesSensed Images

Page 10: Phd Thesis Dissertation (Italian)

IntroduzioneIntroduzione

Remote Sensing: Remote Sensing: is is the science of the science of acquiring, acquiring, processing and processing and interpreting images interpreting images that record the that record the interaction between interaction between electromagnetic electromagnetic energy and matter.“ energy and matter.“ (F.F. Sabins) (F.F. Sabins)

Vista a falsi colori dell’Etna – Landsat 7 - Agosto 1998

Page 11: Phd Thesis Dissertation (Italian)

Segmentazione automatica Segmentazione automatica del terreno del terreno

Applicazioni: Applicazioni: Geographical Information Geographical Information Systems Systems (GIS)(GIS)

Approcci:Approcci: Automatici:Automatici: Statistici, Analisi delle Statistici, Analisi delle

Componenti Principali, Reti Neurali, Componenti Principali, Reti Neurali, confronti con “firme spettrali”, ecc.confronti con “firme spettrali”, ecc.

Classificazione Visiva:Classificazione Visiva: L’esperto disegna L’esperto disegna manualmente la regione di interesse (ROI) manualmente la regione di interesse (ROI) sulla mappa avvalendosi di operatori sulla mappa avvalendosi di operatori visuali.visuali.

Page 12: Phd Thesis Dissertation (Italian)

ITALSCAR – DUP ProjectITALSCAR – DUP Project Nel 2000 il DMI è stato coinvolto come Nel 2000 il DMI è stato coinvolto come

consulente scientifico nel progetto ITALSCAR consulente scientifico nel progetto ITALSCAR nell’ambito del Data User Program nell’ambito del Data User Program (DUP)(DUP) di di ESAESA (European Space Agency). (European Space Agency).

Il progetto ha lo scopo di creare un sistema Il progetto ha lo scopo di creare un sistema per la creazione automatica di mappe relative per la creazione automatica di mappe relative a zone bruciate in Italia per combattere gli a zone bruciate in Italia per combattere gli incendi delle foreste proibendo la costruzione incendi delle foreste proibendo la costruzione di edifici nelle zone bruciate.di edifici nelle zone bruciate.

Page 13: Phd Thesis Dissertation (Italian)

ITALSCAR – DUP Project ITALSCAR – DUP Project (2)(2)

Il contributo del DMI riguarda lo Il contributo del DMI riguarda lo shape shape refinementrefinement, cioè la creazione , cioè la creazione di una Burned Shape Map a partire di una Burned Shape Map a partire da una mappa di “core pixels” e da da una mappa di “core pixels” e da indici.indici.

Page 14: Phd Thesis Dissertation (Italian)

Related Work (Computer Related Work (Computer Vision)Vision)

Snakes (Kass et alli, 1988)Snakes (Kass et alli, 1988) Seeded Region Growing (Adams, 1994)Seeded Region Growing (Adams, 1994) Split and Merge (Horowitz, 1974)Split and Merge (Horowitz, 1974) Watershed Decomposition (Watershed Decomposition (Vincent and Soille, Vincent and Soille,

1991)1991) Relaxation (Relaxation (Rosenfield, 1981)Rosenfield, 1981) Markov Random Fields (Markov Random Fields (Geman and Geman, Geman and Geman,

1984)1984) Connection Based Approaches (Udupa, 1991)Connection Based Approaches (Udupa, 1991) Morphology Based Approaches (Serra,1960)Morphology Based Approaches (Serra,1960)

Page 15: Phd Thesis Dissertation (Italian)

Rilevamento di aree Rilevamento di aree bruciate :bruciate :

Shape Refinement stage Shape Refinement stage

Shape Refining

Seeded Region

Growing

Watershed Decomposit

ion

Output: WD_MapSRG_Map Three valued

map (1,0.5,0)

Merge

SeedsA B IndiciInput:

Page 16: Phd Thesis Dissertation (Italian)

Seeded Region GrowingSeeded Region Growingstart

Input:Multi channel image ABinary Map CP_Map

Threshold t, distance d(Metric L)

Initialize SRG_Map CP_Map

Q = { p : p SRG_Map & p 8-neighbours(q) & q SRG_Map & dL(p,q) < t }

Q = ?

Main loopm extract_min(Q,d)

SRG_Map(p) 1insert (or update) Q for points n

8-neigh- bours(m), n SRG_Map , dL(m,n) <t

Output SRG_Map

no

yes

Page 17: Phd Thesis Dissertation (Italian)

Watershed ClassificationWatershed Classification

start

Input:

Multi channel image ABinary Map CP_Map Threshold t, function distance d(Metric L)

Initialize WD_Map

CP_MapBasin_List = ;

L = ;

G = Gradient (A,d)for each p in G do insert p into L(G(p)) end forfor i=0 to 255 for each p in L(i) assign_region(p,Basin List);end forend forfor each p classified as edge doassign p to the nearest basin B;update Basin_List;end for;for each p classified as edge doassign p to the nearest basin B;update Basin_List;end forfor each core pixel p in CP_MapLet B the Bacin that contains p;for each x in B doWD_MAP(x) := 1;end forend for

Output WD_Map

Page 18: Phd Thesis Dissertation (Italian)

Merging AlgorithmMerging Algorithm

Input: k mappe binarie di Input: k mappe binarie di dimensione n*m Mdimensione n*m Mi i i=1…k i=1…k

InitializeInitialize Mappa_Finale = new Image(n, m) // Mappa_Finale = new Image(n, m) //

inizializzata a 0inizializzata a 0 For each pixel p(i,j) in Mappa_FinaleFor each pixel p(i,j) in Mappa_Finale p(i,j) = p(i,j) =

(i,j)Mk

k

hh

1

1

Page 19: Phd Thesis Dissertation (Italian)

Risultati Sperimentali: Risultati Sperimentali: Bosco di Santo Pietro Bosco di Santo Pietro

(Caltagirone): SRG(Caltagirone): SRG

t = 40 t = 45 t = 50 t = 20 t = 25 t = 30

L2 LMAX

Page 20: Phd Thesis Dissertation (Italian)

Risultati Sperimentali: Risultati Sperimentali: Bosco di Santo Pietro Bosco di Santo Pietro

(Caltagirone): WD(Caltagirone): WDGradient Map

Basins Map with edges

Final Basins Map

LmaxL2

Original

Page 21: Phd Thesis Dissertation (Italian)

Risultati Sperimentali: Risultati Sperimentali: Bosco di Santo Pietro Bosco di Santo Pietro

(Caltagirone): Merging(Caltagirone): Merging

Page 22: Phd Thesis Dissertation (Italian)

Risultati Sperimentali: Risultati Sperimentali: Incendio in Spagna – Incendio in Spagna –

Burned Area Index (BAI)Burned Area Index (BAI)

Page 23: Phd Thesis Dissertation (Italian)

Segmentation of remote Segmentation of remote sensed images trough sensed images trough

shape refinementshape refinement Approccio alla segmentazione Approccio alla segmentazione

automatica:automatica:1.1. I pixel che appartengono alle regioni di I pixel che appartengono alle regioni di

interesse con alta probabilità sono interesse con alta probabilità sono selezionati come semi;selezionati come semi;

2.2. Rifinitura della selezione (aggiungendo Rifinitura della selezione (aggiungendo nuovi pixel) tramite algoritmi di Image nuovi pixel) tramite algoritmi di Image Processing;Processing;

3.3. Merging dei risultati indipendenti per Merging dei risultati indipendenti per formare una mappa di probabilità;formare una mappa di probabilità;

Page 24: Phd Thesis Dissertation (Italian)

Riconoscimento automatico Riconoscimento automatico di Vegetazioni: Pineta di di Vegetazioni: Pineta di

Linguaglossa (Etna)Linguaglossa (Etna)

Immagine a sei canali (n*m*6)

Page 25: Phd Thesis Dissertation (Italian)

Semi: Thresholding del Semi: Thresholding del Normalized Difference Normalized Difference

Vegetation Index (NDVI)Vegetation Index (NDVI)

34

34

channelchannel

channelchannelNDVI

Page 26: Phd Thesis Dissertation (Italian)

SemiSemi

Seeds (80%) Seeds (75%)

Page 27: Phd Thesis Dissertation (Italian)

SRGSRG

Risultato t=12.39

Page 28: Phd Thesis Dissertation (Italian)

Watershed ClassificationWatershed Classification

Gradiente – Sobel Mappa dei Bacini

Risultato

Page 29: Phd Thesis Dissertation (Italian)

Fuzzy MergingFuzzy Merging

Page 30: Phd Thesis Dissertation (Italian)

Valutazione dell’ErroreValutazione dell’Errore

Per valutare l’errore commesso dalla classificazione automatica abbiamo chiesto ad un esperto di fornirci una “ground truth” visiva, segnando le zone sulla mappa. Classificazione “manuale”

dell’esperto (o tramite campagna GPS)

Page 31: Phd Thesis Dissertation (Italian)

Valutazione Errore (2)Valutazione Errore (2))(

)()(

TU

TUSRGU

PP

PPPP

)(

)()(

TU

TUSRGU

PP

PPPP

)(

)()(

TU

TUSRGU

PP

PPPP

)(

)()(

TU

TUSRGU

PP

PPPP

Page 32: Phd Thesis Dissertation (Italian)

Risultati SRGRisultati SRGP

erc

en

tuale

SRG Metric L2, seeds 0,75

Threshold

SRG Metric Lmax, seeds 0,75

Threshold

Perc

en

tuale

SRG Metric L2, seeds 0,9

Perc

en

tuale

Threshold

Perc

en

tuale

SRG Metric Lmax, seeds 0,9

Page 33: Phd Thesis Dissertation (Italian)

Risultati Fuzzy MergingRisultati Fuzzy Merging

Threshold

Perc

en

tuale

Merge Metric L2, seeds 0,90 for SRG and 0,8 for WD

Threshold

Perc

en

tuale

Merge Metric LMAX, seeds 0,90

for SRG and 0,8 for WD

Page 34: Phd Thesis Dissertation (Italian)

Un nuovo approccioUn nuovo approccio

Motivazioni: La tecniche presentate Motivazioni: La tecniche presentate soffrono di alcuni problemi:soffrono di alcuni problemi: SRG : Buchi nella segmentazione.SRG : Buchi nella segmentazione. WD: Piccola dimensione dei baciniWD: Piccola dimensione dei bacini

Idea: Combinare i vantaggi di Idea: Combinare i vantaggi di entrambi gli algoritmi: Watershed entrambi gli algoritmi: Watershed Region Growing. Region Growing.

Page 35: Phd Thesis Dissertation (Italian)

Watershed Region Growing: Watershed Region Growing: SketchSketch

INPUT (immagine, semi, metrica, INPUT (immagine, semi, metrica, threshold)threshold)

Decomposizione WatershedDecomposizione Watershed Grafo dei BaciniGrafo dei Bacini Region Growing: considerando come Region Growing: considerando come

semi, i nodi che contengono almeno semi, i nodi che contengono almeno un seme.un seme.

OUTPUT: SegmentazioneOUTPUT: Segmentazione

Page 36: Phd Thesis Dissertation (Italian)

RisultatiRisultati RedRed :Pixels classified correctly :Pixels classified correctly

by WRG and Mergingby WRG and Merging YellowYellow: Pixels classified : Pixels classified

correctly only by WRGcorrectly only by WRG PurplePurple: Pixels classified : Pixels classified

correctly only by mergingcorrectly only by merging White: False Negatives: Pixels White: False Negatives: Pixels

in the overlay not recognized in the overlay not recognized by both algorithmsby both algorithms

Light BlueLight Blue: False Positives: : False Positives: Pixels outside the overlay Pixels outside the overlay misclassified by both misclassified by both algorithmsalgorithms

BlueBlue: False Positives of WRG: : False Positives of WRG: Pixels outside the overlay Pixels outside the overlay classified by WRG.classified by WRG.

GreenGreen: False Positives of : False Positives of Merging: Pixels outside the Merging: Pixels outside the overlay classified by Mergingoverlay classified by Merging

Page 37: Phd Thesis Dissertation (Italian)

PART IIPART IIAnalysis of Perceptual Relevant Analysis of Perceptual Relevant

Features in Database of Textures Features in Database of Textures and their Visualizationand their Visualization

Page 38: Phd Thesis Dissertation (Italian)

IntroduzioneIntroduzione Cos’è una tessitura ?Cos’è una tessitura ?

Pattern ripetitivo in cui Pattern ripetitivo in cui elementi (o primitive) elementi (o primitive) sono disposti secondo sono disposti secondo una regola di una regola di piazzamento (Tamura, piazzamento (Tamura, 1978)1978)

Non esiste nessuna Non esiste nessuna definizione generale definizione generale comunemente comunemente accettataaccettata

Hanno largo uso in Hanno largo uso in Computer Graphics.Computer Graphics.

Page 39: Phd Thesis Dissertation (Italian)

Classificazione di Classificazione di tessiture 1/2tessiture 1/2

Metodi StatisticiMetodi Statistici Metodi Strutturali: Identificare e Metodi Strutturali: Identificare e

misurare le caratteristiche misurare le caratteristiche percettivamente rilevanti per la percettivamente rilevanti per la percezione umanapercezione umana

Page 40: Phd Thesis Dissertation (Italian)

StatisticaMedia: 202.2368Deviazione Standard: 29.4566Min: 47Max: 255

PercettivaTessitura regolare con basso contrasto e direzione verticale

Classificazione di Classificazione di tessituretessiture 2/2 2/2

Page 41: Phd Thesis Dissertation (Italian)

ObiettivoObiettivo

Costruire un Costruire un “ponte”“ponte” tra i due tra i due approcciapprocci

Trasferire la “vaghezza” della Trasferire la “vaghezza” della percezione umana delle tessiture in percezione umana delle tessiture in “numeri”“numeri” Capire meglio il ruolo delle Capire meglio il ruolo delle proprietà statistiche delle tessiture proprietà statistiche delle tessiture nel creare sensazioni visivenel creare sensazioni visive

Page 42: Phd Thesis Dissertation (Italian)

MotivazioniMotivazioni

“ “ Come scegliere la giusta tessitura Come scegliere la giusta tessitura per le nostre immagini da un grande per le nostre immagini da un grande database? ”database? ” Indici Indici Misura di similaritàMisura di similarità

Tentativo:Tentativo: Simulare il Simulare il comportamento umano nella selezione comportamento umano nella selezione attraverso l’uso di caratteristiche attraverso l’uso di caratteristiche percettivamente rilevanti.percettivamente rilevanti.

Page 43: Phd Thesis Dissertation (Italian)

Caratteristiche Caratteristiche percettivepercettive

PeriodicPeriodicvsvs

Non periodicNon periodic

DirectionalDirectionalvsvs

Non Non DirectionalDirectional

CoarseCoarsevsvs

FineFine

DeterministicDeterministicvsvs

RandomRandom

Space Space invariantinvariant

vsvsHeterogeneoHeterogeneo

usus

High ContrastHigh Contrastvsvs

Low ContrastLow Contrast

Tamura (1978), Interrante (2001)

Page 44: Phd Thesis Dissertation (Italian)

Related WorkRelated Work Tamura et alii (1978)Tamura et alii (1978)

Coarseness, Contrast, Directionality, Line Likeness, Regularity, Coarseness, Contrast, Directionality, Line Likeness, Regularity, RoughnessRoughness

Laws (1980)Laws (1980) Level, Edge, Spot, Wave and RippleLevel, Edge, Spot, Wave and Ripple..

Amadasun and KingAmadasun and King (1989) (1989) Coarseness, Contrast, Busyness, Complexity, Texture strength. Coarseness, Contrast, Busyness, Complexity, Texture strength.

Rao et alii (1993)Rao et alii (1993) 3D space : Directionality versus non Directionality, Periodicity 3D space : Directionality versus non Directionality, Periodicity

versus irregularity, Complexity of the image (also called versus irregularity, Complexity of the image (also called granularity).granularity).

Liu and PicardLiu and Picard (1994) (1994) Periodicity, Directionality, Randomness Periodicity, Directionality, Randomness

Manjunath et aliiManjunath et alii (1996) (1996) Structuredness, Directionality, Coarseness (here also called Structuredness, Directionality, Coarseness (here also called

scale).scale). Abbadeni et aliiAbbadeni et alii (2000) (2000)

Coarseness, contrast, direction, busynessCoarseness, contrast, direction, busyness Long and LeowLong and Leow (2001) (2001)

4D - Perceptual Space 4D - Perceptual Space

Page 45: Phd Thesis Dissertation (Italian)

Related Work onRelated Work onContent Based Image Content Based Image

RetrievalRetrieval Tamura et alii (1978)Tamura et alii (1978)

QBIC (IBM)QBIC (IBM) Laws (1980)Laws (1980)

CANDIDCANDID Liu and PicardLiu and Picard (1994) (1994)

PhotoBookPhotoBook Manjunath et aliiManjunath et alii (1996) (1996)

NetraNetra

Page 46: Phd Thesis Dissertation (Italian)

DirezionalitàDirezionalità

Definizione Definizione semanticasemantica

Caratteristica Caratteristica globaleglobale

Presenza di dettagli Presenza di dettagli orientati lungo una orientati lungo una direzione direzione predefinitapredefinita

Opposto di isotropoOpposto di isotropo

Definizione Definizione computazionalecomputazionale

Grado di direzionalità Grado di direzionalità [0,1][0,1]

Basato su caratteristiche Basato su caratteristiche “low-level” “low-level”

Confronto con Confronto con distribuzioni idealidistribuzioni ideali

““fuzzy” fuzzy” stretchingstretching..

Page 47: Phd Thesis Dissertation (Italian)

Direzionalità (2)Direzionalità (2)Sobel Y

Sobel X

/ =

Istogramma del gradiente

-/2 0 /2

Angoli

Fre

qu

en

ze

Page 48: Phd Thesis Dissertation (Italian)

Direzionalità (3)Direzionalità (3)fr

eq

uen

za

Istogramma del gradiente

Perfettamente direzionale

bins

Page 49: Phd Thesis Dissertation (Italian)

Direzionalità (4)Direzionalità (4)

bins

freq

uen

za

Istogramma del gradiente

Rumore uniforme

Page 50: Phd Thesis Dissertation (Italian)

Direzionalità (5)Direzionalità (5)

Siano: Siano: ppdd=d=d22(T,P(T,Pdirectionaldirectional))

grado di appartenza grado di appartenza di T all’insieme delle di T all’insieme delle tessiture tessiture « direzionali » « direzionali »

ppuu= d= d22(T,P(T,Puniformuniform))

grado di grado di appartenenza di T appartenenza di T all’insieme delle all’insieme delle tessiture « isotrope» tessiture « isotrope»

d=(1-log((1-pd=(1-log((1-pdd)*p)*puu))-1-1

misura di direzionalità misura di direzionalità localelocale

dd(T)=min(0,1max((d-(T)=min(0,1max((d-pp11)/p)/p22),1)))),1)))

stretchingstretching non lineare non lineare per ottenere un “grado per ottenere un “grado di direzionalità” di direzionalità”

Page 51: Phd Thesis Dissertation (Italian)

Definizione Definizione ComputazionaleComputazionale

Grado di contrasto Grado di contrasto [0,1][0,1]

ContrastoContrasto

Definizione Definizione semanticasemantica

Stima della Stima della variazione locale.variazione locale.

Fattori: tonalità, Fattori: tonalità, distribuzione dei distribuzione dei grigi, sharpness dei grigi, sharpness dei lati, pattern lati, pattern ripetitivi.ripetitivi.

Alto contrasto – Alto contrasto – Basso contrastoBasso contrasto

)(min)(max

)(min)(max),(_

pp

ppjicontrastlocal

WWpWWp

WWpWWp

contrasto_locale(contrasto_locale(i,j) =i,j) =

maxmaxppWxWWxW(p)-min(p)-minppWxWWxW(p)(p)maxmaxppWxWWxW(p)+min(p)+minppWxWWxW(p)(p)

contrasto_globale=mean(contrasto_lcontrasto_globale=mean(contrasto_locale)ocale)

Dove:Dove:p=p(i,j)p=p(i,j)WxW finestra di WxW finestra di vicinatovicinato

Page 52: Phd Thesis Dissertation (Italian)

Contrasto (2)Contrasto (2)

0 10 20 30 40 50 60 70 80 90 100

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

3x35x57x79x911x11

Valori del contrasto locale per il db di Brodatz al variare di W

Page 53: Phd Thesis Dissertation (Italian)

EsempiEsempi

Contrast = 0.021580 Contrast = 0.797274

Min e Max rispetto ai valori di contrasto nel database Vistex

Page 54: Phd Thesis Dissertation (Italian)

Un piccolo test data setUn piccolo test data set

Page 55: Phd Thesis Dissertation (Italian)

Spazio PercettivoSpazio Percettivo

contrasto

dire

zion

alità

Page 56: Phd Thesis Dissertation (Italian)

Confronto vs classificazione Confronto vs classificazione soggettivasoggettiva

0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.80

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1Brodatz Texture Space vs classificazione

soggettiva

Contrasto

Dir

ezi

on

ali

tàIsotropic

Partially directionalStrongly Directional

Page 57: Phd Thesis Dissertation (Italian)

Al variare del contrastoAl variare del contrasto

Page 58: Phd Thesis Dissertation (Italian)

Al variare della Al variare della risoluzionerisoluzione

Page 59: Phd Thesis Dissertation (Italian)

Rappresentazione visiva di Rappresentazione visiva di featuresfeatures

Idea: Usare la visualizzazione per Idea: Usare la visualizzazione per rappresentare graficamente le rappresentare graficamente le caratteristiche percettivamente rilevanti:caratteristiche percettivamente rilevanti: Per discriminare velocemente una tessiture Per discriminare velocemente una tessiture

dall’altra;dall’altra; Usare tale rappresentazioni iconiche come Usare tale rappresentazioni iconiche come

query visive per ricerche in database di query visive per ricerche in database di tessiture.tessiture.

Proposta: Glifo per la rappresentazione Proposta: Glifo per la rappresentazione della direzionalità (orientazione).della direzionalità (orientazione).

Page 60: Phd Thesis Dissertation (Italian)

Direzionalità (1/3)Direzionalità (1/3)

Ci sono direzioni (orientazioni) predefinite nella tessitura ?

Vertical

Page 61: Phd Thesis Dissertation (Italian)

NEVisual Queries: Trovare tutte le Tessiture nel DB aventi direzioneNE

Direzionalità (2/3)Direzionalità (2/3)

Page 62: Phd Thesis Dissertation (Italian)

Direzionalità (3/3)Direzionalità (3/3)La misura è calcolata attraverso:La misura è calcolata attraverso:

Matrici di co-occorrenzaMatrici di co-occorrenza

Le matrici di co-occorrenza sono definite:

C(T,v)i,j = | { (p,q) in T x T : q = p + v and L(p) = i and L(q) = j }|.

Dove:

• T è un’immagine a 256 toni di grigio (n x m pixels)

• L(p) il valore di luminanza del pixel p di T

• V è un vettore di offset

Page 63: Phd Thesis Dissertation (Italian)

EsempioEsempio

1

1

2

1

1

1

1

2

2

2

1

3

3

2

3

2

4

3

1

3

5

Page 64: Phd Thesis Dissertation (Italian)

Rappresenzione a toni di Rappresenzione a toni di grigio delle matrici di co-grigio delle matrici di co-

occorrenzaoccorrenza

Una tessitura T e la rappresentazione grafica di C(T,(-1,0))

Page 65: Phd Thesis Dissertation (Italian)

Matrici di co-Matrici di co-occorrenza per occorrenza per

l’insieme di offset 5x5l’insieme di offset 5x5NNWW NNW NN NNE NNEE

NWW NW N NE NEE

WW W E EE

SSWW SSW SS SSE SSEE

SWW SW S SE SEE

Page 66: Phd Thesis Dissertation (Italian)

gray levels

HISTOGRAM

NE

NNWW

020406080

100120140160180

1256gray level

NENNWW

Grafico dell’istogramma vs Grafico dell’istogramma vs Diagonale principale co-Diagonale principale co-

occorrenzeoccorrenze

Page 67: Phd Thesis Dissertation (Italian)

Gray Level

HISTOGRAM NE

248305

Area tra l’istogramma e la Area tra l’istogramma e la diagonale principale (1/3)diagonale principale (1/3)

Page 68: Phd Thesis Dissertation (Italian)

Gray Level

HISTOGRAMNNWW

253934

Area tra l’istogramma e la Area tra l’istogramma e la diagonale principale (2/3)diagonale principale (2/3)

Page 69: Phd Thesis Dissertation (Italian)

Gray Level

HISTOGRAM NE

248305Gray Level

HISTOGRAMNNWW

253934<

NE NNWWPiù rilevante di

Area tra l’istogramma e la Area tra l’istogramma e la diagonale principale (3/3)diagonale principale (3/3)

Page 70: Phd Thesis Dissertation (Italian)

Insieme di DiscrepanzaInsieme di Discrepanza

253934 253744 253097 251021 251517

253683 253239 250870 248305 251295

252974 251028 0 251032 252980

251286 248315 250870 253235 253680

251539 251045 253103 253745 253939

Page 71: Phd Thesis Dissertation (Italian)

AggiustamentiAggiustamenti

1.0000 0.9992 0.9967 0.9885 0.9905

0.9990 0.9972 0.9879 0.9778 0.9896

0.9962 0.9885 0 0.9886 0.9962

0.9896 0.9779 0.9879 0.9972 0.9990

0.9905 0.9886 0.9967 0.9992 1.0000

0.0000 0.0008 0.0033 0.0115 0.0095

0.0010 0.0028 0.0121 0.0222 0.0104

0.0038 0.0115 0 0.0114 0.0038

0.0104 0.0221 0.0121 0.0028 0.0010

0.0095 0.0114 0.0033 0.0008 0

Normalizzazione al range [0,1]

(centro esculso)

Complemento a 1

Insieme delle misure Di rilevanza della

direzione

Page 72: Phd Thesis Dissertation (Italian)

Il glifo propostoIl glifo proposto

Page 73: Phd Thesis Dissertation (Italian)

È necessaria una funzione di mapping È necessaria una funzione di mapping tra i Relevance coefficients (range tra i Relevance coefficients (range [0,1]) e Glyph Line Thickness (range [0,1]) e Glyph Line Thickness (range [0.001, R]) .[0.001, R]) .

Sono stati effettuati esperimentiSono stati effettuati esperimenti LineareLineare EsponenzialeEsponenzialeStreching non lineare Streching non lineare

Thickness vs Thickness vs coefficents coefficents magnitudemagnitude

se

se

se

0.2*σ)M(1

σMt0.8

0.69*2σ

σMt0.11

0.1*σM

t0.01

f(t)

1tσM

σMtσM

σMt0

Page 74: Phd Thesis Dissertation (Italian)

Esempi (1/3)Esempi (1/3)

Page 75: Phd Thesis Dissertation (Italian)

Esempi (2/3)Esempi (2/3)

Page 76: Phd Thesis Dissertation (Italian)

Esempi (3/3)Esempi (3/3)

Page 77: Phd Thesis Dissertation (Italian)

Arricchire il glifo con il Arricchire il glifo con il contrasto localecontrasto locale

Rappresentare il contrasto locale (proprietà Rappresentare il contrasto locale (proprietà globale) tramite il colore di sfondo del glifo.globale) tramite il colore di sfondo del glifo.

Idea: Colorare lo sfondo proporzionalmente Idea: Colorare lo sfondo proporzionalmente con il contrasto locale.con il contrasto locale.

Matematicamente:Matematicamente: c = contrasto (range [0,1])c = contrasto (range [0,1]) colore_sfondo=[1-c, 0 ,0]colore_sfondo=[1-c, 0 ,0] N.B. la tripla [R,G,B] è normalizzata nel range N.B. la tripla [R,G,B] è normalizzata nel range

[0,1][0,1]

Page 78: Phd Thesis Dissertation (Italian)
Page 79: Phd Thesis Dissertation (Italian)

ConclusioniConclusioni È stato presentato un modello di classificazione È stato presentato un modello di classificazione

percettivo di tessiture;percettivo di tessiture; In particolare, sono state proposte:In particolare, sono state proposte:

Una nuova misura di direzionalità locale;Una nuova misura di direzionalità locale; Una misura di contrasto locale;Una misura di contrasto locale;

I risultati sono stati confrontati con I risultati sono stati confrontati con esperimenti soggettivi.esperimenti soggettivi.

È stata introdotta una rappresentazione iconica È stata introdotta una rappresentazione iconica per una nuova misura di direzionalità basata per una nuova misura di direzionalità basata sulle matrici di co-occorrenzasulle matrici di co-occorrenza

Il glifo è stato arricchito con il contrasto locale.Il glifo è stato arricchito con il contrasto locale.

Page 80: Phd Thesis Dissertation (Italian)

PubblicazioniPubblicazioni S.Battiato, S. Nicotra, G.Gallo , S.Battiato, S. Nicotra, G.Gallo , ”Image Compression with Function ”Image Compression with Function

Trees” Trees” in Proceedings of the IASTED International Conference “Signal in Proceedings of the IASTED International Conference “Signal

Processing, Pattern Recognition and Applications”, July 2-6,2001 - Processing, Pattern Recognition and Applications”, July 2-6,2001 -

Rhodes, Greece, pp. 201,206.Rhodes, Greece, pp. 201,206. G. Gallo, G. Grasso, S. Nicotra, A. Pulvirenti G. Gallo, G. Grasso, S. Nicotra, A. Pulvirenti “Remote Sensed Image “Remote Sensed Image

Segmentation thought Shape Refinement ”Segmentation thought Shape Refinement ”, Proceedings of 11th , Proceedings of 11th

International Conference on Image Analysis and Processing, 26-28 International Conference on Image Analysis and Processing, 26-28

September 2001.September 2001. S. Battiato, G. Gallo, S. Nicotra S. Battiato, G. Gallo, S. Nicotra “Glyph Representation of Directional “Glyph Representation of Directional

Texture Properties”Texture Properties” 10-th International Conference in Central Europe on 10-th International Conference in Central Europe on

Computer Graphics, Visualization and Computer Vision '2002 , WSCG Computer Graphics, Visualization and Computer Vision '2002 , WSCG

2002 Plzen, Czech Republic, February 2002 Published in Journal of 2002 Plzen, Czech Republic, February 2002 Published in Journal of

WSCG, Volume 10, No.1-3, pp. 48-54, 2002WSCG, Volume 10, No.1-3, pp. 48-54, 2002; ; S. Nicotra, S. Nicotra, “Organizing Texture in a Perceptual Space”“Organizing Texture in a Perceptual Space”, , Eurographics Eurographics

Italian Chapter, Milan, Italy, July 11-12- 2002.Italian Chapter, Milan, Italy, July 11-12- 2002.