Audio Forensics con strumenti Open Source

51
Audio Forensics con strumenti Open Source Paolo Dal Checco Consulente Informatico Forense Udine, 29 novembre 2014

Transcript of Audio Forensics con strumenti Open Source

Page 1: Audio Forensics con strumenti Open Source

Audio Forensics con strumenti Open Source

Paolo Dal Checco Consulente Informatico Forense

Udine, 29 novembre 2014

Page 2: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Chi sono

• PhD in Computer & Network Security

• Consulente Informatico Forense

• Procure, Tribunali, Avvocati, Aziende, Privati

• Co-Titolare Digital Forensics Bureau (DiFoB)

• DEFT Association e Osservatorio ONIF

• Socio IISFA, AIP, CLUSIT

Page 3: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Perché Audio Forensics• Per passione personale ed estendere le attività di

Studio, abbiamo cominciato a occuparci anche di audio forensics:

• Pulizia del suono (noise/crackle/click/clip/hum/reverb removal)

• Rilevamento contraffazioni audio (tagli, sovrapposizioni, composizioni)

• Confronto timbrico e riconoscimento vocale

• Trascrizioni e riconoscimento parole

Page 4: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Miti e realtà dell’audio forensics

Page 5: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Il suono• Variazione, rispetto a un valore costante,

della pressione dell’aria

Page 6: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Il suono• La variazione ha andamento sinusoidale

Page 7: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Il suono• Il numero di cicli al secondo è la frequenza

Page 8: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Il suono• Il periodo è il tempo impiegato per un ciclo

Page 9: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Il suono• La lunghezza d’onda è la distanza tra due punti

corrispondenti (per esempio due massimi successivi)

Page 10: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Il suono• L’ampiezza è lo scostamento massimo

dalla posizione neutra di equilibrio

Page 11: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Campionamento• Convertire tempo e ampiezza da continui a

discreti, quantizzandoli in base all’esigenza

Page 12: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Campionamento• Maggiore è la frequenza, migliore il campionamento

Page 13: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Campionamento• Errori di campionamento dovuti a frequenza di

campionamento più bassa di quella del segnale

• Frequenza di Nyquist: la frequenza di campionamento deve essere almeno il doppio della max frequenza presente nel segnale

Page 14: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Rappresentazioni del suono

• Tempo-Ampiezza (Waveform)

Page 15: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Rappresentazioni del suono

• Tempo-Frequenza (Spectrogram)

Lineare

Page 16: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Rappresentazioni del suono

• Tempo-Frequenza (Spectrogram)

Logaritmico

Page 17: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Rappresentazioni del suono• Per farci un’idea

indicativa dello spettrogramma, pensiamo a un carillon: il tempo scorre e i buchi sulla piastra indicano le note da suonare

Page 18: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Software Commerciali• Sony Sound Forge + Spectra Tools

• Adobe Audition

• Avid Pro Tools

• iZotope RX 4

• Speech Pro

• Multi Speech 3700

Page 19: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Software Open Source

• Audacity

• PRAAT

• Sonic Visualizer

• Speech Filing System

• SoX

Page 20: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

• Multipiattaforma

• Open Source

• Plugin, filtri ed effetti (anche VST)

• Multitraccia

• Potenti funzioni di analisi e visualizzazione

Page 21: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Waveform

Page 22: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Spettrogramma

Page 23: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Waveform + Spettrogramma

Page 24: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Plot Spectrum

Page 25: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Livello del suono in uscita (RMS Value)

CR: media livello

CP: livello corrente

RP: livello recente

MP: livello massimo

CPCR MP ML

Page 26: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Riproduzione continua: SELECT + SHIFT + PLAY

Page 27: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Noise Removal

Page 28: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Rimozione frequenze alte/basse (low/high pass)

Page 29: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Rimozione frequenze specifiche (ad esempio disturbi da linea elettrica)

Page 30: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Riproduzione a rallentatore o velocizzata

Page 31: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Funzioni di analisi e audio forensics

Page 32: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Filtri ed effetti

Page 33: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Audacity• Filtri ed effetti di terze

parti

Page 34: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

• Scritto da Paul Boersma e David Weenink, Phonetic Sciences, University of Amsterdam

• Multipiattaforma

• Potente per analisi e sintesi fonetica

• Con un po’ di lavoro arrivaai livelli dei sw professionali

• Supporta scripting

• Sì, ha un logo assurdo…

PRAAT

Page 35: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

• Una volta caricato il file è possibile scegliere tra numerose attività, per ora ci limitiamo alla visualizzazione delle forme d’onda e degli spettrogrammi

PRAAT

Page 36: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

PRAAT

Page 37: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

PRAAT• Disegno di

spettrogrammi di un intervallo

• Seleziono intervallo: Spectrum -> View Spectral Slice

Page 38: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

PRAAT• Sullo

spettrogramma possiamo decidere di ascoltare soltanto le frequenze desiderate isolando le altre

Page 39: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

PRAAT• Esempio di utilizzo nell’audio forensics: valutare se

esiste un taglio nella registrazione utilizzando intensità o frequenze caratteristiche

Page 40: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

PRAAT• Esempio di utilizzo nell’audio forensics: segmentare

le parole per riconoscere il parlato e confrontarlo

Page 41: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

PRAAT• Frequenze “formanti”: frequenze di risonanza delle vocali

che dipendono dalla conformazione del tratto vocalico, sono i picchi di energia più forti

!

• Frequenza “fondamentale”: frequenza di vibrazione delle corde vocali

• spazia in genere tra 70 e 150 Hz per voce maschile, 150 e 250 Hz per voce femminile, 250 e 350 Hz per voce di bambino.

Page 42: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

SOX - Sound Exchange• “Coltellino svizzero” dell’audio processing

• Conversione da numerosi formati

• Applicazione di effetti

• Disegno di spettrogrammi

• Multipiattaforma

• Open Source

Page 43: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

SOX - Sound Exchange• Applicazione di effetti a

catena

• sox telefonata.wav out.wav remix - norm -3 highpass 22 gain -3 rate 48k norm -3 dither

• sox telefonata.wav test.wav reverse reverb

Page 44: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

SOX - Sound Exchange• Sintesi del

suono (es. LA-7 con suono di organo)

• play -n -c1 synth sin %-12 sin %-9 sin %-5 sin %-2 fade h 0.1 1 0.1

Page 45: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

SOX - Sound Exchange

sox telefonata.wav -n spectrogram

Page 46: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Immagini e suoni• I suoni possono essere visualizzati come

immagine, editati e ricodificati/ascoltati (es. per rimuovere/copiare/incollare frequenze)

• Spectra Layers, RX4, ma anche con PRAAT e Audacity

• Questo significa che si può “sintetizzare” un’immagine e ascoltarne il contenuto dove la posizione dei pixel indica le frequenze e il colore l’intensità del suono

Page 47: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Immagini e suoni

Inverto i colori

Uniformo scritta e tolgo sfondo

Page 48: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Immagini e suoni

Page 49: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Immagini e suoni

Page 50: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Immagini e suoni• Free & OS

• imageSpectrogram: https://github.com/plurSKI/imageSpectrogram

• Free

• Audio Paint: http://www.nicolasfournel.com/audiopaint.htm

• Virtual Ans: http://www.warmplace.ru/soft/ans/

• Commerciali

• PhotoSounder: http://photosounder.com/

• MetaSynth: http://www.uisoftware.com/MetaSynth/index.php

• Audible Ink: https://itunes.apple.com/it/app/audible-ink/id331533183

• SonicPhoto: http://www.skytopia.com/software/sonicphoto/

Page 51: Audio Forensics con strumenti Open Source

Audio Forensics con Strumenti Open Source - Paolo Dal Checco

Open Source Day - 29 novembre 2014 - Udine

Q & A• Domande? Suggerimenti? Osservazioni?

• Donazioni alla DEFT Association (www.deftlinux.net)?

!

!

• Contatti?

[email protected] - @forensico