Mesure et analyse des échanges pair-à-pair pour la lutte...

34
Projet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires Activités Mesure Accès Analyse Conclusion 1/17 Mesure et analyse des échanges pair-à-pair pour la lutte contre la pédocriminalité Matthieu Latapy [email protected] LIP6 – CNRS et Université Pierre et Marie Curie (UPMC – Paris 6)

Transcript of Mesure et analyse des échanges pair-à-pair pour la lutte...

Page 1: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

1/17

Mesure et analyse des échangespair-à-pair pour la lutte contre la

pédocriminalité

Matthieu Latapy

[email protected]

LIP6 – CNRS et Université Pierre et Marie Curie (UPMC – Paris 6)

Page 2: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

2/17

Positionnement

Recherche ←→ Applicationsproblèmes scientifiques pertinence applicative

être aussi pertinents que possible pour l’application

interactions avec les milieux applicatifsidentification de problématiques

évaluation des résultatsmise en œuvre

PROJET EXPLORATOIRE

résultats, prototypes, méthodes, ...autres applications (télécoms, politique, ...)

Page 3: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

2/17

Positionnement

Recherche ←→ Applicationsproblèmes scientifiques pertinence applicative

être aussi pertinents que possible pour l’application

interactions avec les milieux applicatifsidentification de problématiques

évaluation des résultatsmise en œuvre

PROJET EXPLORATOIRE

résultats, prototypes, méthodes, ...autres applications (télécoms, politique, ...)

Page 4: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

2/17

Positionnement

Recherche ←→ Applicationsproblèmes scientifiques pertinence applicative

être aussi pertinents que possible pour l’application

interactions avec les milieux applicatifsidentification de problématiques

évaluation des résultatsmise en œuvre

PROJET EXPLORATOIRE

résultats, prototypes, méthodes, ...autres applications (télécoms, politique, ...)

Page 5: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

3/17

Partenaires

• Groupes :

• CNRS et UPMC, France réseaux, analyse• INRIA Lorraine, France réseaux, analyse• UCC, Irlande psychologie appliquée• UL, Slovénie statistiques, réseaux sociaux• FDN, Pologne association, diffusion

• Financeurs :

• Communauté Européenne, Safer Internet Plus• France, Agence Nationale de la Recherche

3 ans (2007 – 2010)> 20 chercheurs impliqués> 800 KEuros sur trois ans

Page 6: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

3/17

Partenaires

• Groupes :

• CNRS et UPMC, France réseaux, analyse• INRIA Lorraine, France réseaux, analyse• UCC, Irlande psychologie appliquée• UL, Slovénie statistiques, réseaux sociaux• FDN, Pologne association, diffusion

• Financeurs :

• Communauté Européenne, Safer Internet Plus• France, Agence Nationale de la Recherche

3 ans (2007 – 2010)> 20 chercheurs impliqués> 800 KEuros sur trois ans

Page 7: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

3/17

Partenaires

• Groupes :

• CNRS et UPMC, France réseaux, analyse• INRIA Lorraine, France réseaux, analyse• UCC, Irlande psychologie appliquée• UL, Slovénie statistiques, réseaux sociaux• FDN, Pologne association, diffusion

• Financeurs :

• Communauté Européenne, Safer Internet Plus• France, Agence Nationale de la Recherche

3 ans (2007 – 2010)> 20 chercheurs impliqués> 800 KEuros sur trois ans

Page 8: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

4/17

Activités

• mesure

• masse d’utilisateurs et d’échanges• en continu dans le temps

• protocoles complexes, peu documentés• lois, éthique

• analyse

• information pertinente

• données massives• données complexes, peu structurées

objectifs ambitieuxnombreux défis

Page 9: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

4/17

Activités

• mesure

• masse d’utilisateurs et d’échanges• en continu dans le temps

• protocoles complexes, peu documentés• lois, éthique

• analyse

• information pertinente

• données massives• données complexes, peu structurées

objectifs ambitieuxnombreux défis

Page 10: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

4/17

Activités

• mesure

• masse d’utilisateurs et d’échanges• en continu dans le temps

• protocoles complexes, peu documentés• lois, éthique

• analyse

• information pertinente

• données massives• données complexes, peu structurées

objectifs ambitieuxnombreux défis

Page 11: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

5/17

Mesure d’eDonkey

Principe de fonctionnement

serveurs + clients

Page 12: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

6/17

Mesure sur serveur

• 10 semaines en continu• 1 milliard de messages• 89 millions de pairs (IP)• 275 millions de fichiers (hash code)• 24 millions de noms de fichiers distincts• 116 millions de recherches par mots-clés distinctes• 6,6 millions de mots distincts, 1,2 millions

apparaissant > 100 fois

Page 13: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

7/17

Mesure par client

Envoi périodique de requêtes choisies.

Mesures à la gendarmerie de Bordeaux :

• 8 mots clés spécifiques, 3 jours (terminé)

• 8 mots clés spécifques, 7 généralistes, 1 mois (encours)

• 120 000 fichiers distincts

• 50 000 clients distincts

• 3 000 clients en France sur 12 000 localisés

mesures distribuéeslongues durée

choix de mots-clés/fichiers ?

Page 14: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

7/17

Mesure par client

Envoi périodique de requêtes choisies.

Mesures à la gendarmerie de Bordeaux :

• 8 mots clés spécifiques, 3 jours (terminé)

• 8 mots clés spécifques, 7 généralistes, 1 mois (encours)

• 120 000 fichiers distincts

• 50 000 clients distincts

• 3 000 clients en France sur 12 000 localisés

mesures distribuéeslongues durée

choix de mots-clés/fichiers ?

Page 15: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

7/17

Mesure par client

Envoi périodique de requêtes choisies.

Mesures à la gendarmerie de Bordeaux :

• 8 mots clés spécifiques, 3 jours (terminé)

• 8 mots clés spécifques, 7 généralistes, 1 mois (encours)

• 120 000 fichiers distincts

• 50 000 clients distincts

• 3 000 clients en France sur 12 000 localisés

mesures distribuéeslongues durée

choix de mots-clés/fichiers ?

Page 16: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

8/17

Mesure par honeypot

Déclaration de fichiers, attente de requêtes.

Mesures préliminaires :• un mois en continu

• distribué sur 40 machines

0

2000

4000

6000

8000

10000

12000

14000

16000

18000

0 2 4 6 8 10 12 14 16

mesures distribuéeslongues durée

choix de mots-clés/fichiers ?

Page 17: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

8/17

Mesure par honeypot

Déclaration de fichiers, attente de requêtes.

Mesures préliminaires :• un mois en continu

• distribué sur 40 machines

0

2000

4000

6000

8000

10000

12000

14000

16000

18000

0 2 4 6 8 10 12 14 16

mesures distribuéeslongues durée

choix de mots-clés/fichiers ?

Page 18: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

8/17

Mesure par honeypot

Déclaration de fichiers, attente de requêtes.

Mesures préliminaires :• un mois en continu

• distribué sur 40 machines

0

2000

4000

6000

8000

10000

12000

14000

16000

18000

0 2 4 6 8 10 12 14 16

mesures distribuéeslongues durée

choix de mots-clés/fichiers ?

Page 19: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

9/17

Données au format XML

<opcode dir="received" TS="284400.777619"IP="0002962857" type="high" port="1047"><OP_GLOBSEARCHREQ><tags count="3"><bool>0</bool><anon-string>d6eebccdd10bc7af0fd54b2bde09f745</anon-string><named-tag><name-type>byte</name-type><name-value>3</name-value><name-meaning>FILETYPE</name-meaning><string>Audio</string></named-tag></tags>

</OP_GLOBSEARCHREQ></opcode>

Page 20: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

10/17

Interface web

Navigation entre fichiers et pairs.

Données pré-traitées :• Qui demande/fournit un fichier donné ?

• Quels fichiers demande/fournit un pair donné ?

• Date de première observation d’un fichier ou d’un pair ?

• Quels noms pour un même fichier ?

• Quelles requêtes pour un même pair ?

• Content rating et fake detection.

• ...

Page 21: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

11/17

Analyse

Analyses simples :

• arrivée et diffusion d’un fichier

• proportion de contenu pédo vs non pédo

• âges (noms de fichiers et requêtes)

• mots-clés pédo

• content rating et fake detection

• ...

Page 22: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

12/17

Arrivée et diffusion

0

500

1000

1500

2000

2500

01 02 03 04 05 06 07 08 09 10 11

Pop

ular

ity

Weeks

x : temps (semaines)y : popularité du fichier (= nb de personnes le recherchant)

arrivée et départtypes de fichiers ?

Page 23: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

12/17

Arrivée et diffusion

0

500

1000

1500

2000

2500

01 02 03 04 05 06 07 08 09 10 11

Pop

ular

ity

Weeks

x : temps (semaines)y : popularité du fichier (= nb de personnes le recherchant)

arrivée et départtypes de fichiers ?

Page 24: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

13/17

Proportion d’activité pédo

type fichiers requêtespédo 0.11 % 0.13 %madonna 0.15 % 0.06 %porn 0.8 % 0.05 %

activité pédo sur-représentée dans les requêtes

demande > offre

Page 25: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

13/17

Proportion d’activité pédo

type fichiers requêtespédo 0.11 % 0.13 %madonna 0.15 % 0.06 %porn 0.8 % 0.05 %

activité pédo sur-représentée dans les requêtes

demande > offre

Page 26: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

14/17

Analyse – âges

0

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

2 4 6 8 10 12 14 16 18 20

queriesfilenames

x : âge sous la forme xyoy : nombre d’apparitions avec un âge ≤ x

≤ 10 ans : 40% (requêtes) et 50% (fichiers)≤ 5 ans : 15% (requêtes) et 7% (fichiers)

Page 27: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

14/17

Analyse – âges

0

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

2 4 6 8 10 12 14 16 18 20

queriesfilenames

x : âge sous la forme xyoy : nombre d’apparitions avec un âge ≤ x

≤ 10 ans : 40% (requêtes) et 50% (fichiers)≤ 5 ans : 15% (requêtes) et 7% (fichiers)

Page 28: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

15/17

Mots-clés

1e−06

1e−05

1e−04

0.001

0.01

0.1

1

1e−06 1e−05 1e−04 0.001 0.01 0.1

frequences comparees

x : fréquence d’apparition avec mots-clés pédoy : fréquence d’apparition avec porn

découverte de nouveaux mots-clés pédo ?

Page 29: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

15/17

Mots-clés

1e−06

1e−05

1e−04

0.001

0.01

0.1

1

1e−06 1e−05 1e−04 0.001 0.01 0.1

frequences comparees

x : fréquence d’apparition avec mots-clés pédoy : fréquence d’apparition avec porn

découverte de nouveaux mots-clés pédo ?

Page 30: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

16/17

Content rating et fake detection

Répondre automatiquement à :

• tel ficher a-t-il un contenu à caractère pornographique ?pédophile ?

• a-t-il un contenu significativement différent de sonnom ?

pour aider à la classification et protéger les utilisateurs.

Actuellement : basé sur les mots-clés seulement.

résultats mitigés

Page 31: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

16/17

Content rating et fake detection

Répondre automatiquement à :

• tel ficher a-t-il un contenu à caractère pornographique ?pédophile ?

• a-t-il un contenu significativement différent de sonnom ?

pour aider à la classification et protéger les utilisateurs.

Actuellement : basé sur les mots-clés seulement.

résultats mitigés

Page 32: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

16/17

Content rating et fake detection

Répondre automatiquement à :

• tel ficher a-t-il un contenu à caractère pornographique ?pédophile ?

• a-t-il un contenu significativement différent de sonnom ?

pour aider à la classification et protéger les utilisateurs.

Actuellement : basé sur les mots-clés seulement.

résultats mitigés

Page 33: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

17/17

Analyse – graphes

deux fichiers sont "reliés"si

beaucoup de pairs les fournissent tous deux

Page 34: Mesure et analyse des échanges pair-à-pair pour la lutte ...antipaedo.lip6.fr/presentation_law.pdfProjet Antipédo – LIP6 – Matthieu Latapy Contexte Positionnement Partenaires

ProjetAntipédo– LIP6 –

MatthieuLatapy

ContextePositionnement

Partenaires

ActivitésMesure

Accès

Analyse

Conclusion

18/17

Conclusion

• Le projet :

• Données massives• Analyses poussées• Exploratoire

• Premiers résultats :

• Mesures sur serveur• Analyses simples• Autres mesures/analyses en cours

• Nos attentes :

• Retour sur les résultats• Questions prioritaires• Expertise (mots-clés, fichiers intéressants, ...)