Vorlesung Data Mining Data Mining mit KXENfiedler/teaching/ws0607/dm/docs/... · Im Data Mining...

Vorlesung Data MiningData Mining mit KXEN

Überblick und Übungsvorbereitung

Gunar FiedlerCAU Kiel, Institut für InformatikArbeitsgruppe Technologie der InformationssystemeKontakt: fiedler@is.informatik.uni-kiel.de

Data Mining 2

Übersicht

• Motivationsbeispiel• Der Data-Mining-Prozess• KXEN Analytic Framework

–Komponenten–Nutzung

Data Mining 3

Motivationsbeispiel - Zensusdaten

1Female2042divorcedSome-college

Private31

1Male0separatedDoctoratePrivate25

0Female5178marriedBachelorsFederal-gov

1Female14084neverMastersPrivate38

1Male0marries-civ-spouse

HS-gradSelf-emp-not-inc

0Male2174neverBachelorsState-gov39

class…sexcaptial-gain

martial-statuseducationworkclassage

insgesamt 14 Merkmale und ca. 50.000 Beobachtungen

Data Mining 4

Motivationsbeispiel

Terminologie:

Wert Ausprägung, Wert

AttributVariable, Merkmal

TupelBeobachtung (observation)

TabelleData Set, Tabelle

im Vergleich zu Datenbankenim Data Mining

Typischerweise werden nur Daten in einer einzelnen „flachen“ Tabelle bearbeitet

Data Mining 5

Motivationsbeispiel

Typische Problemstellungen

- Kann man unbekannte Werte von Variablen aus den Werten der anderen Variablen bestimmen?

?Female5178marriedBachelorsFederal-gov

1Male14084neverMastersPrivate38

1Male0narries-civ-spouse

martial-status

educationworkclassage

Data Mining 6

Motivationsbeispiel

- Kann man unbekannte Werte von Variablen aus den Werten der anderen Variablen bestimmen? Klassifikation

?Female5178marriedBachelorsFederal-gov

martial-status

Data Mining 7

Motivationsbeispiel

- Lassen sich „ähnliche“ Beobachtungen in Gruppen einteilen? Wenn ja,was heißt in diesem Zusammenhang „ähnlich“?

martial-status

Data Mining 8

Motivationsbeispiel

- Lassen sich „ähnliche“ Beobachtungen in Gruppen einteilen? Wenn ja,was heißt in diesem Zusammenhang „ähnlich“? Clusterbildung

martial-status

Data Mining 9

Motivationsbeispiel

- Gibt es Zusammenhänge zwischen den Variablen, z.B. „martial-status = never captial-gain > 0“ ?

martial-status

Data Mining 10

Motivationsbeispiel

- Gibt es Zusammenhänge zwischen den Variablen, z.B. „martial-status = never captial-gain > 0“ ?

Assoziationsregeln

martial-status

Data Mining 11

Motivationsbeispiel

- Wie werden sich die Werte entwickeln, z.B.„Ist die Person hinter Beobachtung 4 in 5 Jahren immer noch verheiratet?“

martial-status

Data Mining 12

Motivationsbeispiel

- Wie werden sich die Werte entwickeln, z.B.„Ist die Person hinter Beobachtung 4 in 5 Jahren immer noch verheiratet?“ Zeitreihenanalysen

martial-status

Data Mining 13

Motivationsbeispiel

„Ist die Person hinter Beobachtung 4 in 5 Jahren immer noch verheiratet?“

Datenbasis „Zielaussage“

Data Mining 14

Motivationsbeispiel

„Ist die Person hinter Beobachtung 4 in 5 Jahren immer noch verheiratet?“

Datenbasis „Zielaussage“

Data Mining 15

Übersicht

Data Mining 16

Der Data-Mining-Prozess

Datenvorbereitung

Modellbildung

Modell-bereitstellung

Anwendung

Data Mining 17

Datenvorbereitung

Modellbildung

Anwendung

Data Mining 18

Datenvorbereitung

Modellbildung

Anwendung

Datenzugriff

Datenmanipulation

Datenvorbereitung

Data Mining 19

Datenaufbereitung

Modellbildung

Anwendung

Datenzugriff

Datenmanipulation

Datenvorbereitung

- physischer Zugriff (relationale Datenbank, CSV,XML, SAS, …)

Data Mining 20

Datenaufbereitung

Modellbildung

Anwendung

Datenzugriff

Datenmanipulation

Datenvorbereitung

-physischer Zugriff (relationale Datenbank, CSV,XML, SAS, …)

- Sichtenbildung

Data Mining 21

Datenaufbereitung

Modellbildung

Anwendung

Datenzugriff

Datenmanipulation

Datenvorbereitung

- Zusammenfassen von Tupelnin Beobachtungen(Aggregation)

- Zusammenführen von Datenquellen

- Schemabereinigung- irreführende Beziehungen- triviale Beziehungen

- Schema-Annotation- Datentypen- Speicherformate- Variablen-Rollen

Data Mining 22

Datenaufbereitung

Modellbildung

Anwendung

Datenzugriff

Datenmanipulation

Datenvorbereitung

- Datenbereinigung- fehlende Werte- falsche Werte- konsistente Kodierung- Normierung,

Skalentransformation

Data Mining 23

Datenaufbereitung

Modellbildung

Anwendung

Der generelle Ablauf

- Aufteilung der Daten in- Trainingsdaten- Validierungsdaten- Testdaten

Data Mining 24

Datenaufbereitung

Modellbildung

Anwendung

- Algorithmus-Auswahl

Data Mining 25

Datenaufbereitung

Modellbildung

Anwendung

- Algorithmus-Auswahl- Erstellung einer Menge von Modellen aus den

Trainingsdaten

Data Mining 26

Datenaufbereitung

Modellbildung

Anwendung

Trainingsdaten- Validierung der Modelle gegen die

Validierungsdaten und Auswahl des besten Modells

Data Mining 27

Datenaufbereitung

Modellbildung

Anwendung

Validierungsdaten und Auswahl des besten Modells- Test der „Performanz“ mit Hilfe der Testdaten und

ggf. Wiederholung des Prozesses

Data Mining 28

Datenaufbereitung

Modellbildung

Anwendung

Validierungsdaten und Auswahl des besten Modells- Test der „Performanz“ mit Hilfe der Testdaten und

ggf. Wiederholung des Prozesses

Modell?Welche Algorithmen?Performanz eines Modells?

Data Mining 29

Datenaufbereitung

Modellbildung

Anwendung

„Modelle“ im Data Mining:

Im Data Mining beschreibt ein Modell die Zusammenhänge zwischen Eingabedaten („explanatory variables“) und Ausgabedaten („target variables“). Modelle dienen der Vorhersage oder der Beschreibung von Phänomenen.

“All models are wrong but some are useful”(George E.P. Box)

Data Mining 30

Datenaufbereitung

Modellbildung

Anwendung

Einige Algorithmen(-Klassen):

-Klassifikation- Regression

Data Mining 31

Datenaufbereitung

Modellbildung

Anwendung

-Klassifikation- Regression- Entscheidungsbäume

martial-status = never

education = bachelor

class=0 class=1

Workclass = Federal-gov

class=0 class=1

Data Mining 32

Datenaufbereitung

Modellbildung

Anwendung

-Klassifikation- Regression- Entscheidungsbäume- Entscheidungsregeln

Data Mining 33

Datenaufbereitung

Modellbildung

Anwendung

-Klassifikation- Regression- Entscheidungsbäume- Entscheidungsregeln- Neuronale Netze (Perzeptrone,

Backpropagation-Netze)

Data Mining 34

Datenaufbereitung

Modellbildung

Anwendung

-Klassifikation- Regression- Entscheidungsbäume - Entscheidungsregeln- Neuronale Netze (Perzeptrone,

Backpropagation-Netze)- Clusterbildung

Data Mining 35

Datenaufbereitung

Modellbildung

Anwendung

-Klassifikation- Regression- Entscheidungsbäume (z.B. ID3, C4.5)- Entscheidungsregeln- Neuronale Netze (Perzeptrone,

Backpropagation-Netze)- Clusterbildung

- z.B. k-Means, neuronale Netze (SOMs)- Assoziationsregeln

- z.B A-priori- …

Data Mining 36

Datenaufbereitung

Modellbildung

Anwendung

Performanz eines Modells:

- Aussagekraft, d.h. gute Vorhersage bzw. Beschreibung der Zielvariablen( KXEN: Quality Indicator)

- Robustheit, d.h. gleich gute Ergebnisse auf neuen Datenmengen(KXEN: Robustness Indicator)

Data Mining 37

Datenaufbereitung

Modellbildung

Anwendung

Modellbereitstellung:

- Überprüfen der Performanz eines Modells durch Modellkurven,z.B. Gains Chart

Data Mining 38

Datenaufbereitung

Modellbildung

Anwendung

- Überprüfen der Performanz eines Modells durch Modellkurven

- Extraktion von Modellparametern- Simulation des Modells

Data Mining 39

Datenaufbereitung

Modellbildung

Anwendung

- Überprüfen der Performanz eines Modells durch Modellkurven,

- Extraktion von Modellparametern- Simulation des Modells- Generierung von Code (z.B. Klassifikatoren)

Data Mining 40

Datenaufbereitung

Modellbildung

Anwendung

Anwendung:

- Nutzung des Modells im Geschäftsbetrieb,- Kreditwürdigkeit neuer Kunden- Einblendung adaptiver Werbung- …

Data Mining 41

Übersicht

Data Mining 42

- Kommerzielle Data Mining Suite- Klassifikation auf der Basis eines

proprietären Regressionsalgorithmus- Clusterbildung- Zeitreihenanalysen- Assoziationsregeln („Warenkorbanalysen“)

Data Mining 43

Data Mining 44

Demonstration:

- „Gezielte Werbung“: Klassifikation von Personen

Vorlesung Data Mining Data Mining mit KXENfiedler/teaching/ws0607/dm/docs/... · Im Data Mining...

Documents

Transcript of Vorlesung Data Mining Data Mining mit KXENfiedler/teaching/ws0607/dm/docs/... · Im Data Mining...

Data Mining BY JEMINI ISLAM. Data Mining Outline: What is data mining? Why use data mining? How does data mining work The process of data mining Tools.

Data Mining Taylor Statistics 202: Data Mining

Data Mining Introduction to Data Mining

Data Mining - The opportunity lies with Data!Data mining

Solution VMT WS0607

September 4, 20151 Chapter 1. Introduction Motivation: Why data mining? What is data mining? Data Mining: On what kind of data? Data mining functionality.

Data Mining: What is Data Mining?

CS590D: Data Mining Chris Clifton - Purdue University · Data Mining: Classification Schemes • General functionality – Descriptive data mining – Predictive data mining ... –

Data Mining By: Thai Hoa Nguyen Pham. Data Mining Define Data Mining Classification Association Clustering.

Data Mining LECTURE # 01 Introduction to Data Mining

1 Chapter 1. Introduction Motivation: Why data mining? What is data mining? Data Mining: On what kind of data? Data mining functionality Major issues in.

RSE LectureScript WS0607

Secure Data Processing - uni-leipzig.de · PRIVACY-PRESERVING DATA MINING 12 Local Data Local Data Local Data Warehouse Data Mining Local Data Mining Local Data Mining Combiner Local

Web Mining – Data Mining im Internet Mining – Data Mining im Internet Vorlesung SS 2010 ... Web Mining is Data Mining for Data on the World-Wide Web Text Mining: Application of

Data mining and privacy preserving in data mining

Web Mining – Data Mining im Internet Mining – Data Mining im Internet Vorlesung SS 2014 ... Web Mining is Data Mining for Data on the World-Wide Web Text Mining: Application of

How to build Social Robots, WS0607 - uni-bielefeld.de...How to build Social Robots, WS0607 5 Motivation Cognitivetheories Dimensional theories Realization What makes Sonny a “special”

What is Data Mining? Data Mining Motivation Data Mining Applications Applications of Data Mining in CRM Data Mining Taxonomy Data Mining Techniques.

Data Mining vs. Statistics Pavel Brusilovsky. 2 Objectives 2 Intro to Data Mining Data Mining vs. Statistics Data Mining vs. Text Mining Applications.

Visual Data Mining: An Overview What is Visual Data Mining? Survey of techniques Data Visualization Visualizing Data Mining Results Visual Data Mining.