Vorlesung Data Mining Data Mining mit KXENfiedler/teaching/ws0607/dm/docs/... · Im Data Mining...

Vorlesung Data MiningData Mining mit KXEN

Überblick und Übungsvorbereitung

Gunar FiedlerCAU Kiel, Institut für InformatikArbeitsgruppe Technologie der InformationssystemeKontakt: [email protected]

Data Mining 2

Übersicht

• Motivationsbeispiel• Der Data-Mining-Prozess• KXEN Analytic Framework

–Komponenten–Nutzung

Data Mining 3

Motivationsbeispiel - Zensusdaten

…

1Female2042divorcedSome-college

Private31

1Male0separatedDoctoratePrivate25

0Female5178marriedBachelorsFederal-gov

40

1Female14084neverMastersPrivate38

1Male0marries-civ-spouse

HS-gradSelf-emp-not-inc

50

0Male2174neverBachelorsState-gov39

class…sexcaptial-gain

martial-statuseducationworkclassage

insgesamt 14 Merkmale und ca. 50.000 Beobachtungen

Data Mining 4

Motivationsbeispiel

Terminologie:

Wert Ausprägung, Wert

AttributVariable, Merkmal

TupelBeobachtung (observation)

TabelleData Set, Tabelle

im Vergleich zu Datenbankenim Data Mining

Typischerweise werden nur Daten in einer einzelnen „flachen“ Tabelle bearbeitet

Data Mining 5

Motivationsbeispiel

Typische Problemstellungen

- Kann man unbekannte Werte von Variablen aus den Werten der anderen Variablen bestimmen?

?Female5178marriedBachelorsFederal-gov

40

1Male14084neverMastersPrivate38

1Male0narries-civ-spouse


50



martial-status

educationworkclassage

Data Mining 6

Motivationsbeispiel


- Kann man unbekannte Werte von Variablen aus den Werten der anderen Variablen bestimmen? Klassifikation

?Female5178marriedBachelorsFederal-gov

40




50



martial-status


Data Mining 7

Motivationsbeispiel


- Lassen sich „ähnliche“ Beobachtungen in Gruppen einteilen? Wenn ja,was heißt in diesem Zusammenhang „ähnlich“?


40




50



martial-status


Data Mining 8

Motivationsbeispiel


- Lassen sich „ähnliche“ Beobachtungen in Gruppen einteilen? Wenn ja,was heißt in diesem Zusammenhang „ähnlich“? Clusterbildung


40




50



martial-status


Data Mining 9

Motivationsbeispiel


- Gibt es Zusammenhänge zwischen den Variablen, z.B. „martial-status = never captial-gain > 0“ ?


40




50



martial-status


Data Mining 10

Motivationsbeispiel


- Gibt es Zusammenhänge zwischen den Variablen, z.B. „martial-status = never captial-gain > 0“ ?

Assoziationsregeln


40




50



martial-status


Data Mining 11

Motivationsbeispiel


- Wie werden sich die Werte entwickeln, z.B.„Ist die Person hinter Beobachtung 4 in 5 Jahren immer noch verheiratet?“


40




50



martial-status


Data Mining 12

Motivationsbeispiel


- Wie werden sich die Werte entwickeln, z.B.„Ist die Person hinter Beobachtung 4 in 5 Jahren immer noch verheiratet?“ Zeitreihenanalysen


40




50



martial-status


Data Mining 13

Motivationsbeispiel

„Ist die Person hinter Beobachtung 4 in 5 Jahren immer noch verheiratet?“

Datenbasis „Zielaussage“

Data Mining 14

Motivationsbeispiel

„Ist die Person hinter Beobachtung 4 in 5 Jahren immer noch verheiratet?“

?

Datenbasis „Zielaussage“

Data Mining 15

Übersicht



Data Mining 16

Der Data-Mining-Prozess

Datenvorbereitung

Modellbildung

Modell-bereitstellung

Anwendung

Data Mining 17


Datenvorbereitung

Modellbildung


Anwendung

Data Mining 18


Datenvorbereitung

Modellbildung


Anwendung

Datenzugriff

Datenmanipulation

Datenvorbereitung

Data Mining 19


Datenaufbereitung

Modellbildung


Anwendung

Datenzugriff

Datenmanipulation

Datenvorbereitung

- physischer Zugriff (relationale Datenbank, CSV,XML, SAS, …)

ODBC

Data Mining 20


Datenaufbereitung

Modellbildung


Anwendung

Datenzugriff

Datenmanipulation

Datenvorbereitung

-physischer Zugriff (relationale Datenbank, CSV,XML, SAS, …)

- Sichtenbildung

ODBC

Data Mining 21


Datenaufbereitung

Modellbildung


Anwendung

Datenzugriff

Datenmanipulation

Datenvorbereitung

- Zusammenfassen von Tupelnin Beobachtungen(Aggregation)

- Zusammenführen von Datenquellen

- Schemabereinigung- irreführende Beziehungen- triviale Beziehungen

- Schema-Annotation- Datentypen- Speicherformate- Variablen-Rollen

Data Mining 22


Datenaufbereitung

Modellbildung


Anwendung

Datenzugriff

Datenmanipulation

Datenvorbereitung

- Datenbereinigung- fehlende Werte- falsche Werte- konsistente Kodierung- Normierung,

Skalentransformation

Data Mining 23


Datenaufbereitung

Modellbildung


Anwendung

Der generelle Ablauf

- Aufteilung der Daten in- Trainingsdaten- Validierungsdaten- Testdaten

Data Mining 24


Datenaufbereitung

Modellbildung


Anwendung



- Algorithmus-Auswahl

Data Mining 25


Datenaufbereitung

Modellbildung


Anwendung



- Algorithmus-Auswahl- Erstellung einer Menge von Modellen aus den

Trainingsdaten

Data Mining 26


Datenaufbereitung

Modellbildung


Anwendung




Trainingsdaten- Validierung der Modelle gegen die

Validierungsdaten und Auswahl des besten Modells

Data Mining 27


Datenaufbereitung

Modellbildung


Anwendung





Validierungsdaten und Auswahl des besten Modells- Test der „Performanz“ mit Hilfe der Testdaten und

ggf. Wiederholung des Prozesses

Data Mining 28


Datenaufbereitung

Modellbildung


Anwendung





Validierungsdaten und Auswahl des besten Modells- Test der „Performanz“ mit Hilfe der Testdaten und

ggf. Wiederholung des Prozesses

Modell?Welche Algorithmen?Performanz eines Modells?

Data Mining 29


Datenaufbereitung

Modellbildung


Anwendung

„Modelle“ im Data Mining:

Im Data Mining beschreibt ein Modell die Zusammenhänge zwischen Eingabedaten („explanatory variables“) und Ausgabedaten („target variables“). Modelle dienen der Vorhersage oder der Beschreibung von Phänomenen.

“All models are wrong but some are useful”(George E.P. Box)

Data Mining 30


Datenaufbereitung

Modellbildung


Anwendung

Einige Algorithmen(-Klassen):

-Klassifikation- Regression

Data Mining 31


Datenaufbereitung

Modellbildung


Anwendung


-Klassifikation- Regression- Entscheidungsbäume

martial-status = never

education = bachelor

j

j n

class=0 class=1

Workclass = Federal-gov

n

class=0 class=1

j n

Data Mining 32


Datenaufbereitung

Modellbildung


Anwendung


-Klassifikation- Regression- Entscheidungsbäume- Entscheidungsregeln

Data Mining 33


Datenaufbereitung

Modellbildung


Anwendung


-Klassifikation- Regression- Entscheidungsbäume- Entscheidungsregeln- Neuronale Netze (Perzeptrone,

Backpropagation-Netze)

Data Mining 34


Datenaufbereitung

Modellbildung


Anwendung


-Klassifikation- Regression- Entscheidungsbäume - Entscheidungsregeln- Neuronale Netze (Perzeptrone,

Backpropagation-Netze)- Clusterbildung

Data Mining 35


Datenaufbereitung

Modellbildung


Anwendung


-Klassifikation- Regression- Entscheidungsbäume (z.B. ID3, C4.5)- Entscheidungsregeln- Neuronale Netze (Perzeptrone,

Backpropagation-Netze)- Clusterbildung

- z.B. k-Means, neuronale Netze (SOMs)- Assoziationsregeln

- z.B A-priori- …

Data Mining 36


Datenaufbereitung

Modellbildung


Anwendung

Performanz eines Modells:

- Aussagekraft, d.h. gute Vorhersage bzw. Beschreibung der Zielvariablen( KXEN: Quality Indicator)

- Robustheit, d.h. gleich gute Ergebnisse auf neuen Datenmengen(KXEN: Robustness Indicator)

Data Mining 37


Datenaufbereitung

Modellbildung


Anwendung

Modellbereitstellung:

- Überprüfen der Performanz eines Modells durch Modellkurven,z.B. Gains Chart

Data Mining 38


Datenaufbereitung

Modellbildung


Anwendung


- Überprüfen der Performanz eines Modells durch Modellkurven

- Extraktion von Modellparametern- Simulation des Modells

Data Mining 39


Datenaufbereitung

Modellbildung


Anwendung


- Überprüfen der Performanz eines Modells durch Modellkurven,

- Extraktion von Modellparametern- Simulation des Modells- Generierung von Code (z.B. Klassifikatoren)

Data Mining 40


Datenaufbereitung

Modellbildung


Anwendung

Anwendung:

- Nutzung des Modells im Geschäftsbetrieb,- Kreditwürdigkeit neuer Kunden- Einblendung adaptiver Werbung- …

Data Mining 41

Übersicht



Data Mining 42

KXEN

- Kommerzielle Data Mining Suite- Klassifikation auf der Basis eines

proprietären Regressionsalgorithmus- Clusterbildung- Zeitreihenanalysen- Assoziationsregeln („Warenkorbanalysen“)

Data Mining 43

KXEN

Data Mining 44

KXEN

Demonstration:

- „Gezielte Werbung“: Klassifikation von Personen

Vorlesung Data Mining Data Mining mit KXENfiedler/teaching/ws0607/dm/docs/... · Im Data Mining...

Documents

Transcript of Vorlesung Data Mining Data Mining mit KXENfiedler/teaching/ws0607/dm/docs/... · Im Data Mining...