Statistical Learning - University of...
29
Statistical Learning • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • Trevor Hastie and Robert Tibshirani
Transcript of Statistical Learning - University of...
Statistical Learning
•
• •
•••
•••
•
••
•
•
•
•
•
• •
•
•
•
•
•
•
•
•
••
•
•
••
• • ••
•
•
•
•
•••
•
•
•
•
•
•
•
••
•
•
•
•
••
•
•
•
••
•
••
•
•• •
•
•
•
Trevor Hastie and Robert Tibshirani
Statistics in the news
How IBM built Watson, its Jeopardy-playingsupercomputer by Dawn Kawamoto DailyFinance02/08/2011
Learning from its mis-takes According to DavidFerrucci (PI of WatsonDeepQA technology forIBM Research), Watson’ssoftware is wired for morethat handling natural lan-guage processing.
“It’s machine learning allows the computer to become smarteras it tries to answer questions — and to learn as it gets themright or wrong.”
2 / 29
Enlarge This Image
Thor Swift for The New York Times
Carrie Grimes, senior staff engineer at
Google, uses statistical analysis of
data to help improve the company's
search engine.
Multimedia
For Today’s Graduate, Just One Word: StatisticsBy STEVE LOHR
Published: August 5, 2009
MOUNTAIN VIEW, Calif. — At Harvard, Carrie Grimes majored in
anthropology and archaeology and ventured to places like Honduras,
where she studied Mayan settlement patterns by mapping where
artifacts were found. But she was drawn to what she calls “all the
computer and math stuff” that was part of the job.
“People think of field archaeology as
Indiana Jones, but much of what you
really do is data analysis,” she said.
Now Ms. Grimes does a different kind
of digging. She works at Google,
where she uses statistical analysis of mounds of data to
come up with ways to improve its search engine.
Ms. Grimes is an Internet-age statistician, one of many
who are changing the image of the profession as a place for
dronish number nerds. They are finding themselves
increasingly in demand — and even cool.
“I keep saying that the sexy job in the next 10 years will be
statisticians,” said Hal Varian, chief economist at Google.
“And I’m not kidding.”
Next Article in Technology (1 of 20) »
Subscribe to Technology RSS Feeds
SIGN IN TO
RECOMMEND
SIGN IN TO
REPRINTS
SHARE Quote of the Day,New York Times,August 5, 2009”I keep saying that thesexy job in the next 10years will be statisticians.And I’m not kidding.”— HAL VARIAN, chiefeconomist at Google.
3 / 29
���
4 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
5 / 29
lpsa
−1 1 2 3 4
oo oooo ooo ooo ooooo oo o o oo oo ooo o ooo ooo ooo ooo oo ooo oo ooo oo o ooooo oo o oooo ooo o ooo o ooo oooo oooo ooo oo ooo o
ooo
o oo ooo oooo oooo oo ooo ooooo oo ooo o ooo oo ooo ooo ooooo oooo o oo oo oo o oo ooo oo ooo o ooo oo oo ooo oo o oooo oo oo oo ooo o o
40 50 60 70 80
o o oooo ooo oooo oo o ooo oooo o oooooooo oo oo oo oo o ooo oo ooo oooo oo ooo oo oo oooo o oooo ooo oo o ooooo ooo oo oo ooo oo
o oo
oooooo o oooo ooooo ooo oo oo o ooo ooo ooooo ooo oooo oo oo ooo oo oooo oo oo o ooo oo o o oo oo oo oo o oooo ooo o oo ooo oo oooo oo
0.0 0.4 0.8
oooooooooooooooooooooooooooooooooooooo oooooooo ooooooooooooooo oo ooooooo oo oooooo oooo ooo oo oooo oo
oooo
oooooooooooo oo oo o oooo oo ooo oo o ooooo oo oo oooo o ooo ooo ooo o ooo ooooo oo oo o ooo o oo o o o ooo ooo oo oo oo o oooo o o
oo o
6.0 7.0 8.0 9.0
oo oooooooooo oooo ooooo oo ooo ooooooooo o oooo ooo ooo oooo oo oooooo ooo o ooo oooo oooo oooooooooo oooo oooo oo
oooo
−1
12
34
oooo
o
o
oo
o
oo
o
oooo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
oo
oo
o
o
oooo
ooo
o
ooooo
o
o
o
oooooo
ooooooo
o
ooooo
oo
oooo
o
ooo
o
o
oo
o
o
ooo
o
ooo
lcavolo
oo
o
o
o
oo
o
o o
o
oo oo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
oo
oo
o
o
ooo
o
ooo
o
ooo o
o
o
o
o
ooo oo
o
oo
ooooo
o
oo
o oo
oo
ooo o
o
o oo
o
o
oo
o
o
oo o
o
o oo
oo
oo
o
o
oo
o
oo
o
o oo o
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
o o
o o
o
o
o oo
o
o oo
o
oo
ooo
o
o
o
ooo o
oo
oo
ooo
o o
o
oo
ooo
oo
oooo
o
o oo
o
o
o o
o
o
oo o
o
o oo
oooo
o
o
o o
o
oo
o
oooo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
oo
oo
o
o
ooo
o
o oo
o
oo
ooo
o
o
o
oooo
oo
oo
ooo
o o
o
oo
ooo
o o
oooo
o
oo o
o
o
oo
o
o
ooo
o
o oo
oooo
o
o
oo
o
oo
o
oooo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
oo
oo
o
o
oooo
ooo
o
ooooo
o
o
o
oooooo
oo
ooooo
o
oo
o oo
oo
oo oo
o
o oo
o
o
o o
o
o
ooo
o
ooo
oooo
o
o
oo
o
oo
o
oo oo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
o o
o o
o
o
ooo
o
ooo
o
oo
ooo
o
o
o
o ooooo
oo
ooo
oo
o
oo
o oo
o o
oo oo
o
oo o
o
o
o o
o
o
oo o
o
ooo
oo
oo
o
o
oo
o
oo
o
oooo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
oo
o o
o
o
o oo
o
ooo
o
ooo oo
o
o
o
ooo o
oo
oo
ooooo
o
oooo
o
oo
oooo
o
oo o
o
o
o o
o
o
ooo
o
ooo
o
o
o
o oooooooo
oo
oo
ooo
oooooo
o
oo
oo
oo
ooo
o
o
o
o
oo
ooo
oo
oo
oo
oo
o
o
o
o
o
o
oo
o
ooooooooo
oo
o
o
o
o
oo
oo
oo
oooooo
o
oo
ooo
ooo
o
o
o
o oo
oooooo
oo
oo
o oo
oo oo o
o
o
oo
oo
oo
ooo
o
o
o
o
oo
oo o
oo
oo
oo
oo
o
o
o
o
o
o
oo
o
oo
oo
o oo
oo
oo
o
o
o
o
o o
oo
oo
oooo
oo
o
oo
oo o
oo
o
lweighto
o
o
o oo
oooooo
o o
oo
ooo
oooo o
o
o
oo
oo
oo
oo o
o
o
o
o
o o
ooo
oo
oo
o o
oo
o
o
o
o
o
o
oo
o
oo
oo
o oo
oo
oo
o
o
o
o
o o
oo
oo
oooo
oo
o
oo
ooo
ooo
o
o
o
oooo oo
oo o
oo
oo
ooo
oo oo o
o
o
o o
oo
oo
ooo
o
o
o
o
oo
ooo
oo
oo
o o
oo
o
o
o
o
o
o
oo
o
oo
oo
o oo
oo
oo
o
o
o
o
oo
oo
oo
o o oo
oo
o
oo
ooo
oo
o
o
o
o
ooooooooo
oo
oo
ooo
oooooo
o
oo
oo
oo
ooo
o
o
o
o
oo
ooo
oo
oo
oo
oo
o
o
o
o
o
o
oo
o
oo
ooooooo
oo
o
o
o
o
oo
oo
oo
oooo
oo
o
oo
ooo
ooo
o
o
o
ooooooooo
oo
oo
o oo
oo oo oo
o
oo
oo
oo
oo o
o
o
o
o
oo
oo o
oo
oo
o o
oo
o
o
o
o
o
o
oo
o
oo
oo
o oo
oo
oo
o
o
o
o
oo
oo
oo
o ooo
oo
o
oo
oo o
oo
o
o
o
o
ooooooooo
oo
oo
ooo
oo oo oo
o
oo
oo
oo
ooo
o
o
o
o
o o
oo o
oo
oo
oo
oo
o
o
o
o
o
o
oo
o
oo
oo
ooo
oo
oo
o
o
o
o
oo
oo
oo
o ooo
oo
o
oo
ooo
ooo
4050
6070
80
o
o
o
oo
o
oo
o
ooooo
o
ooo
o
o
ooooooooooooo
o
oo
o
oo
oo
ooooo
o
o
o
ooooo
o
o
oo
o
o
o
o
oooo
oooo
o
o
o
o
oooo
ooo
o
o
oooooo
o
o
o
o
o
o
oo
o
o
o
oo
o
oo
o
ooo oo
o
oo
o
o
o
o ooo
o ooo o ooo
o
o
o o
o
oo
oo
oo o
oo
o
o
o
oooo
o
o
o
oo
o
o
o
o
ooo
o
oo
oo
o
o
o
o
ooo
o
oo
o
o
o
oo
oo
oo
o
o
o
o
o
o
o o
o
o
o
oo
o
oo
o
o oooo
o
ooo
o
o
oooo
ooooo o oo
o
o
o o
o
oo
oo
ooo
oo
o
o
o
o ooo
o
o
o
o o
o
o
o
o
ooo
o
oo
oo
o
o
o
o
oooo
oo
o
o
o
oo
oo
oo
o
o
o
o
o
o
o o
ageo
o
o
oo
o
oo
o
oo ooo
o
oo
o
o
o
o ooo
ooo ooo oo
o
o
o o
o
oo
oo
oooo
o
o
o
o
oooo
o
o
o
o o
o
o
o
o
ooo
o
oo
oo
o
o
o
o
o ooo
oo
o
o
o
oo
oo
oo
o
o
o
o
o
o
oo
o
o
o
oo
o
oo
o
ooooo
o
ooo
o
o
ooooooooooooo
o
oo
o
oo
oo
ooooo
o
o
o
ooooo
o
o
oo
o
o
o
o
ooo
o
oooo
o
o
o
o
oooo
ooo
o
o
oo
oo
oo
o
o
o
o
o
o
oo
o
o
o
oo
o
oo
o
ooo oo
o
oo
o
o
o
o ooo
oooo o ooo
o
o
oo
o
oo
oo
oo oo
o
o
o
o
ooo o
o
o
o
oo
o
o
o
o
ooo
o
oo
oo
o
o
o
o
o oo
o
oo
o
o
o
oo
oo
oo
o
o
o
o
o
o
o o
o
o
o
oo
o
oo
o
ooo oo
o
oo
o
o
o
o ooo
oooooooo
o
o
o o
o
oo
oo
oo o
oo
o
o
o
o oo o
o
o
o
oo
o
o
o
o
oooo
oo
oo
o
o
o
o
oooo
ooo
o
o
ooo
ooo
o
o
o
o
o
o
oo
oooo oo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
oo oo oo
o
o
o oo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
oo
o
oo
o
o
o
oo
o o
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
ooo
o
o
o
o
o
o
o
o
o o
oo
o o
o
oo
o
o
o o
o
o
o
o oo
o
o
o oo ooo
o
o
oo o
o
oo oo
o
oo
o
o
o
o
o
o
o
o
o
o
o
oo
o
oo
o
o
o
oo
o o
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
o o
o o
o
oo
o
o
o o
o
o
o
ooo
o
o
o o oo oo
o
o
o oo
o
o oo o
o
oo
o
o
o
o
o
o
o
o
o
o
o
oo
o
o o
o
o
o
oo
o o
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
o o
oo
oo
o
oo
o
o
oo
o
o
o
oo o
o
o lbph
oooooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
oooooo
o
o
ooo
o
oo oo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
o o
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
oo
o o
o
oo
o
o
o o
o
o
o
o oo
o
o
oo oooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
0.0
0.4
0.8
oooo oooooooooooooooooooooooooooooooooo
o
ooooooo
o
oooooooooooooo
o
o
o
oooooo
o
o
oooo
oo
o
ooo
o
oo
o
o
ooo
o
oooooo
oo oo oo ooo ooo ooooo oo o o oo oo ooo o ooo ooo ooo
o
oo oo ooo
o
o ooo oo o ooooo oo
o
o
o
oo ooo o
o
o
o o oo
o o
o
oo o
o
oo
o
o
o oo
o
oo ooo o
o oo ooo oooo oooo oo ooo ooooo oo ooo o ooo oo ooo
o
oo ooooo
o
ooo o oo oo oo o oo o
o
o
o
o ooo o o
o
o
oo oo
oo
o
oo o
o
oo
o
o
o oo
o
o ooo o o
o o oo oo ooo oooo oo o ooo oooo o oooooooo oo oo oo
o
o o ooo oo
o
oo oooo oo ooo oo o
o
o
o
oo o ooo
o
o
oo oo
o o
o
ooo
o
oo
o
o
oo o
o
o oo o oo
oooooo o oooo ooooo ooo oo oo o ooo ooo ooooo ooo
o
ooo oo oo
o
oo oo oooo oo oo o o
o
o
o
o o o oo o
o
o
o oo o
oo
o
o oo
o
o o
o
o
oo o
o
oooo oo
svi
oooooooooooo oo oo o oooo oo ooo oo o ooooo oo oo
o
ooo o ooo
o
oo ooo o ooo ooooo
o
o
o
o o ooo o
o
o
o o o o
oo
o
oo o
o
oo
o
o
o oo
o
o o ooo o
oo oooooooooo oooo ooooo oo ooo ooooooooo o oo
o
o ooo ooo
o
ooo oo oooooo ooo
o
o
o
o oooo o
o
o
o ooo
oo
o
ooo
o
oo
o
o
ooo
o
oooooo
oooo oooooooo
o
o
o
o
o
o
ooo
o
o
o
oooo
o
o
oooooo
o
o
o
o
oo
o
o
o
o
o
o
oooo
o
o
oo
o
oooo
ooo
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
o
oo
o
o
oo oo oo ooo ooo
o
o
o
o
o
o
o o o
o
o
o
o oo
o
o
o
oo oo
oo
o
o
o
o
o o
o
o
o
o
o
o
ooo o
o
o
oo
o
oo oo
oo
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
o
oo
o
o
o oo ooo oooo oo
o
o
o
o
o
o
o oo
o
o
o
oooo
o
o
ooo o
oo
o
o
o
o
o o
o
o
o
o
o
o
oo
o o
o
o
o o
o
o oo o
oo
o
o
o
o
o
oo
o
o
o
oo
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
o
oo
o
o
o o oo oo ooo ooo
o
o
o
o
o
o
o oo
o
o
o
oooo
o
o
oo oo
oo
o
o
o
o
o o
o
o
o
o
o
o
oo
oo
o
o
o o
o
o oo o
oo
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
o
o o
o
o
oooooo o oooo o
o
o
o
o
o
o
o oo
o
o
o
ooo
o
o
o
oooo
oo
o
o
o
o
oo
o
o
o
o
o
o
oo
o o
o
o
o o
o
oo o o
oo
o
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o o
o
o
o
o
o
o
o
o
o
o o
o
oo
o
o
oooooooooooo
o
o
o
o
o
o
ooo
o
o
o
oooo
o
o
oooooo
o
o
o
o
oo
o
o
o
o
o
o
oooo
o
o
oo
o
oooo
oo
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o o
o
oo
o
o
lcp
oo oooooooooo
o
o
o
o
o
o
ooo
o
o
o
oooo
o
o
ooooo
o
o
o
o
o
oo
o
o
o
o
o
o
oo
oo
o
o
oo
o
o ooo
oo
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o o
o
oo
o
o
6.0
7.0
8.0
9.0
oo
o
o oooooooo
ooo
o
o
oooo
o
o
o
oo
ooo
oooooo
o
o
ooo
o
o
o
ooo
o
o
oo
o
o
ooooo
o
oo
o
o
o
o
o
ooo
o
oooo
o
ooooooooo
o
oo
o
ooo
o
oooooo
oo
o
o oo ooo ooo
ooo
o
o
oo o o
o
o
o
o o
oo o
ooo ooo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
o o ooo
o
o o
o
o
o
o
o
o oo
o
o ooo
o
ooo oooo oo
o
o o
o
o oo
o
oo ooo o
o o
o
ooo oooo oo
oo o
o
o
oo oo
o
o
o
oo
ooo
o ooo oo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
o oo oo
o
oo
o
o
o
o
o
ooo
o
ooo o
o
oo ooo oo o o
o
oo
o
o oo
o
o ooo o o
o o
o
o oo ooo ooo
o oo
o
o
oo oo
o
o
o
oo
ooo
ooo oo o
o
o
o oo
o
o
o
o oo
o
o
o o
o
o
o oo oo
o
oo
o
o
o
o
o
o o o
o
oo oo
o
oo o ooooo o
o
o o
o
oo o
o
o oo o oo
oo
o
ooo o oooo o
ooo
o
o
oo oo
o
o
o
oo
o oo
o ooooo
o
o
o oo
o
o
o
o oo
o
o
o o
o
o
ooo oo
o
o o
o
o
o
o
o
o o o
o
oo oo
o
o o oooo ooo
o
oo
o
oo o
o
oooo oo
oo
o
ooooooooo
ooo
o
o
oooo
o
o
o
oo
ooo
oooooo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
ooooo
o
oo
o
o
o
o
o
ooo
o
o oo o
o
oooo oooo o
o
o o
o
ooo
o
oooooo
oo
o
ooooooooo
oo o
o
o
oooo
o
o
o
oo
oo o
ooooo o
o
o
o oo
o
o
o
ooo
o
o
o o
o
o
o ooo o
o
oo
o
o
o
o
o
o oo
o
o oo o
o
o ooo ooo oo
o
o o
o
o oo
o
o o ooo ogleason
0 1 2 3 4 5
oo
o
o oooooooo
o
ooo
o
oooo
o
o
o
oo
o
o
o
ooooooooo
o
o
o
ooooo
o
o
oo
o
o
o
o
oooo
o
o
o
o
o
o
o
o
o
ooo
o
oo
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
oo
o
o oo ooo ooo
o
ooo
o
oo o o
o
o
o
o o
o
o
o
ooo ooo ooo
o
o
o
oo o
oo
o
o
oo
o
o
o
o
oo
oo
o
o
o
o
o
o
o
o
o
oo o
o
oo
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
2.5 3.5 4.5
o o
o
ooo oooo oo
o
o oo
o
oo oo
o
o
o
oo
o
o
o
o ooo oo ooo
o
o
o
ooo
oo
o
o
oo
o
o
o
o
oo
o o
o
o
o
o
o
o
o
o
o
oo o
o
o o
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
o o
o
o oo ooo ooo
o
oo o
o
oo oo
o
o
o
oo
o
o
o
ooo oo oooo
o
o
o
ooo
oo
o
o
o o
o
o
o
o
oo
oo
o
o
o
o
o
o
o
o
o
ooo
o
oo
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
−1 0 1 2
oo
o
ooo o oooo o
o
ooo
o
oo oo
o
o
o
oo
o
o
o
o ooooo ooo
o
o
o
ooooo
o
o
o o
o
o
o
o
oo
o o
o
o
o
o
o
o
o
o
o
oo o
o
oo
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
oo
o
ooooooooo
o
ooo
o
oooo
o
o
o
oo
o
o
o
ooooooooo
o
o
o
ooooo
o
o
oo
o
o
o
o
oooo
o
o
o
o
o
o
o
o
o
ooo
o
o o
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
−1 0 1 2 3
oo
o
ooooooooo
o
o oo
o
oooo
o
o
o
oo
o
o
o
ooooo oooo
o
o
o
oo ooo
o
o
o o
o
o
o
o
oo
oo
o
o
o
o
o
o
o
o
o
oo o
o
o o
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
oo
o
ooooooooo
o
ooo
o
oooo
o
o
o
oo
o
o
o
oooooo ooo
o
o
o
oo o
oo
o
o
oo
o
o
o
o
oooo
o
o
o
o
o
o
o
o
o
oo o
o
oo
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
6 / 29
lpsa
-1 1 3
oooooo ooo ooo ooooo oo o o oo oo ooo o ooo ooo ooo ooo oo ooo oo ooo oo o ooooooo o oooo ooo o ooo o ooooooo oooo ooo oo ooo
oooo
o oo ooooooooooo oo ooo ooooooo oooo o oooo ooo ooo ooooo oooo ooo oo oo o oo oooooooooooo oo oo oooooo oooooo
oo oooo
ooo
40 60 80
o o oooo ooo oooooo oooo ooooo oooooooo oo oo ooooo ooo oo ooo oooooo ooo oo oo oooo ooooo ooo ooo ooooo ooooooo ooo oo
o oo
oooooo o oooo ooooo ooo oo oo o ooo ooo ooooo ooo oooo oo oo ooo oo oooo oo oo o ooo oo o o oo oo oo oo o oooo ooo o oo ooo oo oooo oo
0.0 0.4 0.8
oooooooooooooooooooooooooooooooooooooo
oooooooo ooooooooooooooo oo ooooooo oo oooooo oooo ooo oo oooo oooooo
oooooooooooo oo oo o oooo oo ooo oo o ooooo oo oo oooo o ooo ooo ooo o ooo ooooo oo oo o ooo o oo o o o ooo ooo oo oo oo o oooo o o
oo o
6.0 7.5 9.0
oo oooooooooo oooo ooooo oo ooo ooooooooo o oooo ooo ooo oooo oo oooooo ooo o ooo oooo oooo oooooooooo oooo oooo oo
oooo
012345
oo oooooooooo oooo ooooo oo ooo oo oooooooooo oo oooo oo oooo oo oooooo o oo o ooo o oooo ooo oo ooo ooo oo oo oo o o oo o ooo oo
-10
12
34
oooo
o
o
oo
o
oo
o
oooo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
oo
oo
o
o
oooo
ooo
o
ooooo
o
o
o
oooooo
ooooooo
o
ooooo
oo
oooo
o
ooo
o
o
oo
o
o
ooo
o
ooo
lcavol
oo
oo
o
o
oo
o
oo
o
oo oo
o
o
oo
o
o
o
o
o
o
o
o
o
o
o o
o
oo
oo
o
o
oooo
ooo
o
ooo oo
o
o
o
ooo ooo
ooooooo
o
ooo oo
oo
oooo
o
o oo
o
o
oo
o
o
ooo
o
ooo
oo
oo
o
o
oo
o
oo
o
ooo o
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
o o
o o
o
o
ooo
o
o oo
o
oo
ooo
o
o
o
ooo o
oo
oo
ooooo
o
oo
ooo
oo
oooo
o
o oo
o
o
oo
o
o
oo o
o
o oo
oooo
o
o
o o
o
oo
o
oooo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
oo
oo
o
o
ooo
o
o oo
o
oo
ooo
o
o
o
ooooo
o
oo
oooo o
o
oo
ooo
o o
oooo
o
oo o
o
o
oo
o
o
ooo
o
o oo
oooo
o
o
oo
o
oo
o
oooo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
oo
oo
o
o
oooo
ooo
o
ooooo
o
o
o
oooooo
oo
ooooo
o
oo
o oo
oo
oo oo
o
o oo
o
o
o o
o
o
ooo
o
ooo
oooo
o
o
oo
o
oo
o
oo oo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
o o
o o
o
o
ooo
o
ooo
o
oooo
o
o
o
o
o ooooo
oooo
ooo
o
oo
o oo
o o
oo oo
o
oo o
o
o
o o
o
o
oo o
o
ooo
oo
oo
o
o
oo
o
oo
o
oooo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
oo
o o
o
o
o oo
o
ooo
o
ooo oo
o
o
o
ooo o
oo
oo
ooooo
o
oooo
o
oo
oooo
o
oo o
o
o
o o
o
o
ooo
o
ooo
oo
oo
o
o
oo
o
oo
o
oooo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
o
oo
oo
o
o
o oo
o
o oo
o
ooo oo
o
o
o
ooo o
oo
oo
ooo
oo
o
oo
ooo
o o
oo oo
o
oo o
o
o
o o
o
o
oo o
o
o oo
oooooooooooooooooooooooooooo
oo
o
o
ooo
oo
o
o
oooooooooooooooo
o
o
ooo
o
ooooooooo
oooooo
oo
oo
oooooooo
o
oooooooo
ooo
o oo oooooo
oooo
o oooo oo ooo
oo
o o
o
o
ooo
oo
o
o
oooo ooo
oooo
o oo
oo
o
o
ooo
o
o oooo oo
oo
oooo
oo
oo
oo
ooooo oo
o
o
oo
oo ooo o
lweight
oo
oooo oooooooo
oooooo
oooooooo
oo
o
o
oo o
oo
o
o
ooooooo
ooo o
oooo
o
o
o
oo
o
o
o oooo oooo
o oo
ooo
o o
oo
oo
oooooo
o
oo
o ooo
oo
oooooo o oooo ooooo
ooo
oo oo o o
oo o
oo
o
o
ooo
oo
o
o
ooo oo
oooo
o oo o
oo
o
o
o
oo
o
o
ooo
o o o oo
o
o oo
oo
o
oo
oo
oo
o o oo oo
o
oo
oooo
oo
oooooooooooooooooooooooooooo
oo
o
o
ooo
oo
o
o
ooooooo
ooooooooo
o
o
ooo
o
ooo
oooooo
oooooo
oo
oo
oo
ooo ooo
o
oo
oooooo
ooooooooooooooo
oo o
ooo oo ooooo
o o
o
o
oo o
oo
o
o
ooo o o
oooo
o ooo
oo
o
o
o
ooo
o
ooo
o o oooo
ooo
ooo
oo
oo
oo
o oo ooo
o
ooo o o
oo o
oo
oooooooooo
ooo
ooo
ooo oo ooo
oo
oo
o
o
ooo
oo
o
o
o ooo ooo
oooo
ooooo
o
o
ooo
o
o oo
o oooo
o
ooo
ooo
oo
oo
ooo ooooo
o
oo
oooooo
34
56
oo
oooooooooo
oooo
ooooo oo ooo
oo
oo
o
o
ooo
oo
o
o
o oooooo
oooo
ooo
oo
o
o
oo
o
o
o oo
o o oooo
ooo
oo
o
oo
oo
oo
o oo ooo
o
ooo ooo
oo
4050
60
70
80
o
o
o
oo
o
oo
o
ooooo
o
ooo
o
o
ooooooooooooo
o
oo
o
oo
oo
ooooo
o
o
o
ooooo
o
o
oo
o
o
o
o
oooo
oooo
o
o
o
o
oooo
ooo
o
o
oooooo
o
o
o
o
o
o
oo
o
o
o
oo
o
oo
o
ooo oo
o
oo
o
o
o
o ooo
o ooo o oooo
o
o o
o
oo
oo
oo ooo
o
o
o
ooooo
o
o
oo
o
o
o
o
ooo
o
oo
oo
o
o
o
o
oooo
oo
o
o
o
oo
ooo
o
o
o
o
o
o
o
o o
o
o
o
oo
o
oo
o
ooooo
o
ooo
o
o
oooooooooo o o
o
o
o o
o
oo
oo
ooo
oo
o
o
o
o oooo
o
o
o o
o
o
o
o
oooo
oooo
o
o
o
o
oooo
oo
o
o
o
oooo
oo
o
o
o
o
o
o
oo
ageo
o
o
oo
o
oo
o
oo ooo
o
oo
o
o
o
o ooo
ooo ooo oo
o
o
o o
o
oo
oo
oooo
o
o
o
o
ooooo
o
o
o o
o
o
o
o
ooo
o
oo
oo
o
o
o
o
o ooo
oo
o
o
o
oo
oo
oo
o
o
o
o
o
o
oo
o
o
o
oo
o
oo
o
ooooo
o
ooo
o
o
ooooooooooooo
o
oo
o
oo
oo
ooooo
o
o
o
ooooo
o
o
oo
o
o
o
o
ooo
o
oooo
o
o
o
o
oooo
ooo
o
o
oo
oo
oo
o
o
o
o
o
o
oo
o
o
o
oo
o
oo
o
ooo oo
o
oo
o
o
o
o ooo
oooo o ooo
o
o
oo
o
oo
oo
oo oo
o
o
o
o
ooo o
o
o
o
oo
o
o
o
o
ooo
o
oo
oo
o
o
o
o
o oo
o
ooo
o
o
oo
oo
oo
o
o
o
o
o
o
o o
o
o
o
oo
o
oo
o
ooo oo
o
oo
o
o
o
o ooo
oooooooo
o
o
o o
o
oo
oo
oo o
oo
o
o
o
o oo o
o
o
o
oo
o
o
o
o
oooo
oo
oo
o
o
o
o
oooo
ooo
o
o
ooo
ooo
o
o
o
o
o
o
oo
o
o
o
oo
o
oo
o
ooo oo
o
oo
o
o
o
o ooo
oooo oooo
o
o
oo
o
oo
oo
ooo
oo
o
o
o
o oo o
o
o
o
oo
o
o
o
o
ooo
o
oo
oo
o
o
o
o
o oo
o
oo
o
o
o
oo
oo
oo
o
o
o
o
o
o
oo
oooooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
oooo oo
o
o
o oo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
oo
o
oo
o
o
o
oo
o o
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
o o
o
oo
o
o
o o
o
o
o
o oo
o
o
o oo ooo
o
o
ooo
o
oo oo
o
oo
o
o
o
o
o
o
o
o
o
o
o
oo
o
oo
o
o
o
oo
o o
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
o o
o
o
o
ooo
o
o
o o oooo
o
o
o oo
o
ooo o
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
o o
o
o
o
oo
o o
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o
o
o
ooo
o
o
o
o
o
o
o
o
o o
oo
oo
o
oo
o
o
oo
o
o
o
oo o
o
o lbph
oooooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
oooooo
o
o
ooo
o
oo oo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
o o
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
oo
o o
o
oo
o
o
o o
o
o
o
o oo
o
o
oo oooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
ooo
o
o
o
o
o
o
o
o
o
o
o
ooo
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
oo
o
o
o
ooo
o
o
-10
12
oo oooo
o
o
ooo
o
oooo
o
oo
o
o
o
o
o
o
o
o
o
o
o
ooo
oo
o
o
o
oo
oo
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
oo
o o
o
oo
o
o
o o
o
o
o
ooo
o
o
0.0
0.4
0.8
oooooooooooooooooooooooooooooooooooooo
o
ooooooo
o
oooooooooooooo
o
o
o
oooooo
o
o
oooo
oo
o
ooo
o
oo
o
o
ooo
o
oooooo
oooo oo ooo ooo ooooo oo o o oo oo ooo o ooo ooo ooo
o
oo oo ooo
o
o ooo oo o ooooooo
o
o
o
oo ooo o
o
o
o o oo
oo
o
oo o
o
oo
o
o
o oo
o
oo ooo o
o oo ooooooooooo oo ooo ooooooo oooo o oooo ooo
o
oo ooooo
o
ooo ooo oo oo o oo o
o
o
o
oooooo
o
o
oo oo
oo
o
ooo
o
oo
o
o
o oo
o
oooooo
o o oooo ooo oooooo oooo ooooo oooooooo oo oo oo
o
oo ooo oo
o
oo oooooo ooo oo o
o
o
o
oo oooo
o
o
oo oo
o o
o
ooo
o
oo
o
o
oo o
o
o oo o oo
oooooo o oooo ooooo ooo oo oo o ooo ooo ooooo ooo
o
ooo oo oo
o
oo oo oooo oo oo o o
o
o
o
o o o oo o
o
o
o oo o
oo
o
o oo
o
o o
o
o
oo o
o
oooo oo
svi
oooooooooooo oo oo o oooo oo ooo oo o ooooo oo oo
o
ooo o ooo
o
oo ooo o ooo ooooo
o
o
o
o o ooo o
o
o
o o o o
oo
o
oo o
o
oo
o
o
o oo
o
o o ooo o
oo oooooooooo oooo ooooo oo ooo ooooooooo o oo
o
o ooo ooo
o
ooo oo oooooo ooo
o
o
o
o oooo o
o
o
o ooo
oo
o
ooo
o
oo
o
o
ooo
o
oooooo
oo oooooooooo oooo ooooo oo ooo oo oooooooooo
o
o oooo oo
o
ooo oo oooooo o oo
o
o
o
o o oooo
o
o
o oo o
oo
o
oo o
o
oo
o
o
o o o
o
o ooo oo
oooooooooooo
o
o
o
o
o
o
ooo
o
o
o
oooo
o
o
oooooo
o
o
o
o
oo
o
o
o
o
o
o
oooo
o
o
oo
o
oooo
ooo
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
o
oo
o
o
oooo oo ooo ooo
o
o
o
o
o
o
o o o
o
o
o
o oo
o
o
o
oo ooo
o
o
o
o
o
o o
o
o
o
o
o
o
ooo o
o
o
oo
o
oooo
oo
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
o
oo
o
o
o oo ooooooooo
o
o
o
o
o
o
o oo
o
o
o
oooo
o
o
oooo
oo
o
o
o
o
o o
o
o
o
o
o
o
oooo
o
o
o o
o
o oo o
ooo
o
o
o
o
oo
o
o
o
oo
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
o
oo
o
o
o o oooo ooo ooo
o
o
o
o
o
o
o oo
o
o
o
oooo
o
o
oo oooo
o
o
o
o
o o
o
o
o
o
o
o
oooo
o
o
o o
o
o oo o
oo
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
oo
o
o o
o
o
oooooo o oooo o
o
o
o
o
o
o
o oo
o
o
o
ooo
o
o
o
oooo
oo
o
o
o
o
oo
o
o
o
o
o
o
oo
o o
o
o
o o
o
oo o o
oo
o
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o o
o
o
o
o
o
o
o
o
o
o o
o
oo
o
o
oooooooooooo
o
o
o
o
o
o
ooo
o
o
o
oooo
o
o
oooooo
o
o
o
o
oo
o
o
o
o
o
o
oooo
o
o
oo
o
oooo
oo
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o o
o
oo
o
o
lcp
oo oooooooooo
o
o
o
o
o
o
ooo
o
o
o
oooo
o
o
ooooo
o
o
o
o
o
oo
o
o
o
o
o
o
oo
oo
o
o
oo
o
o ooo
oo
o
o
o
o
o
oo
o
o
o
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o o
o
oo
o
o
-10
12
3
oo oooooooooo
o
o
o
o
o
o
ooo
o
o
o
ooo
o
o
o
oooooo
o
o
o
o
oo
o
o
o
o
o
o
oo
oo
o
o
oo
o
o o oo
oo
o
o
o
o
o
oo
o
o
o
oo
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
o o
o
oo
o
o
6.0
7.0
8.0
9.0
oo
o
ooooooooo
ooo
o
o
oooo
o
o
o
oo
ooo
oooooo
o
o
ooo
o
o
o
ooo
o
o
oo
o
o
ooooo
o
oo
o
o
o
o
o
ooo
o
oooo
o
ooooooooo
o
oo
o
ooo
o
oooooo
oo
o
o oo ooo ooo
ooo
o
o
oo o o
o
o
o
o o
oo o
ooo ooo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
o o ooo
o
oo
o
o
o
o
o
o oo
o
o ooo
o
ooooooo oo
o
o o
o
o oo
o
oo ooo o
o o
o
ooooooooo
oo o
o
o
oo oo
o
o
o
oo
ooo
o o oooo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
o oo oo
o
oo
o
o
o
o
o
ooo
o
ooo o
o
oo oooooo o
o
oo
o
o oo
o
oooooo
o o
o
ooo ooo ooo
ooo
o
o
oo oo
o
o
o
oo
ooo
ooo oo o
o
o
ooo
o
o
o
o oo
o
o
o o
o
o
ooo oo
o
oo
o
o
o
o
o
o oo
o
oo oo
o
ooo ooooo o
o
oo
o
oo o
o
o oo o oo
oo
o
ooo o oooo o
ooo
o
o
oo oo
o
o
o
oo
o oo
o ooooo
o
o
o oo
o
o
o
o oo
o
o
o o
o
o
ooo oo
o
o o
o
o
o
o
o
o o o
o
oo oo
o
o o oooo ooo
o
oo
o
oo o
o
oooo oo
oo
o
ooooooooo
ooo
o
o
oooo
o
o
o
oo
ooo
oooooo
o
o
o oo
o
o
o
ooo
o
o
oo
o
o
ooooo
o
oo
o
o
o
o
o
ooo
o
o oo o
o
oooo oooo o
o
o o
o
ooo
o
oooooo
oo
o
ooooooooo
oo o
o
o
oooo
o
o
o
oo
oo o
ooooo o
o
o
o oo
o
o
o
ooo
o
o
o o
o
o
o ooo o
o
oo
o
o
o
o
o
o oo
o
o oo o
o
o ooo ooo oo
o
o o
o
o oo
o
o o ooo ogleason
oo
o
ooooooooo
ooo
o
o
oooo
o
o
o
oo
oo o
oooooo
o
o
o oo
o
o
o
o oo
o
o
oo
o
o
ooooo
o
o o
o
o
o
o
o
o oo
o
o ooo
o
o ooo ooo oo
o
o o
o
o o o
o
o ooo oo
0 2 4
oo
o
ooooooooo
o
ooo
o
oooo
o
o
o
oo
o
o
o
ooooooooo
o
o
o
ooooo
o
o
oo
o
o
o
o
oooo
o
o
o
o
o
o
o
o
o
ooo
o
oo
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
oo
o
o oo ooo ooo
o
ooo
o
oo o o
o
o
o
o o
o
o
o
ooo ooo ooo
o
o
o
oo ooo
o
o
oo
o
o
o
o
oooo
o
o
o
o
o
o
o
o
o
oo o
o
oo
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
3 4 5 6
o o
o
ooooooooo
o
o oo
o
oo oo
o
o
o
oo
o
o
o
o o oooo ooo
o
o
o
ooo
oo
o
o
oo
o
o
o
o
oo
o o
o
o
o
o
o
o
o
o
o
ooo
o
o o
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
o o
o
ooo ooo ooo
o
oo o
o
oo oo
o
o
o
oo
o
o
o
ooo oo oooo
o
o
o
ooooo
o
o
o o
o
o
o
o
oo
oo
o
o
o
o
o
o
o
o
o
ooo
o
oo
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
-1 0 1 2
oo
o
ooo o oooo o
o
ooo
o
oo oo
o
o
o
oo
o
o
o
o ooooo ooo
o
o
o
ooooo
o
o
o o
o
o
o
o
oo
o o
o
o
o
o
o
o
o
o
o
oo o
o
oo
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
oo
o
ooooooooo
o
ooo
o
oooo
o
o
o
oo
o
o
o
ooooooooo
o
o
o
ooooo
o
o
oo
o
o
o
o
oooo
o
o
o
o
o
o
o
o
o
ooo
o
o o
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
-1 1 2 3
oo
o
ooooooooo
o
o oo
o
oooo
o
o
o
oo
o
o
o
ooooo oooo
o
o
o
oo ooo
o
o
o o
o
o
o
o
oo
oo
o
o
o
o
o
o
o
o
o
oo o
o
o o
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
oo
o
ooooooooo
o
ooo
o
oooo
o
o
o
oo
o
o
o
oooooo ooo
o
o
o
oo o
oo
o
o
oo
o
o
o
o
oooo
o
o
o
o
o
o
o
o
o
oo o
o
oo
o
o
oo
o
o
oo
o
o
o
o
o
o
o
oo
oo
o
o
o
o
o
0 40 80
020
60
100
pgg45
7 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
8 / 29
Frequency
Log-
perio
dogr
am
0 50 100 150 200 250
05
1015
2025
Phoneme Examples
aaao
Frequency
Logi
stic
Reg
ress
ion
Coe
ffici
ents
0 50 100 150 200 250
-0.4
-0.2
0.0
0.2
0.4
Phoneme Classification: Raw and Restricted Logistic Regression
9 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
10 / 29
sbp
0 10 20 30
oo
o
o
ooo
ooo
o
ooo
oo o
oo
oo
ooo ooo
oooo
o
oo
o
oo
oo oo
o
oo
oo
o
ooooo
oo
oo
o ooooo
ooo o
oo oooo ooo
ooo
o
oo
oo ooo oooooo
o
o
o
oooo
o
o
o
ooo
o
o
o
ooo
o
o
o
oo
ooooooo
oo
o
oo o
oo
oo oooo
ooo
o
ooo
o
o
ooo
o
ooo
oo
oo
o
oo
o
o
ooo o
o
o
o
o
o
oo
o
o oo
ooo
oo
oo
oo
oooo
oo
o
oooo
ooo
o oooo
oo
oooo
oooo
oo
oo
o
oo
o ooo
ooo
o
o
oooo
oo
o
oooo
o
oooooo
o
o
o
ooo o
oo oo
oooo o
ooo
ooo oo
o
o
o
o
oooo
o
o
oo
ooooooo
oo
oooo o
o
oo
o
oooo
oo
o
o
o
oo
o
o
oo
o
oo o
o
ooooo
o
oo
oooo
o
ooo
oo o
o
oo
o
ooo
o
oo
o
oooo ooo
ooo
oo
ooooo o
oo ooo
ooo
o
o
ooo o
oo oo
o
oo
o o
ooo
o
oooo
o
o
o
o
oo
oo
oo o
o
oo
oo
oo o
o
o
o
oooo o
ooo
oooooooooo
o
oooooo
ooo
o
ooo
o
o
o
ooo
oo
o
o
o oo
ooo
o
ooooo o
oo
oo
oo
oooo
oooo
o
oo
o
oo
oo
oo
o
oooo
o
ooo oo
oo
o o
ooo
oo o
ooooo
o ooooo oo
o oo
o
oo
o ooooo
ooooo
o
o
o
ooo o
o
o
o
ooo
o
o
o
ooo
o
o
o
oo
ooo
o ooo
oo
o
oo o
oo
oo oooo
ooo
o
oooo
o
ooo
o
ooo
oo
oo
o
o
oo
o
oo
oo
o
o
o
o
o
o o
o
o ooo o
o
oo
oo
oo
oooo
oo
o
oooo
o oo
oo ooo
oo
ooo ooo
o o
oo
oo
o
o
o
oooo
ooo
o
o
oooooo
o
oooo
o
ooo o
o o
o
o
o
oo
o ooo oo
ooooo
o oo
ooooo
o
o
o
o
oooo
o
o
oo
ooo ooo
o
oo
oooo o
o
o o
o
ooo
ooo
o
o
o
oo
o
o
o o
o
ooo
o
ooo
ooo
oo
o oo oo
o oo
o oo
o
oo
o
oo o
o
oo
o
oo
oo oo
oo
oo
o ooo
o o
o oooo
oo
ooo
o
o
o ooo
oo oo
o
o
o
oo
oo
o
o
oooo
o
o
o
o
oo
oo
oo o
o
oo
oo
ooo
o
o
o
oo
ooooo
o
ooooo ooo
oo
o
ooo oo oo
oo
o
oo
o
o
o
o
o oo
0.0 0.4 0.8
oo
o
o
ooo
ooo
o
ooo
ooo
oo
oo
oo
oooo
o oooo
oo
o
oo
oooo
o
o ooo
o
ooo ooo
ooo
oo
oo
o oo
oo o
oo ooo
oo oooo o
o
oo
ooooooooooo
o
o
o
o ooo
o
o
o
ooo
o
o
o
ooo
o
o
o
o ooo ooooooo
o
ooooo
oooo
oooo o
o
oooo
o
ooo
ooooo
oo
o
o
o
oo
o
oo
ooo
o
o
o
o
oo
o
ooo
ooo
oooo
oo
oo o
oo
o
o
oo oo
o oo
oooo o
oo
oo oo
oooooo
oo
o
o
oo
ooo
oo o
o
o
oooooo
o
ooo
o
o
ooo ooo
o
o
o
oooooooo
o oooo
ooo
oooo o
o
o
o
o
oooo
o
o
oo
ooooooo
oo
ooooo
o
oo
o
oo oo
oo
o
o
o
ooo
o
oo
o
ooo
o
ooo
ooo
oo
oo
ooo
ooo
oo o
o
oo
o
o
o o
o
oo
o
ooo
oo oo
ooo
oo
oo
ooo o
oo oo
oo oo
o
o
oooo
ooooo
o
o
oo
ooo
o
oooo
o
o
o
o
oo
oo
ooo
o
oo
oo
ooo
o
o
o
oo
ooo
ooo
oo
oo ooooo
o
o
oo oooooo
o
o
o
oo
o
o
o
oo
o
oo
o
o
o oo
ooo
o
oooooo
oo
oo
oo
ooo o
o oooo
ooo
oo
ooo
o
oo o
oo
o
oooo
oo
ooo
oo
oooo
ooo o oo ooo
o oo oo oo
o
oo
ooo
o ooo
o oo o
o
o
o
o ooo
o
o
o
ooo
o
o
o
ooo
o
o
o
oo
ooo
oooooo
oo
oooo
oooo
oooo o
o
o o oo
o
ooo
oo
oooooo
o
ooo
o
oo
oo
o
o
o
o
o
oo
o
o ooo oo
oo
oo
oo
ooooo
o
o
ooo o
ooo
oo ooo
oo
oo oo
oooo
oo
oo
o
o
oo
ooo
ooo
o
o
oooooo
o
oooo
o
oooo
oo
o
o
o
oooo
oooo
o oooo
ooo
oo o oo
o
o
o
o
oo oo
o
o
oo
o ooo
ooo
oo
oooo o
o
o o
o
oo oo
oo
o
o
o
oo
o
o
oo
o
oooo
ooo
oo
o
oo
oo
ooo
oo oooo
o
oo
o
o
o o
o
oo
o
ooo o oo
ooo
o
ooo
ooo
ooo oo
oo
oo o
o
o
ooo o
oo oo
o
o
o
o o
oo
o
o
ooo o
o
o
o
o
oo
oo
ooo
o
ooo
o
ooo
o
o
o
oo
ooo
ooo
oo
o o oooo
oo
o
ooo
ooo
ooo
o
o
oo
o
o
o
oo
o
0 50 100
oo
o
o
ooo
ooo
o
oooo oo
oo
oo
oooooo
ooooo
oo
o
oo
oo
oooo ooo
o
o oooo
oo
o o
oo
oooo
ooo ooooooo oooooo
o
oo
oooo ooooooo
o
o
o
o ooo
o
o
o
ooo
o
o
o
ooo
o
o
o
ooo
o ooooo
oo
o
ooo
o o
ooo
oooooo
o
oo oo
o
oooo
oooo
ooo
o
o
oo
o
oo
ooo
o
o
o
o
oo
o
oooooo
ooo
o
oo
oo o
ooo
o
oooo
ooo
ooooo
oo
oo oooo
oo
oo
oo
o
o
oo
ooo
ooo
o
o
ooo
ooo
o
ooo
o
o
oooooo
o
o
o
oo
oooo o
o
ooo
oooooooooo
o
o
o
o
ooo o
o
o
oo
ooooooo
oo
o ooo o
o
oo
o
oooo
oo
o
o
o
o oo
o
oo
o
ooo
o
ooooo
o
oo
oooo
o
ooo
ooo
o
oo
o
o
oo
o
oo
o
oooooo
ooo
o
oo
oooo
oooooo
ooo o
o
o
ooo o
ooo o
o
o
o
oo
ooo
o
ooo o
o
o
o
o
oo
oo
ooo
o
oo
oo
o o o
oo
o
o o oooooo
oooooooooo
o
o ooooooo
o
o
oo
o
o
o
o
oo
o
100
160
220
oo
o
o
ooo
ooo
o
ooo
ooo
oo
oo
oo
ooo o
oo ooo
oo
o
oo
oo o
o
oo
oo
o
o
ooo o
oo
ooo
o o
oo
o oo
oo o
oo oooo oo o o oo
o
oo
oooo oo
oo oo o
o
o
o
oo oo
o
o
o
ooo
o
o
o
ooo
o
o
o
oo
oo o
o oo o
oo
o
oo o
oo
oo oooo
oo o
o
o o oo
o
ooo
o
ooo
oo
oo
o
oo
o
o
o oo
o
o
o
o
o
o
o o
o
ooo
oo
o
oo
oo
oo
o
o ooo
o
o
oooo
o oo
ooo oo
oo
ooooo
ooo
oo
oo
o
o
ooo o
o
oo o
o
o
oooo o o
o
oooo
o
oooooo
o
o
o
oo
o oo o o
o
oo oo o
ooo
oo o
ooo
o
o
o
ooo o
o
o
oo
oooo ooo
o
o
o ooo o
o
oo
o
oo o
oo
oo
o
o
oo
o
o
oo
o
oooo
ooo
ooo
oo
o ooo
o
oooo o o
o
o o
o
o
oo
o
oo
o
oooo oo
ooo
o
oo
oo
o oo ooo o
oo
o oo
o
o
ooo o
oooo
o
oo
oo
ooo
o
oooo
o
o
o
o
oo
oo
ooo
o
oo
oo
ooo
o
o
o
ooo oo
ooo
oooooo o o
oo
o
ooo o
oooo
o
o
oo
o
o
o
o
oo
o
010
2030
o
oo
oo
o ooo o
o
o
o o
o
o
oo
o
o
o
o
oo
o
oooooo o
oo
oo ooo
o
o oooo
o ooo
ooo o
ooo
oo
o o oo
o
oo
oo
oooooo
oooooo
oo
oo
o
oo
o
ooooo oo ooooo
oo
oo oo oo
o
ooo
o
o o
o
oo
oo
ooooo
oooo
ooo
oo
ooooooo
o
oooo oo oo
o
oo
ooo
o
o
o
o
oo
o
ooo
oo
ooo
ooo oooooo
o
oooo
oo
o
oo
o ooo o ooooo
oo ooo
o oo
o oo
ooo oo
o
ooo
o
o oooooo
o
o oo
o
oo o
o
o ooo
oo oo
ooo
oo
o oo
oo o
o
oo
o
ooooo
o
oo
o
o
o
oooo
o
o
oo
ooo oo
o
o
ooooooo o ooooo
o
ooo oooo
oo
oo
oo
ooo
ooo
o
oo
o oo
o oooo
oooo
o
oooo
ooo
o ooo o
ooo
oo
oo
o
o ooo
o o
o
oo
ooo ooo
o
oooo
ooooo
oo
o
oo
o
oooo
oo o oo
o
o
oo
o
oo
oo o
oo
o
o
oo
o
o
o
oo
o
o
ooo
oo
o
ooo oo
o
ooo oo oooooo
ooo
ooooooooo
oo oo o o
oooo
tobaccoo
oo
o
o
oooo o
o
o
oo
o
oo
o
o
o
o
o
oo
o
oo
oooo o
oooo oo
o
o
oooooo o
oo
oo
o o
oo
o
oo
ooo o
o
oo
ooo
ooooo
ooo oooo
oo
o
o
oo
o
ooooo
oo oooo
o
oo
oooooo
o
oo o
o
o o
o
oo
oo
o ooooo ooo
ooo
oo
oo ooooo
o
oooooooo
o
oooo o
o
o
o
ooo
o
o oo
oo
ooo
oo oooooo o
o
o ooo
oo
o
oo
oooo ooooo ooo
o ooooo
ooo
oooo o
o
o oo
o
o oooo o o
o
ooo
o
ooo
o
oooo
oooo
ooo
oo
o o
oo
ooo
oo
o
oooooo
o o
o
o
o
oooo
o
o
o oooooo
o
o
ooo ooo oo ooooo
o
oo
oo ooo
oo
ooo
o
ooo
oo o
o
oo
ooo
oo ooo
ooo o
o
ooo oo
o ooooo o
ooo
ooo
o
o
ooo
ooo
o
oo
oo
ooooo
ooo
oo o
oooo
o
o
oo
o
oo
oo
oo ooo
o
o
oo
o
oo
oo o
oo
oo
oo
o
o
o
o
oo
o
ooo
oo
o
ooo ooo
ooo ooooo ooo
ooo
ooooo oooo
ooooo o
oo oo
o
o o
oo
oo ooo
o
o
oo
o
oo
o
o
o
o
o
oo
o
ooo
oooo
oooooo
o
o
ooo ooo o
ooo
ooo
oooooo oo o
o
oo
oo
oo
oooo
oooo oo
ooo
o
o
oo
o
ooooooooo oo
o
oo
o ooooo
o
ooo
o
o o
o
ooo
ooooooo oo oo
oo
oooo oo oo o
o
ooooo ooo
o
oo
ooo
o
o
o
o
oo
o
ooo
oo
oooo
ooo ooooo
o
o ooooo
o
oooo oooo oo
o ooo
oooooooo o
o oooo
o
ooo
o
o ooooo o
o
ooo
o
ooo
o
o oooo ooo
oo o
oo
oo
oo
ooo
oo
o
oo oooo
oo
o
o
ooo o
oo
ooo
oooooo
o
ooooooooo
oooo
o
oo
oo oo o
o
oo o
o
o
oooo oo
o
oooo o
oo ooooo
oo
o
ooooo
oo oooo o
ooo
oo
oo
o
ooo
o oo
o
oooooo oo
o
ooo
ooo
o oooo
ooo
o
oo
oo
oooo
o
o
oo
o o
ooo
ooo o
o
o
oo
o
o
o
ooo
o
oo
ooo
o
ooo oo
o
ooooo oo ooooo o
ooo oo oo
ooo
oooo oo
ooo
o
o
oo
oo
oooo o
o
o
oo
o
oo
o
o
o
o
o
o o
o
o oo
oo
oo
oooo o o
o
o
ooo o ooo
oo
oo
oo
ooo
oo
oooo
o
oo
ooo
oooo
oo oo oo
oo
oo
o
o
o o
o
oo ooo
oo oo ooo
oo
o ooooo
o
oo o
o
o o
o
oo
o ooo oo
oo o
o oo
oo
oooo
oooo o
o
o oo
ooooo
o
oo
oooo
o
o
o
oo
o
oooo
o
ooo
ooo ooooo o
o
o oooo
o
o
oooo oo ooo ooo
ooo ooo oooo
o
o oooo
o
ooo
o
o oooo oo
o
ooo
o
ooo
o
oooo
oooo
ooooo
ooo
oooo
oo
o
oo ooo
o
oo
o
o
o
o oooo
o
oo
o ooo
oo
o
o ooo ooo oo
oooo
o
oo o ooo o
oo
o oo
o
o oo
ooo
o
oooo o
o oooo
oooo
o
oooo
oo
ooo
oo oooo
oo
oo
o
oo o
ooo
o
ooooo oo
oo
ooo
ooo
oo oo
o
o
oo
o
oo
ooo
o ooo
o
o
ooo
o
oo
oooo
oo
oo
o
o
o
oo
o
o
ooo
oo
o
ooo ooo
ooooooo oooo
ooo
o oo ooooo
o
oooo oo
oo oo
o
oo
o
o
ooooo
o
o
oo
o
oo
o
o
o
oo
oo
o
ooo
ooo o
ooo oooo
o
oooo
oooo ooo oo
oo
o
oo
oooo
o
oo
ooo
oooo
oooooo
ooo
oo
o
o o
o
ooooo
oooo oo
o
oo
oooooo
oooo
o
oo
o
oo
oo
ooooooo
o oo
o o
oo
o oooooo
o
oo oooo
oo
o
oooo
oo
o
o
o
oo
o
ooo
oo
ooo
ooooooooo
o
ooo o
oo
o
oo
ooooooooooo o
oooooo
oo o
ooooo
o
ooo
o
ooooooo
o
oo o
o
oo o
o
oooooo oo
ooo
ooo o
ooo o
o
oo
o
ooooo
o
oo
o
oo
ooooo
o
oooo o
ooo
o
oooo ooooo
o ooo
o
oooooo o
oo
ooo
o
o oo
oo o
o
oo
o oo
ooooooo
oo
o
oo oo
ooo
o ooo o
ooooo
oo
o
o o o
ooo
o
ooooooo
oo
oo
oo
oooo o
oo
ooo
o
ooo
oo
oooo
o
o
ooo
oo
ooo
oo
oo
oo
o
o
o
oo
o
o
oo o
oo
o
oo o ooo
ooooooooooooo
oo ooooo ooo
ooo ooo
oooo
o
oo
o
o
oo oo o
o
o
oo
o
ooo
o
o
oo
o o
o
o oo
oooo
oooo o o
o
o
oooo
oo
ooo
oo oo
oo
o
oo
o oo o
o
oo
ooo
ooo o
oo o o oo
oo o
oo
o
o o
o
oo oo oo
oo oo o o
oo
o oooo
o
o
ooo
o
o o
o
oo
oo
o oo oo
o oo o
ooo
oooo oo
oo o
o
o o oooo oo
o
oooo
oo
o
o
o
oo
o
o oo
oo
ooo
oo o ooooo o
o
oooo
oo
o
oooo oooooo
o ooo oo ooo
oooo
oo ooo
o
ooo
o
o o oo ooo
o
oo o
o
ooo
o
oooo
oooo
oooo
ooo
oo
ooo
o o
o
ooo oo
o
oo
o
o
o
oooo
o
o
oo
oo oo
oo
o
oooo ooo oo
o ooo
o
ooo o oo o
o
oo
oo
o
oo
oooo
o
oo
o oo
oo ooo
oo oo
o
oo oo
oo
ooo
o ooo o
oo
o
oo
o
ooo
ooo
o
oo
oo
oo o oo
ooo
oo oo oo
oo
o
oo
o
oo
oo
oo o oo
o
o
oo
o
ooo
oooo
oo
oo
o
o
o
oo
o
o
ooo
oo
o
oooo o
o
ooooooooo oo
ooo
ooo ooo oooo
ooo oooo
oo
ooo
o
o
o
ooo
o
oo
o ooo
o
oo
o
oo
ooo
o
o
ooo
oooo
o
o
oo
o
ooo
ooo o
oo
oo
oo
o
o o
o
o oo o
o
o oooo
oo
o
oo oooo ooo
oooooo
ooo ooo
oo
oo
oooo
o
o
o
oo oooo
oo
o
o o
o
o
o
o
o oo
ooo
oo
o
o
oo
o
oooo
oo
o
o ooooooo
ooo
oooo
oooo
ooo
ooo
ooooo
oo
o
o o
oo
ooooo
o
o oo
o
o
o
o
ooooo
oo
oooo o
o
oo
oo
oo o oooo
oo
ooo
o
oo
oo
o
ooo
oo
o
ooo
o
oo
o ooooo
o oo o
o
o
oo oo
oo
oo
oooo
oo
o
ooooo
oo
oo
o
oooo
oo
oo
ooo o o
ooooo
oo
o
o
o
ooooo
o ooo
o
o
ooo
oooo
o o oo
ooo oo oo
ooo o
o
ooooo
o
oo
oo
oo
o
oo
o
oo
o
oo
oo
o o
o
oo
oo
ooo
oo o o
oo ooo o
ooooo
oooo oo
o
o
ooo
o
o
ooo
o oooo
o
ooooo o
o
o
oo ooo
o
o
o
o
oo
oo
ooo oo
ooo
o
oooo
oo
o oooooo
o
o
o
oooo
oo o
oo o
oo
oo
oo
o
o
o ooo
o
o
o
ooo
o
oo
oo oo
o
oo o
oo
oo o
oo
ooo
oo ooo
ooo
ooo
oo
oo o
oo
oo
oo
o
oo
o
o ooo
o
o ooo o
oo
o
ooo oooooo
ooo
ooooo
ooooooo
ooooo
o
o
o
ooooo
o ooo
o o
o
o
o
o
oo o
ooooo o
o
oo
o
ooooo
o
o
oooooooo
ooo
oo oo
oooo
ooo
ooo
oooo oo
o
o
oo
oooo
o
oo
o
ooo
oo
o
o
oooo
ooooooo o
o
oo
oooooo
ooo
oo
ooo
o
ooo
o
o
oo o
ooo
oooo
oo
oo ooooo oo
o
o
o
oo oo
oo
oo
o
ooo
oo
o
oooo o
oo oo
o
ooo
o
oo
oo
ooooo o
oooooo
o
o
o
ooooo
oooo
o
o
ooo
ooo
o
ooo
o
ooo ooo o
oooo
o
o ooo o
o
oo
oo
oo
o
ooo
oo
o
oo
o ooo
o
oo
oo
ooo
oo oo
ooooo
oo
oo ooo ooo oo
o
o
o ooo
o
ooo
ooo oo
o
o
oo oo o
o
o
ooooo
o
o
o
o
oo
oo
oo ooo
ooo
o
oooo
ooooooooo
o
o
o
ooo
oooooo o
ooo
oo
oo
o
o
ldlo
o ooo
o
oooo
oo
oo oo
o
ooo
oo
ooo
oo
o oooo oooo
oo
ooo
oo
ooo
oo
oo
oo
o
oo
o
ooo o
o
ooo
o oo
o
o
oooooo
oo oo ooo
oo
ooo ooooooooo oo
o
o
o
o ooooo ooo
o o
o
o
o
o
ooo
oooooo
o
oo
o
oooooo
o
o oo oo ooooo o
oooo
oooooo
oooo
oooooo
o
o
oo
ooo o
ooo
o
ooooo
o
o
oo
ooo oooo ooo
o
oo
ooo oo o
ooo
oo
ooo
o
oooo
o
oo o
oo
o
oooo
oooooo
oooo oo
o
o
o oo
oo
ooo
oooo
oo
o
o oooo
ooo
o
o
oo oo
ooo
o
oooooo
oooooo
o
o
o
oooooo ooo
o
o
o oo
oo oo
o ooo
o oo oo ooo
ooo
o
oooo o
o
oo
oo
oo
o
ooo
oo
o
oo
oo
oo
o
oooo
o oo
oo oo
ooo oo
oooo o
ooo oooo
o
o
ooo
o
o
oooooooo
o
oo
ooo oo
o
ooooo
o
o
o
o
oo
oooooooooo
o
oooo
ooo oo oooo
o
o
o
ooo
oooo
oo o
ooo
ooo
o
o
o oooo
oo
oooo
oo
oooo
o
ooo
oo
ooo
oo
o oo
oo o
ooo
oo
o
oooo
o oo
o o
oo
oo
o
oo
o
oooo
o
ooo
o oo
o
o
ooo oo o
oooooo
oooo oo ooo
ooo
oo
o oo
o
o
o
o ooo
oo ooo
oo
o
o
o
o
ooo
oo o
ooo
o
oo
o
oooo
oo
o
ooo ooo o oo
oo
oooo
ooo
ooo
oooooo
o ooo
o
o
oo
oo
oo
ooo
o
oooo
o
o
o
ooooo oo
ooo
o o
o
ooo
ooo oo
ooo
oo
oo
o
o
ooo
o
o
ooo
o oo
ooo
o
oo
ooooooo oo
o
o
o
ooo
oo
oo
o
ooo o
ooo
o oooo
oo oo
o
o ooo
oo
oo
o ooo ooo
o ooo o
o
o
o
oooo
oo oo
o
o
o
o oo
oo o
ooo o
o
ooo
ooooo oo o
o
ooo
o o
o
oooo
ooo
ooo
oo
o
oo
oooo
o
oooo
ooo
oooo
oo oo
oo
oo oo
o
ooo ooo
o
o
oo o
o
o
ooo
oo o oo
o
o
o
oo ooo
o
ooooo
o
o
o
oo
oo
ooooo
oooo
o
oo oo
ooooo oooo
oo
o
o oo
ooo
oooo
oo
oo
oo
o
o
o ooo
o
oo
oooo
ooooo o
o
o oo
oo
ooo
oo
ooo
ooooo
oo
oo
ooo
oooo
oo
ooo
o
o
oo
o
oooo
o
o ooo oo
o
o
ooo oooo
oo o ooo
oo
o oooooo
oo
ooo oo
o
o
o
ooooo
oooo
oo
o
o
o
o
oo o
oooo
oo
o
oo
o
o ooo
oo
o
ooooo
oo ooo o
oooo
oooo
ooo
oo
o
oooo oo
o
o
oo
oo
ooo
oo
o
oooo
o
o
oo
ooo
ooo
oooo o
o
oo
ooo o
ooooo
oo
ooo
o
oo
oo
o
ooo
oo
o
ooo
o
ooo ooo
ooo oo o
o
o
ooooo
ooo
oooo
ooo
ooooo
ooo
o
o
oooo
ooo
o
ooo
oooooo
oo o
o
o
o
oo
oooooo
o
o
o
ooo
o oo
o
oo o
o
ooooo oo oooo
o
ooo
o o
o
oo
o o
oo
o
oo
o
oo
o
oo
oooo
o
ooo o
o oo
oo ooo oo
ooo
ooooo
ooo oo
oo
o
o ooo
o
ooo
ooooo
o
o
oo
o ooo
o
oo
ooo
o
o
o
o
oo
ooo o oo
ooo o
o
ooooooooooooo
o
o
o
o ooooo
ooo o
oo
ooo
oo
o
o
26
1014
o ooo
oo
ooo
oo
ooo oo
o
o oo
o o
o
oo
o
o
oo o
oo o
o oo
o
oo
ooo
ooo o
oo
oo
oo
o
o o
o
o oo o
o
o ooo oo
o
o
oo o oo
oo
oooo o
oooo o
ooo oo oo
oo
oo o
o
o
o
o oooo
ooo
o
o o
o
o
o
o
o o o
ooo
ooo
o
oo
o
oo
ooo
o
o
ooo ooo o oo
oo
oo oo
ooo
ooo
oo
oo
oo oo oo
o
o
oo
oo
oo
ooo
o
ooo o
o
o
o
oo ooo
oo
oooo o
o
oo
oo
ooooooo
oo
oo
o
o
ooo
o
o
ooo
ooo
ooo
o
oo
oo o oooo oo
o
o
o
oo o
oo
oo
o
oo
oo
oo
o
oo oo ooo oo
o
oooo
ooo
o
ooo o oo
ooooo o
o
o
o
oo
oooo oo
o
o
o
o oo
ooo
oo ooo
ooo oo oo
oooo
o
o oo
o o
o
oo
o o
ooo
ooo
o o
o
oo
oo
oo
o
oooo
ooo
oo o o
oooo
oo
ooo o
ooo oo o
oo
o
oo o
o
o
ooo
o ooo
o
o
o
oooo o
o
o
ooooo
o
o
o
o
oo
ooooo oo ooo
o
oooooooooo
o o o
o
o
o
ooo
ooo o
oo o
oo
ooo
oo
o
o
0.0
0.4
0.8
o
o
o ooo
o
oo o
o
o
o o
oo
o
o oo
o
o o
oo
o
o o
o
oo o
o
o oo oo
ooo
oo
o
oo
oo
o o
o
o o
o
ooooo
o
o
o o
oo
oo
o
o
oo oo
o
ooo
o
o
oo
o
o
o
o
oo
oo
ooo oo oo
ooo
o
o
o
o
oo oo
o
ooo
o
o
o
o
o
o o
o
oooo o o
o
o
o
o
o
ooooo
o
o
o
o
o
o
o
ooo o
o o
oo oooo
o o
o oo oo oo oo oo
oo o o
oo o
ooo
ooo o
o oooo
oo
oo
o
oo
oo
o
o o
o
oo
o
oo
o
o
oo
o
o
o
o
o oo o ooo oo
o
o
o
oo
o
o
o oo
ooo ooo
o
oo o
o
oo
o
o
o o
o
o
oo o
o oooo
o
o
o
oooo
oo o
o oo
o
o
oo
o o
oooo o oo
o
ooooooo o
o
ooooo
oo
o o
o
o
o o
oo
o o
o
o
o oo
o
o
o
o
oo
o
o
o o
o
oo oo
oo
oo
oo
o
o
oo
o o
oo
oo
o
o
o
o o oooo
oo
o
o
o
o
o oo
o o
oo
o
oo
o
o o
oo
o
o oo
oo
oo
oo
oo
oo o
oooo
o
o
o
ooo
o o
o
o o o
oo ooo
ooo
o
oo
oo o
o o
oo
o
o
o
ooo oo
o
o
o
oooo
o
ooo
o
o
oo o
oo
oo
oo
o
oooo
o o
o
o o oo
o
ooo
o
o
oo
oo
o
oo o
o
oo
o o
o
o o
o
ooo
o
ooooo
o oo
oo
o
o o
oo
o o
o
oo
o
o oo oo
o
o
o o
oo
oo
o
o
ooo o
o
ooo
o
o
oo
o
o
o
o
o o
oo
oo oo ooo
oo o
o
o
o
o
oooo
o
ooo
o
o
o
o
o
oo
o
oooo o o
o
o
o
o
o
ooo oo
o
o
o
o
o
o
o
oooo
oo
o ooooo
o o
o oo oo oooo o o
oo oo
ooo
ooo
oo oo
o oo oo
oo
oo
o
oo
oo
o
o o
o
oo
o
oo
o
o
o o
o
o
o
o
ooo oooo oo
o
o
o
oo
o
o
ooo
oooo oo
o
oo o
o
oo
o
o
o o
o
o
oo o
oo ooo
o
o
o
oo o o
oo o
o oo
o
o
oo
oo
oooo ooo
o
oooooooo
o
oooo o
oo
oo
o
o
o o
oo
o o
o
o
o oo
o
o
o
o
o o
o
o
oo
o
o ooo
o o
oo
oo
o
o
oo
oo
oo
o o
o
o
o
ooo ooo
o o
o
o
o
o
ooo
oo
oo
o
oo
o
oo
o o
o
o oo
oo
o o
oo
oo
ooo
oo oo
o
o
o
o oo
oo
o
o oo
oo oo o
o oo
o
oo
o oo
oo
oo
o
o
o
ooooo
o
o
o
oo oo
o
ooo
o
o
ooo
oo
oo
oo
o
o ooo
o o
o
o oo o
o
oo o
o
o
oo
oo
o
ooo
o
o o
oo
o
oo
o
oo o
o
ooo oo
o oo
oo
o
oo
oo
o o
o
o o
o
o ooo o
o
o
oo
oo
o o
o
o
oooo
o
oo o
o
o
oo
o
o
o
o
o o
oo
oo oo o oo
oo o
o
o
o
o
ooo o
o
oo o
o
o
o
o
o
o o
o
o ooooo
o
o
o
o
o
ooo oo
o
o
o
o
o
o
o
oooo
o o
oo oooo
oo
o oo ooooooo o
oo oo
o oo
o oo
o ooo
ooo oo
oo
oo
o
oo
oo
o
oo
o
oo
o
oo
o
o
o o
o
o
o
o
ooo oo oo oo
o
o
o
o o
o
o
ooo
oooooo
o
ooo
o
o o
o
o
oo
o
o
ooo
ooooo
o
o
o
oooo
o oo
o oo
o
o
oo
o o
ooooooo
o
ooo ooo oo
o
oooo o
oo
oo
o
o
o o
oo
o o
o
o
o oo
o
o
o
o
oo
o
o
oo
o
oo oo
o o
o o
oo
o
o
o o
oo
o o
oo
o
o
o
oo oooo
o o
o
o
o
o
oo o
oo
o o
o
oo
o
oo
oo
o
ooo
o o
oo
oo
oo
oo o
oooo
o
o
o
o oo
o o
o
ooo
oo oo o
o oo
o
oo
ooo
oo
oo
o
o
o
ooo oo
o
o
o
ooo o
o
ooo
o
o
o o o
oo
o o
oo
o
ooo o
o
famhist
o
o
o oo o
o
oo o
o
o
oo
oo
o
ooo
o
oo
oo
o
oo
o
ooo
o
ooo o o
oo o
oo
o
oo
o o
o o
o
oo
o
o oooo
o
o
oo
oo
o o
o
o
ooo o
o
oo o
o
o
oo
o
o
o
o
oo
oo
oo ooo oo
ooo
o
o
o
o
oooo
o
oo o
o
o
o
o
o
oo
o
oooooo
o
o
o
o
o
o oo oo
o
o
o
o
o
o
o
o ooo
o o
oooooo
oo
o ooooooooo o
oo oo
oo o
o oo
o ooo
ooo oo
oo
oo
o
oo
oo
o
o o
o
oo
o
oo
o
o
oo
o
o
o
o
o oo oooo oo
o
o
o
o o
o
o
ooo
oooooo
o
oo o
o
o o
o
o
oo
o
o
ooo
ooo oo
o
o
o
oo oo
oo o
o o o
o
o
oo
oo
oo ooo oo
o
o ooo ooo o
o
oooo o
oo
o o
o
o
oo
o o
oo
o
o
ooo
o
o
o
o
oo
o
o
o o
o
oo oo
oo
oo
oo
o
o
oo
oo
oo
oo
o
o
o
oo oooo
o o
o
o
o
o
ooo
o o
oo
o
oo
o
o o
oo
o
ooo
oo
o o
oo
oo
oo o
oo oo
o
o
o
oo o
o o
o
o oo
ooo oo
o oo
o
oo
ooo
oo
oo
o
o
o
ooooo
o
o
o
ooo o
o
oo o
o
o
oo o
o o
o o
oo
o
ooo o
o o
o
o o oo
o
ooo
o
o
oo
o o
o
o oo
o
oo
oo
o
o o
o
oo o
o
oo ooo
o oo
oo
o
oo
oo
oo
o
oo
o
o oooo
o
o
o o
oo
oo
o
o
ooo o
o
ooo
o
o
oo
o
o
o
o
oo
oo
ooooooo
ooo
o
o
o
o
oo oo
o
ooo
o
o
o
o
o
oo
o
oooooo
o
o
o
o
o
o ooo o
o
o
o
o
o
o
o
o ooo
oo
oooooo
oo
o oo oo oooo oo
oooo
ooo
ooo
oooo
ooo oo
oo
oo
o
oo
oo
o
oo
o
o o
o
oo
o
o
o o
o
o
o
o
ooooooooo
o
o
o
oo
o
o
oo o
ooo ooo
o
oo o
o
oo
o
o
oo
o
o
ooo
o oooo
o
o
o
oo oo
ooo
ooo
o
o
oo
oo
ooo o ooo
o
oooo oooo
o
o ooo o
oo
oo
o
o
oo
o o
oo
o
o
o oo
o
o
o
o
oo
o
o
oo
o
oooo
oo
oo
o o
o
o
oo
o o
oo
oo
o
o
o
ooo oo o
oo
o
o
o
o
ooo
oo
oo
o
o o
o
o o
o o
o
ooo
oo
o o
oo
o o
ooo
oooo
o
o
o
oo o
o o
o
oo o
ooo oo
oo o
o
oo
o oo
oo
o o
o
o
o
ooooo
o
o
o
oooo
o
oo o
o
o
oo o
oo
oo
o o
o
o ooo
o o
o
o ooo
o
oo o
o
o
oo
oo
o
o oo
o
o o
oo
o
o o
o
ooo
o
o ooo o
o oo
oo
o
o o
oo
o o
o
oo
o
ooo oo
o
o
o o
oo
oo
o
o
oo o o
o
o o o
o
o
o o
o
o
o
o
o o
oo
oo oo o o o
o o o
o
o
o
o
oo oo
o
ooo
o
o
o
o
o
o o
o
o oo o oo
o
o
o
o
o
ooo oo
o
o
o
o
o
o
o
o ooo
o o
o ooooo
o o
o oooo oooo o o
oo oo
o o o
ooo
o o oo
o oo oo
oo
oo
o
oo
oo
o
o o
o
oo
o
o o
o
o
o o
o
o
o
o
o oo oooo oo
o
o
o
oo
o
o
oo o
oooo o o
o
oo o
o
o o
o
o
oo
o
o
oo o
oo oo o
o
o
o
o oo o
oo o
o o o
o
o
o o
oo
ooo o o oo
o
oooo ooo o
o
o ooo o
oo
o o
o
o
oo
oo
o o
o
o
o o o
o
o
o
o
oo
o
o
oo
o
o o oo
o o
oo
o o
o
o
o o
oo
o o
o o
o
o
o
oo oooo
o o
o
o
o
o
o oo
oo
o o
o
oo
o
oo
oo
o
o oo
oo
o o
oo
oo
oo o
oooo
o
o
o
ooo
oo
o
o oo
oo ooo
ooo
o
oo
oo o
o o
oo
o
o
o
ooooo
o
o
o
o o oo
o
ooo
o
o
oo o
oo
o o
oo
o
oooo
o
oooo
oo
oooo
ooooooo
ooo
oo ooo
o
o
o
ooo o
oo o
o
oo
ooo
ooo
o
o oo
o
oo o oo o
oooo o oo oo
oo
oo
o
oo o
o
o
oo
ooooo
o
ooo
o
o
oo
o
o
o oo
o
oooo
oo
oooo o
o
o
ooo o
oo
o
oo oo
oo
oo o o
oo
oo
o
oo
oo
ooo oo
o o
ooo
o oo
ooo oooo o oo
oo oo o
ooooo oo
o
ooo
o
ooo
ooo
o
o
oo
oo
oooo o
o
oo
ooo
oooo o
ooo
oooo
oo
o
o oo
o
oooo
o
o
ooo
oo oo oo
ooo ooo ooo
oo o
oo
oo ooo oo oo oo
o
oo
o
ooo
ooooo
ooo
o
o ooo
oo
ooo o
ooo
ooo
oooo
oo
o
oooo
ooo
o
oo
o o
o
oo
oo o
o
o
ooo oo oo oo
o
oo
oo
oo
ooo
o ooooo
oo o
ooo
o
o
o oo oo
oo ooo
o oooo ooo
oo
o
ooooo
oo
ooo o
o
oo
oo
o
ooo oo
o
oo
o
oo
oooo
o
oo
oo
o ooo
o
oo
o
o
o oo
ooo o
o
ooo
oo
oo
oo oooooooo
o
o
ooo
o
o
ooo
oo
oo
oo
ooo
o
o
o
ooo o
oo
ooo
oo
ooo oo o
oo o
ooo
o oo
o
o
oo
oo
ooo
o
oo
oo
o
ooo
o
oo
o
o
oooooo
oo ooooo ooo o
o
o
o
ooo
o
o
oo
oooo
o
o
o ooo
o
ooo
o
ooo
o
ooo o
oooooooo
o
ooo oo
oo
o
ooo
oooo oo
oo
oo
o
o
o
ooooooo
o o
oo
oooo
oo
ooooo o oo
oo oo
oooo
oooo
o
ooo
o
ooo
o
o oo
o
oo
oo
ooooo
o
o
o
ooo
oo
oooo
ooo
o oo
ooo
ooo
o
oooo
o
o
ooo
oo oo
oo
oooo
ooooo
ooo
oo
oooooo
oo oo o
o
o o
o
ooo
oo
ooo
oo
o
o
ooooo
o
oooooo
o
oooooooo
oo
oooo
oo
oo
oo
oo
o
oo
ooo
o
o
oooo
oo ooo
o
oo
o o
oo
oooo oo
oo
ooo
ooo
o o
o
o o ooo
oooo
o
ooo
oo
ooo
oo
o
ooo
o ooo
ooo o
o
oo
oo
o
ooo oo
o
oo
o
oo
ooo o
o
oo
oo
ooo
oo
oo
o
oo o
o
oo
ooo
ooooo
oo
oooooooooo
o
o
ooo
o
o
ooo
oo
oo
oo
oo o
o
o
o
ooo
oo
o
ooo
oo
ooooo o
ooo
oo o
ooo
o
o
ooo o
ooo
o
oo
o oo
ooo
o
o oo
o
o oo ooo
oooooo ooooo
oo
o
ooo
o
o
o
o
oooo o
o
ooo
o
o
oo
o
o
ooo
o
ooo o
o oooooo
o
o
oooo
oo
o
oooo
oooooo
o
o
oo
o
o
o
oo
o oooo
o o
oo
o
ooo
ooooooo ooo
oo ooooooo o oo
o
oo oo
ooo
oooo
o
oo
oo
ooooo
o
o
o
ooo
oo
oo oo
oooo o
o
oo
o
ooo
o
o ooo
o
o
ooo
o ooooooo
ooooo
ooooo
oo
ooo oo ooo oo o
o
o o
o
ooo
oo
o oo
oo
o
o
o oo
o o o
ooooooo
ooo o
oo o
oo
o
oo
oooo
oo
ooo
o
o
oo
ooo
o
o
oo oooooo
o
o
o o
oo
ooo o
oooo o
oooo
oo o
oo
o
oooo
oooo
o
o
oo oooo oo
oo
o
ooo
ooo
ooo
oo
o
o o
ooo
ooooo
o
oo
o
oo
o ooo
o
oo
oo
oooo o
o
o
o
o
o oo
oo
ooo
ooo
oooo
ooooo
oo
ooo
o
o
ooo
o
o
oo
o
ooo
ooo
ooo
o
o
o
oo o
ooo
o ooooooo ooo
ooo
ooo
oo
o
o
o
oooo
ooo
o
oo
ooo
ooo
o
ooo
o
o ooo
oooooo oo oooo
oo
oo
ooo
o
o
o
o
ooo oo
o
ooo
o
o
oo
o
o
oooo
ooooo o
ooo
ooo
o
ooo oo
oo
o
oo ooooooo
o
o
oo
o
o
o
ooo oo oo
oo
ooo
oo o
ooooooo ooo
oooooooooo oo
oo
ooo
ooo
o
ooo
o
oooo
oo ooo
o
o
o
o ooo
ooo ooo oo ooo
oo
o
ooo
o
oooo
o
o
o ooo
oo ooooooooo oooo oo
oo
o ooooo
oo ooo
o
oo
o
ooo
oo
ooo
ooo
o
ooo
oo
o
oooooo
o
oooooooo
oo
oooo
oo
oo
oo
oo
o
oo
oo o
o
o
o oooo oooo
o
o o
oo
oo
oooo ooo
ooo o
ooo
oo
o
oo oo
o
ooo
o
o
oooooooo
ooo
ooo
ooo
oo o
oo
o
oo
oo
o
ooo oo
o
oo
o
oo
o oooo
oo
oooo
ooo
oo
o
oooo
oooo
o
ooo
oo
oo
oooo
ooo
ooo
o
o
ooo
o
o
ooo
oo o
ooo
ooo
o
o
o
obesityo
ooo
oo
ooo
oo
oooooo
ooo
ooo
ooo
o
o
oo
o oooo
o
oo
oo
o
ooo
o
ooo
o
oooo
oo ooooooo ooo oo
oo
ooo
o
o
oo
ooo o
o
o
o oo
o
o
oo
o
o
o oo
o
oooo
oooooo o
o
o
oooooo
o
o
oo oo
ooooo
oo
oo
o
oo
oo
ooooo
oo
oo
oooo
ooooooo ooo
oo oo
oooo
oooo
o
oooo
ooo
oooo
o
oo
oo
oo ooo
o
o
o
ooo
oo
o oooo o
oo oo
oo
o
ooo
o
oooo
o
o
ooo
oo ooo oooo oooo
oooo o
oo
ooooo o
ooooo
o
o o
o
ooo
ooooooo
o
o
oooo
oo
oo o ooo
o
oooo
oooo
oo
ooo
oo
o
oo
oo
oo
o
oo
ooo
o
o
ooooo oo oo
o
oo
oo
oo
oooo o oo
o ooo
ooo
oo
oooo oo
oo o
o
o
oooo
ooo ooo
o
oo o
oo
oo oo
oo
o
oo
oo
o
oo ooo
o
oo
o
oo
oooo
o
oo
oo
o oooo
o
o
o
o
o oo
oo
ooo
ooo
oooo
ooooooo
ooo
o
o
ooo
o
o
ooo
oo ooo
o
oo o
o
o
o 1525
3545
ooo
oo
o
o ooo
oooo ooo
ooo
oo o
ooo
o
o
o ooo
oo o
o
oo
oo
o
ooo
o
oo
o
o
o o ooo o
oo oo oo o oo
oo
oo
o
oo o
o
o
oo
oooo
o
o
ooo
o
o
oo
o
o
ooo
o
oo o o
o oo
ooo oo
o
ooo o
oo
o
o
o oo
oooo oo
oo
oo
o
o
o
oo
o oooo
oo
oo
o
ooo
oo
ooooo o oo
oo oo o
o oo oooo
o
oo o
o
ooo
oo oo
o
oo
oo
oo ooo
o
o
o
ooo
oo
oo oo
ooo
o oooo
o
oo
o
o
oooo
o
o
ooo
oo o oo
ooo
ooo oo
ooooo
oo
oooo
ooo ooo o
o
o o
o
oo o
oo
ooo
oo
o
o
o oo
ooo
oo o o
ooo
oooo
ooo
oo
o
ooo
o oo
oo
oo
oo
o
oo
oo o
o
o
ooooo oo o
o
o
o o
o o
oo
o ooo
o oooo
o oo
o oo o
o
o oooo
ooo
oooo
ooo
oooo
oo
ooo
oo
oo
oo
o o
o
oo
oo
o
ooooo
o
oo
o
oo
o oooo
ooo
ooo
oo o
o
o
o
o
o oo
ooo oo
ooo
o oo
o
oooooooo o o
o
o
ooo
o
o
oo
o
oo o
oo
o
ooo
o
o
o
050
100
o
ooo
o
oooo o
o
oo oo
ooo
o
oo o
ooooooooo
ooo o
oo
ooo
o ooo
oo oo
o
ooo
o
oo
o
ooo o ooo
oo
o
ooooo
o
o
oooooo
o
o ooo
o
o
o ooooooo ooo
ooo
o oooo
o
ooooo oo o
o
ooo
ooooo
o o
o ooo
oo
o
oo
o
ooooo ooo
oo oo
ooo oooo
oo
o
o
oo
o
o
ooooo
oo
o ooo ooooooo o
oo
oo
o oooo ooo oooo
ooo
oo
oo
o
ooo
oo
oo
o oo oooo
oo oo
ooo
ooo o
o
ooo
o
oooo
oo
o
o
oooo ooo
o
o oo
oooo
o o
ooooooo oo oooo oo o o
oooo
o
oo
o
ooooooo o
o
oo
oo
o
ooo oooo
oo
oo
o
o
oo
o
o
oo
oo
o
o
ooo oooo oo
oo
ooo
o
o
o
o
oo
ooo
o
ooo ooo
oo
o
oo
oo
oooo o
oo
ooo oo
o
oo
o
o
o
o
o
oo
o
oo
o
ooo
o oo o
oooo o
o
o
ooo
oooo
o
o
oo ooo
oo
oo
ooo
o
o
o
ooo
oo
oooo oo oooooooo
o
o
o
oooo
o
oo
o
o o
o
o ooo o
o
o
ooo
o
ooooo
o
ooo oo o
o
o
oo
ooo ooo
oooo
o ooo
oooo
ooooo
o ooo
o
ooo
o
oo
o
oooooo
ooo
o
oo
oooo
o
oooooo
o
o oo oo
o
ooooooo oooo
o oo
ooooo
o
ooooo ooo
o
o oo
ooooo o o
ooo
ooo
o
oo
o
ooooo o
oo
oooooo ooooo
oo
o
o
oo
o
o
oooo o
oo oooooo oooo oo
o oo o
o ooo
oooooooo
ooo
o
o
oo
o
oo
oo
o
ooooo o
ooo oooo oo
oo
ooo
o
ooo
o
oooo
ooo
o
o ooo oo o
o
o o o
o ooo
oo
ooo
oooo oo o
ooooo ooooooo
o o
o
ooooo
ooo
o
oooo
o
oo oooooo
o
oo
oo
oo
oo
oo
oo
o
oooo
ooo oooo
o oo
oo
o
o
o
oo
ooo
o
ooo o ooo
o
ooo
oo
ooo
ooo
o
oo oo o
o
oo
o
o
o
o
o
oo
o
oo
o
oo o
o o
oooo
oo o
oo
o oo
oooo
o
o
oo oo oo o
oo
ooo
o
o
o
ooo
oo
ooooooooooo ooo
o
o
o
oooo
o
oo
o
oo
o
ooooo
o
o
ooo
o
oooo o
o
ooooo o
o
o
ooo
ooo oooo oooooo
o oo
ooooo
ooo oo
o
o oo
o
oo
o
ooooo oo
oo
o
oo o
ooo
o
ooo ooo
o
ooooo
o
ooooooo o oo
o
o oo
ooooo
o
oooo ooo o
o
oooo
oooo
oo
ooo
oo
o
o
oo
o
ooooo o
oo
ooo
oooo oooo
oo
o
o
oo
o
o
o ooo o o
o oooooo ooo
ooooo
oo
o ooooooo
ooooo oo
o
o
ooo
ooo
oo
oo
oo o oo oo
oo oooo
oo
ooo
o
ooo
o
oooo
ooo
o
ooooo oo
o
oo o
ooo
oo o
ooo
ooo ooo oooo oo o o oooo
o
oo
o
ooo oo
o ooo
oo
oo
o
oo oo ooo
oo
oo
o
o
oo
oo
oooo
o
o
oooo oooo
oo
oo o
oo
o
o
o
oo
ooo
o
oo oooo
o
o
oo
o
ooooo
ooo
o
oooo o
o
oo
o
o
o
o
o
oo
o
oo
o
oo ooo
o ooooo o
oo
oooo
o ooo
o
oo oo
oo o
oo
o oo
o
o
o
ooo
oo
oooo ooooo ooo oo
o
o
o
o oo o
o
oo
o
oo
o
o ooo oo
o
o oo
o
oo ooo
o
ooo o
ooo
o
oooooo oo
ooo
oo ooo
ooo
oooooo
oo oo
o
o ooo
oo
o
ooo oo oo
oo
o
oo oooo
o
oooo oo
o
oo ooo
o
o ooooooooo
ooo
ooo ooo
o
ooooo oo o
o
ooo
ooooooo
ooooo
o
o
oo
o
oo oo oo
oo
ooo
oo
oooooo
oo
o
o
ooo
oooooo ooooooo ooooooo oo
oo
oooooo ooo
ooo
o oo
oo
ooo
o o
oo
o
oooooo
ooooo oo
ooo
oo
oo
o
ooo
o
oooo
oo
o
o
o oo ooo o
o
oo o
oooo
o o
o ooooooooooo ooo ooooo
oo
oo
o
oooooooo
o
oooo
o
oooo oooo
o
oo
o
o
oo
oo
oo
oo
o
oo
ooo ooooo o
ooooo
o
o
o
oo
ooo
o
oo oo oooo
oo
o
oo
oooooo
o
o ooo o
o
oo
o
o
o
o
o
oo
o
oo
o
ooo
o o
oooooo o
oo
ooo
ooo oo
o
ooooo
oo
oo
ooo
o
o
o
ooo
oo
oooooo oo ooooo o
o
o
o
oo oo
o
oo
o
oo
o
ooooo
o
o
ooo
o
oooo o
o
oooo
ooo
o
ooo
o ooo oo
oooo
ooo
oo
oo
oooo
oooo o
o
oooo
oo
o
ooooooooo
o
oo oooo
o
o oo ooo
o
o oooo
o
o oo oo ooo o
oooo
oo o ooo
o
oooo ooo o
o
ooo
ooo oo
ooooooo
o
o
oo
o
oooo
ooo
oo
ooo oo
ooooo
oo
o
o
oo
o
o
oooo oo
o oooo oo ooo oo ooo
oo
o ooooo oo
ooo o
ooo
oo
ooo
oo
oo
o
oo
ooo oooo oo oo
ooo
oo
oo
o
ooo
o
ooooooo
o
oooooo o
o
ooo
oo oo
o o
o ooo
ooooo o
o oooo oooo oo
o
oo
o
o oooo
oo o
o
oo
oo
o
oo o ooooo
o
oo
o
o
oo
oo
oo
oo
o
oo
oooooo oooo
oo
oo
o
o
o
oo
ooo
o
oo oooo
oo
oo
o
ooo
oooo
oo
ooo oo
o
oo
o
o
o
o
o
oo
o
oo
o
oo o
oo
o oo o
oo o
oo
ooo
oo oo
o
o
oooo
oo o
oo
ooo
o
o
o
ooo
o
o
o ooo oooo oooo oo
o
o
o
o ooo
o
oo
o
oo
o
oooo o
o
alcoholo
ooo
o
oo oo o
o
ooo ooo
o
o
ooo
o ooo oo
o ooo
oo o
o oo
oo
oooo
o o oo
o
o oo
o
oo
o
o oo oo oo
oo
o
oo ooo o
o
o o o ooo
o
o oooo
o
ooo oo oo o o oo
o oo
oo ooo
o
ooooo oo o
o
ooo
oo oo o
oooo
o oo
o
o
oo
o
oooo oo
oo
ooo
oo
oooooo
o
o
o
o
oo
oo
o ooo ooo ooo o
oooooo oo
o oo
o
o ooooo oo
oooo
o oo
oo
o oo
ooooo
ooo oo o
ooo oo o oo oo
o
o
oo
o
ooo
o
o ooo
ooo
o
o oooooo
o
o oo
o oo
ooo
oo oo
ooo oo oooo o o ooooo
oo
oo
o
ooooo
oo o
o
oo
oo
o
ooo oooo
oo
oo
o
o
oo
o
o
oo
oo
o
oooo
o oo o oo
oo oo
oo
o
o
o
oo
oo o
o
o oo oooo
o
o
oo
oo
ooo
o o
oo
o o oo o
o
oo
o
o
o
o
o
oo
o
oo
o
o oo
o o
o ooo
oo o
o
o
ooo
ooooo
o
oo ooo
oo
oo
ooo
o
o
o
ooo
o
o
oooooooooo o ooo
o
o
o
o ooo
o
oo
o
oo
o
ooooo
o
100 160 220
o
o
o
oooo
o
o
oo
o
o o
ooo
ooo
o
oo
oo
oo
ooo
o o
o
oo
oo
o
o
o
o
o
o
o
o
oo
o
o
o
oo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oooo
o
oo
o
oo
oo o
oo
ooo
o
oo
oo
o
o
o
o
oo
o
o
o
o
o
o
o
o
oo
ooo
o
oo
o
o
oo
o
o
o
o
o
o
oo
o
o
o
oo
oooo
o
o
o
o
oo
o
o o
o
o
o
o oo
oo
ooo
oo
o
o
o
o
oo
o
o
ooo
oo
o
o
oo
o
o
ooo
o
oo
o oo
o
oo
o
o
o
oo
oo
o
oooo
o
o
oo
oo
oo
o
o
o ooo
oo
o
o
o
o
oo
o
o
o
o
o
o
oo
o
o
oo
oo
o o
oo o
o
o
ooo
oooo ooo
o
o
o
ooo
o
oo
o
oo
o
o
o
oo
o
o
oo
o
o
o
oo o
o
oo
o
oo
o
o
oooo
o
oo
o
o
oo
oo
oo
o
o
oo
o
oo
o
oo
o
o
o
oo
o
o
o
oo
o
o
ooo
o
o
o
o
o
o
oo
oo
o
oo
oo
o
o o
oo
o
oo
o
o
o
o
ooo
o
o
oo
o
o
o
o
oo
o oo
oo
o
oo
o
o
o
o
o
o
o
ooo
o
o
ooo
o
o
o
o
oo
o
o
o
ooooo
o ooo
o o
o
o
ooo
o
oo
o
oooo
oo
o
ooo
o
oo
oo oooooo
oo
o
o
o
o
ooo
oo
o
oo
oo
o
o
o oo
o
oo
o
o
o
o
ooo
o
o
oo
o
oo
oo o
o
o o
o
ooo
ooo
oo
o
oo
o
oo
oo
o
o
o
o
o
o
o
o
oo
o
o
o
oo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oooo
o
oo
o
oo
oo o
oo
oo o
o
oo
oo
o
o
o
o
ooo
o
o
o
o
o
o
o
oo
ooo
o
oo
o
o
o o
o
o
o
o
o
o
oo
o
o
o
oo
ooo
o
o
o
o
o
ooo
o o
o
o
o
ooo
o
o
ooo
oo
o
o
o
o
oo
o
o
ooo
oo
o
o
oo
o
o
oo o
o
oo
ooo
o
o
o
o
o
o
oo
ooo
oooo
o
o
oo
oo
oo
o
o
oooo
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
ooo
oo
oo oo
o
o
o
o
oo
o
o
o
o
o
oo
o
o
o
oo
o
o
o
o
o
o
o
ooo
o
oo
o
oo
o
o
oooo
o
oo
o
o
oo
oo
oo
o
o
oo
o
o o
o
oo
o
o
o
oo
o
o
o
oo
o
o
ooo
o
o
o
o
o
o
oo
oo
o
oo
o o
o
oo
oo
o
oo
o
o
o
o
o ooo
o
oo
o
o
o
o
oo
ooo
oo
o
o
o
o
o
o
o
o
o
o
oo
oo
oo
oo
o
o
o
o
oo
o
o
o
oo
o oo
oooo
oo
o
o
ooo
o
oo
o
ooo o
oo
o
o
oo
o
oo
oooooooo
oo
o
o
o
o
ooo
oo
o
oo
oo
o
o
oooo
oo
2 6 10 14
o
o
o
o
oo
o
o
o
oo
o
oo
oo o
ooo
o
oo
oo
oo
oo
o
o o
o
oo
o o
o
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
oo
o
o
o
o
o
o
o
o
o
o
oooo
o
o
o
o
oo
ooo
oo
ooo
o
oo
oo
o
o
o
o
oo
o
oo
o
o
o
o
o
oo
ooo
o
o o
o
o
oo
o
o
o
o
o
o
oo
o
o
o
o
o
ooo
o
o
o
o
o
ooo
o o
o
o
o
ooo
o
o
ooo
oo
o
o
o
o
oo
o
o
oo
o
oo
o
o
oo
o
o
oo o
o
oo
oo oo
oo
o
o
o
oo
oo
o
oooo
o
o
oooo
oo
o
o
ooo o
oo
o
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
oo
oo
o
oo
o
o
ooo
ooooo oo
o
o
o
oo
o
o
oo
o
oo
o
o
o
o o
o
o
o
o
o
o
o
oo o
o
oo
o
oo
o
o
ooo o
o
o o
o
o
oo
oo
ooo
o
oo
o
oo
o
oo
o
o
o
oo
o
o
o
ooo
o
ooo
o
o
o
o
o
o
oo
o o
o
o o
ooo
oo
oo
o
oo
o
o
o
o
ooo
o
o
oo
o
o
o
o
oo
oo
ooo
o
oo
o
o
o
o
o
o
o
oo
oo
o
oo
o
o
o
o
o
oo
o
o
o
oo
o oo
o o oo
oo
o
o
ooo
o
oo
o
oooo
oo
o
oo o
o
oo
oo ooooo o
oo
o
o
o
o
ooo
o o
o
oo
oo
o
o
o ooo
oo
o
o
o
ooo
o
o
o
oo
o
oo
oooooo
o
oo
oo
oo
o oo
oo
o
oo
oo
o
o
o
oo
o
o
o
o
o
o
o
o
ooo
o
oo
o
o
o
o
oo
o
o
o
o
oooo
o
o
o
o
oo
o oo
oo
o oo
o
oo
oo
o
o
o
o
ooo
o
o
o
o
o
o
o
oo
ooo
o
oo
o
o
oo
o
oo
o
o
o
oo
oo
o
oo
ooo
o
o
o
o
o
o oo
oo
o
o
o
ooo
oo
ooo
oo
o
o
o
o
oo
o
o
ooo
oo
o
o
oo
o
o
o oo
o
oo
oooo
oo
o
o
o
oo
ooo
oo oo
o
o
oo
oo
oo
o
o
oo oo
ooo
o
o
o
oo
o
o
o
o
o
o
oo
o
o
ooo
o
oo
o
o o
o
o
o oo
ooo oo
oo
o
o
o
ooo
o
o
o
o
o o
o
o
o
oo
o
o
o
o
o
o
o
ooo
o
oo
o
o
o
o
o
oooo
o
oo
o
o
oo
oo
ooo
o
oo
o
oo
o
o o
o
o
o
ooo
o
o
oo
o
o
o oo
o
o
o
o
o
o
oo
oo
o
oo
oo
o
oo
oo
o
oo
o
o
o
o
oooo
o
o o
o
o
o
o
oo
oo
ooo
o
o
o
o
o
o
o
o
o
o
ooo
o
o
oo
o
o
o
o
o
oo
o
o
o
oo
ooo
oooo
oo
o
o
ooo
o
oo
o
oooo
ooo
oo o
o
oo
oooo oo oo
ooo
o
o
oo oo
oo
o
oo
oo
o
o
oooo
oo
15 25 35 45
o
o
o
oo
oo
o
o
oo
o
oo
ooo
ooo
o
oo
oo
oo
oo
o
oo
o
oo
o o
o
o
o
o
o
o
o
o
o
o
o
o
o
ooo
o
oo
oo
o
o
o
o
o
o
o
o
oooo
o
o
o
o
oo
ooo
oo
ooo
o
oo
oo
o
o
o
o
oo
o
o
o
o
o
o
o
o
oo
ooo
o
o o
o
o
oo
o
o
o
o
o
o
oo
o
o
o
o
o
o ooo
o
o
o
o
ooo
oo
o
o
o
ooo
oo
oo
o
oo
o
o
o
o
oo
o
o
ooo
oo
o
o
oo
o
o
oo o
o
oo
ooo
o
oo
o
o
o
oo
o
o
o
ooo o
o
o
ooo o
oo
o
o
oo oo
ooo
o
o
o
oo
o
o
o
o
o
o
o
o
o
o
oo
oo
oo
ooo
o
o
ooo
oooo
oo
o
o
o
o
ooo
o
oo
o
o o
o
o
o
oo
o
o
o
o
o
o
o
ooo
o
o o
o
oo
o
o
o ooo
o
oo
o
o
oo
oo
oo
o
o
oo
o
oo
o
o o
o
o
o
oo
o
o
o
ooo
o
o oo
o
o
o
o
o
o
oo
oo
o
oo
oo
o
oo
oo
o
oo
o
o
o
o
oooo
o
oo
o
o
o
o
oo
oo
oo o
o
o
o
o
o
o
o
o
o
o
oo
oo
o
ooo
o
o
o
o
o o
o
o
o
oo
oo o
oo oo
oo
o
o
o oo
o
oo
o
oooo
oo
o
o
o o
o
o o
oo oooo oo
oo
o
o
o
o
ooo
oo
o
oo
o
o
o
o
oooo
oo
o
o
o
oo
oo
o
o
oo
o
oo
ooo
ooo
o
oooooo
ooo
o o
o
oo
oo
o
o
o
o
o
o
o
o
o
o
o
o
o
oo
o
o
oo
oo
o
o
o
o
o
o
o
o
oooo
o
oo
o
oo
oo o
oo
oo o
o
oo
oo
o
o
o
o
oo
o
o
o
o
o
o
o
o
oo
ooo
o
oo
o
o
o o
o
o
o
o
o
o
oo
o
o
o
o
o
oo o o
o
o
o
o
oo
o
oo
o
o
o
ooo
o
o
ooo
oo
o
o
o
o
o o
o
o
ooo
oo
o
o
ooo
o
ooo
o
oo
oooo
oo
o
o
o
oo
oo
o
oooo
o
o
o ooo
oo
o
o
oo oo
ooo
o
o
o
oo
o
o
o
o
oo
o
o
o
o
ooo
o
o o
o
oo
o
o
ooo
oooo
ooo
o
o
o
ooo
o
oo
o
oo
o
o
o
oo
o
o
oo
o
o
o
ooo
o
oo
o
oo
o
o
oooo
o
oo
o
o
oo
oo
oo
o
o
oo
o
oo
o
oo
o
o
o
oo
o
o
o
oo
o
o
ooo
o
o
o
o
o
o
oo
oo
o
oo
o o
o
o o
oo
o
oo
o
o
o
o
o oo o
o
o o
o
o
o
o
oo
ooooo
o
oo
o
o
o
o
o
o
o
oo
oo
o
ooo
o
o
o
o
oo
o
o
o
oo
ooo
ooo
o
o o
o
o
o oo
o
oo
o
oo
o o
oo
o
oo o
o
oo
oooooooo
ooo
o
o
o
ooo
oo
o
oo
oo
o
o
oo oo
oo
20 40 60
2040
60
age
11 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
12 / 29
Spam Detection
• data from 4601 emails sent to an individual (named George,at HP labs, before 2000). Each is labeled as spam or email.
• goal: build a customized spam filter.
• input features: relative frequencies of 57 of the mostcommonly occurring words and punctuation marks in theseemail messages.
george you hp free ! edu remove
spam 0.00 2.26 0.02 0.52 0.51 0.01 0.28email 1.27 1.27 0.90 0.07 0.11 0.29 0.01
Average percentage of words or characters in an email message equal
to the indicated word or character. We have chosen the words and
characters showing the largest difference between spam and email.
13 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
14 / 29
15 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
16 / 29
17 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
18 / 29
20 40 60 80
5010
020
030
0
Age
Wag
e
2003 2006 200950
100
200
300
Year
Wag
e1 2 3 4 5
5010
020
030
0
Education Level
Wag
e
Income survey data for males from the central Atlantic regionof the USA in 2009.
19 / 29
Statistical Learning Problems
• Identify the risk factors for prostate cancer.
• Classify a recorded phoneme based on a log-periodogram.
• Predict whether someone will have a heart attack on the basisof demographic, diet and clinical measurements.
• Customize an email spam detection system.
• Identify the numbers in a handwritten zip code.
• Classify a tissue sample into one of several cancer classes,based on a gene expression profile.
• Establish the relationship between salary and demographicvariables in population survey data.
• Classify the pixels in a LANDSAT image, by usage.
20 / 29
Spectral Band 1 Spectral Band 2 Spectral Band 3
Spectral Band 4 Land Usage Predicted Land Usage
Usage ∈ {red soil, cotton, vegetation stubble, mixture, gray soil, damp
gray soil}
21 / 29
The Supervised Learning Problem
Starting point:
• Outcome measurement Y (also called dependent variable,response, target).
• Vector of p predictor measurements X (also called inputs,regressors, covariates, features, independent variables).
• In the regression problem, Y is quantitative (e.g price,blood pressure).
• In the classification problem, Y takes values in a finite,unordered set (survived/died, digit 0-9, cancer class oftissue sample).
• We have training data (x1, y1), . . . , (xN , yN ). These areobservations (examples, instances) of these measurements.
22 / 29
Objectives
On the basis of the training data we would like to:
• Accurately predict unseen test cases.
• Understand which inputs affect the outcome, and how.
• Assess the quality of our predictions and inferences.
23 / 29
Philosophy
• It is important to understand the ideas behind the varioustechniques, in order to know how and when to use them.
• One has to understand the simpler methods first, in orderto grasp the more sophisticated ones.
• It is important to accurately assess the performance of amethod, to know how well or how badly it is working[simpler methods often perform as well as fancier ones!]
• This is an exciting research area, having importantapplications in science, industry and finance.
• Statistical learning is a fundamental ingredient in thetraining of a modern data scientist.
24 / 29
Unsupervised learning
• No outcome variable, just a set of predictors (features)measured on a set of samples.
• objective is more fuzzy — find groups of samples thatbehave similarly, find features that behave similarly, findlinear combinations of features with the most variation.
• difficult to know how well your are doing.
• different from supervised learning, but can be useful as apre-processing step for supervised learning.
25 / 29
The Netflix prize
• competition started in October 2006. Training data isratings for 18, 000 movies by 400, 000 Netflix customers,each rating between 1 and 5.
• training data is very sparse— about 98% missing.
• objective is to predict the rating for a set of 1 millioncustomer-movie pairs that are missing in the training data.
• Netflix’s original algorithm achieved a root MSE of 0.953.The first team to achieve a 10% improvement wins onemillion dollars.
• is this a supervised or unsupervised problem?
26 / 29
BellKor’s Pragmatic Chaos wins, beating The Ensemble by anarrow margin.
27 / 29
Statistical Learning versus Machine Learning
• Machine learning arose as a subfield of ArtificialIntelligence.
• Statistical learning arose as a subfield of Statistics.
• There is much overlap — both fields focus on supervisedand unsupervised problems:
• Machine learning has a greater emphasis on large scaleapplications and prediction accuracy.
• Statistical learning emphasizes models and theirinterpretability, and precision and uncertainty.
• But the distinction has become more and more blurred,and there is a great deal of “cross-fertilization”.
• Machine learning has the upper hand in Marketing!
28 / 29
Course Texts
1
James · W
itten · Hastie · Tibshirani
Springer Texts in Statistics
Gareth James · Daniela Witten · Trevor Hastie · Robert Tibshirani
An Introduction to Statistical Learning with Applications in R
Springer Texts in Statistics
An Introduction to Statistical Learning
Gareth JamesDaniela WittenTrevor HastieRobert Tibshirani
Statistics
An Introduction to Statistical Learning
with Applications in R
An Introduction to Statistical Learning provides an accessible overview of the fi eld
of statistical learning, an essential toolset for making sense of the vast and complex
data sets that have emerged in fi elds ranging from biology to fi nance to marketing to
astrophysics in the past twenty years. Th is book presents some of the most important
modeling and prediction techniques, along with relevant applications. Topics include
linear regression, classifi cation, resampling methods, shrinkage approaches, tree-based
methods, support vector machines, clustering, and more. Color graphics and real-world
examples are used to illustrate the methods presented. Since the goal of this textbook
is to facilitate the use of these statistical learning techniques by practitioners in sci-
ence, industry, and other fi elds, each chapter contains a tutorial on implementing the
analyses and methods presented in R, an extremely popular open source statistical
soft ware platform.
Two of the authors co-wrote Th e Elements of Statistical Learning (Hastie, Tibshirani
and Friedman, 2nd edition 2009), a popular reference book for statistics and machine
learning researchers. An Introduction to Statistical Learning covers many of the same
topics, but at a level accessible to a much broader audience. Th is book is targeted at
statisticians and non-statisticians alike who wish to use cutting-edge statistical learn-
ing techniques to analyze their data. Th e text assumes only a previous course in linear
regression and no knowledge of matrix algebra.
Gareth James is a professor of statistics at University of Southern California. He has
published an extensive body of methodological work in the domain of statistical learn-
ing with particular emphasis on high-dimensional and functional data. Th e conceptual
framework for this book grew out of his MBA elective courses in this area.
Daniela Witten is an assistant professor of biostatistics at University of Washington. Her
research focuses largely on high-dimensional statistical machine learning. She has
contributed to the translation of statistical learning techniques to the fi eld of genomics,
through collaborations and as a member of the Institute of Medicine committee that
led to the report Evolution of Translational Omics.
Trevor Hastie and Robert Tibshirani are professors of statistics at Stanford University, and
are co-authors of the successful textbook Elements of Statistical Learning. Hastie and
Tibshirani developed generalized additive models and wrote a popular book of that
title. Hastie co-developed much of the statistical modeling soft ware and environment
in R/S-PLUS and invented principal curves and surfaces. Tibshirani proposed the lasso
and is co-author of the very successful An Introduction to the Bootstrap.
9 781461 471370
ISBN 978-1-4614-7137-0
STS
The course will cover most of the material in thisSpringer book (ISLR) published in 2013, whichthe instructors coauthored with Gareth Jamesand Daniela Witten. Each chapter ends with an Rlab, in which examples are developed. By January1st, 2014, an electronic version of this book will beavailable for free from the instructors’ websites.
Springer Series in Statistics
Trevor HastieRobert TibshiraniJerome Friedman
Springer Series in Statistics
The Elements ofStatistical LearningData Mining, Inference, and Prediction
The Elements of Statistical Learning
During the past decade there has been an explosion in computation and information tech-nology. With it have come vast amounts of data in a variety of fields such as medicine, biolo-gy, finance, and marketing. The challenge of understanding these data has led to the devel-opment of new tools in the field of statistics, and spawned new areas such as data mining,machine learning, and bioinformatics. Many of these tools have common underpinnings butare often expressed with different terminology. This book describes the important ideas inthese areas in a common conceptual framework. While the approach is statistical, theemphasis is on concepts rather than mathematics. Many examples are given, with a liberaluse of color graphics. It should be a valuable resource for statisticians and anyone interestedin data mining in science or industry. The book’s coverage is broad, from supervised learning(prediction) to unsupervised learning. The many topics include neural networks, supportvector machines, classification trees and boosting—the first comprehensive treatment of thistopic in any book.
This major new edition features many topics not covered in the original, including graphicalmodels, random forests, ensemble methods, least angle regression & path algorithms for thelasso, non-negative matrix factorization, and spectral clustering. There is also a chapter onmethods for “wide” data (p bigger than n), including multiple testing and false discovery rates.
Trevor Hastie, Robert Tibshirani, and Jerome Friedman are professors of statistics atStanford University. They are prominent researchers in this area: Hastie and Tibshiranideveloped generalized additive models and wrote a popular book of that title. Hastie co-developed much of the statistical modeling software and environment in R/S-PLUS andinvented principal curves and surfaces. Tibshirani proposed the lasso and is co-author of thevery successful An Introduction to the Bootstrap. Friedman is the co-inventor of many data-mining tools including CART, MARS, projection pursuit and gradient boosting.
› springer.com
S T A T I S T I C S
----
Trevor Hastie • Robert Tibshirani • Jerome FriedmanThe Elements of Statictical Learning
Hastie • Tibshirani • Friedman
Second Edition
This Springer book (ESL) is more mathematicallyadvanced than ISLR; the second edition was pub-lished in 2009, and coauthored by the instructorsand Jerome Friedman. It covers a broader rangeof topics. The book is available from Springer andAmazon, a free electronic version is available fromthe instructors’ websites.
29 / 29
