La paura dell'algoritmo perchè?

50
La paura dell’algoritmo: perché 20 aprile 2017 Eleonora Pantò Learning, Inclusion e Social Innovation Donne e ICT – Laboratorio Universita Torino

Transcript of La paura dell'algoritmo perchè?

Page 1: La paura dell'algoritmo perchè?

La paura dell’algoritmo: perché

20 aprile 2017

Eleonora PantòLearning, Inclusion e Social Innovation

Donne e ICT – Laboratorio Universita Torino

Page 2: La paura dell'algoritmo perchè?

2

Page 3: La paura dell'algoritmo perchè?

3

Mi presento

Page 4: La paura dell'algoritmo perchè?

5

2011 Software is eating the world

Page 5: La paura dell'algoritmo perchè?

6

Evolution of the desk

Page 6: La paura dell'algoritmo perchè?

7

Evolution of the city

http://youtu.be/9YBOn-Fxg_4

Page 7: La paura dell'algoritmo perchè?

8

Digitisation is shaping the Future of Work

https://www.youtube.com/watch?v=z6Ew7N9tPOo

Page 8: La paura dell'algoritmo perchè?

9

Computational thinking

Dottori, avvocati, insegnanti, allevatori, un qualunque

mestiere. Il futuro di tutte queste professioni sarà

pieno di Pensiero Computazionale. Medicina basata

sui sensori, smart contract, analisi di dati

nell'educazione, agricoltura di precisione: il successo

dipenderà da quanto sarete bravi con il pensiero

computazionale. Mi sono accorto di una tendenza

interessante. Scegliete un qualsiasi settore X, dalla

Archeologia alla Zoologia. Ci sono due possibilità: o

esiste già “X Computazionale” o esisterà presto. E

tutti lo considerano il futuro di quel settore.

http://blog.stephenwolfram.com/2016/09/how-to-teach-computational-thinking/

Page 9: La paura dell'algoritmo perchè?

10

2016 - Computer science for all

Nei prossimi anni, dovremmo lavorare affinché ogni studente possa sperimentare l’informatica e la matematica su computer per renderli pronti per il lavoro dal primo giorno.

Nella new economy l’informatica non è una competenza opzionale, ma fondamentale come leggere e far di conto. 9 genitori su 10 vogliono che questo sia insegnato a scuola.

https://www.whitehouse.gov/blog/2016/01/30/computer-science-all

Page 10: La paura dell'algoritmo perchè?

11

Coding a scuola

Il «coding» a scuola è una

buona idea?

Cosa è il coding?

Page 11: La paura dell'algoritmo perchè?

12

Ricordate questa foto?

Page 12: La paura dell'algoritmo perchè?

Il web è per tutti, ma il software è un club per soli uomini

13

Page 13: La paura dell'algoritmo perchè?

14

Scarsa presenza femminile nelle ICT

85% dei tecnici di Facebook and Yahoo sono uomini

• Appcamp4girl

• Girlswhocode

• Women’s code collective

• Railgirls RubyRails for Girls (Finland)

• Shine for girls - Learning math throughdance

Megan Smith è stata CTO della Casa Bianca, in

qualità di vicepresidente Google ha lanciato la

campagna“Google’s Made With Code” per

avvicinare le ragazze alla programmazione.

Page 14: La paura dell'algoritmo perchè?

15

Invece nel 1946…

“The computers”

Jean Jennings (left) and

Frances Bilas set up the ENIAC

in 1946. Bilas is arranging the

program settings on the Master

Programmer.

http://www.digitaltrends.com/business/where-did-all-the-women-in-computer-science-go/

Page 15: La paura dell'algoritmo perchè?

16

…1961 Hidden figures

Three brilliant African-American women

at NASA -- Katherine Johnson (Taraji P.

Henson), Dorothy Vaughan (Octavia

Spencer) and Mary Jackson (Janelle

Monáe) -- serve as the brains behind

one of the greatest operations in

history: the launch of astronaut John

Glenn (Glen Powell) into orbit, a

stunning achievement that restored the

nation's confidence, turned around the

Space Race and galvanized the world.

Page 16: La paura dell'algoritmo perchè?

17

1967 The computer girls

Now have come the big, dazzling computers—and a whole new kind of work for women: programming. Telling the miracle machines what to do and how to do it. Anything from predicting the weather to sending out billing notices from the local department store. And if it doesn't sound like women's work—well, it just is.“

(Cosmopolitan Magazine 1967)

Page 17: La paura dell'algoritmo perchè?

18http://www.npr.org/sections/money/2014/10/21/357629765/when-women-stopped-coding

Page 18: La paura dell'algoritmo perchè?

19

Donne e futuro del lavoro

Across all industries, almost half of respondents – 44% – said that both unconscious bias among managers and a lack of work-life balance were significant barriers to gender diversity in the workplace. Almost as many – 39% – pointed to a lack of female role models. Although women now outnumber men at university, and graduate in higher numbers, 36% of respondents still said there weren’t enough qualified women for the positions they’re looking to fill. Only 6% blamed a lack of parental leave, and 10% said there were no barriers.

http://www3.weforum.org/docs/WEF_Future_of_Jobs.pdf

Page 19: La paura dell'algoritmo perchè?

20

http://www3.weforum.org/docs/WEF_Future_of_Jobs.pdf

Donne e futuro del lavoro nell’ICT

Page 20: La paura dell'algoritmo perchè?

21

http://www3.weforum.org/docs/WEF_Future_of_Jobs.pdf

Donne e futuro del lavoro nell’ICT

Page 21: La paura dell'algoritmo perchè?

L’algoritmo

22

Page 22: La paura dell'algoritmo perchè?

23

Algoritmo vs Codice

Algoritmi: una sequenza di passi che descrive un'idea per risolvere un problema che soddisfi i criteri di correttezza e terminabilità.Una ricetta astratta per il calcolo indipendente dall'implementazione.

Codice: Un insieme di istruzioni per un computer.Implementazione concreta del calcolo su una piattaforma

specifica in un linguaggio di programmazione specifico.

Page 23: La paura dell'algoritmo perchè?

24

Computer Science

Problem solving – AlgoritmiLogica – astrazione, logica booleanaDati - cos’è informazioneSistemi – modellare sistemi complessi che soddisfano vincoli e requisitiPensiero – intelligenza artificiale, apprendimento automatico, linguaggio naturale

Page 24: La paura dell'algoritmo perchè?

25

“Even more remarkable — and even less widely understood — is that in many areas, performance gains due to improvements in algorithms have vastly exceeded even the dramatic performance gains due to increased processor speed.” — Report to the President and Congress: Designing a digital future (2010)

Algoritmo

https://www.hsdl.org/?abstract&did=10223

Page 25: La paura dell'algoritmo perchè?

26

Algoritmo

“The Industrial Revolution automated manual work and the Information Revolution did the same for mental work, but machine learning automates automation itself. Without it, programmers become the bottleneck holding up progress. With it the pace of progress picks up” — Pedro Domingos, The Master Algorithm

https://www.youtube.com/watch?v=B8J4uefCQMc

Page 26: La paura dell'algoritmo perchè?

27

La paura dell’algoritmo

Page 27: La paura dell'algoritmo perchè?

28

Agosto 2016

Page 28: La paura dell'algoritmo perchè?

29

Marzo 2017

Page 29: La paura dell'algoritmo perchè?

30

La foto censurata

Se c’è una scelta di cosa pubblicare allora Facebook è un editore?

Siamo sicuri che sia stato un algoritmo?

Page 30: La paura dell'algoritmo perchè?

31

2016 – TI potrebbe interessare anche… Cardon parla a tale proposito di governamentalità algoritmica una pratica che appare tanto più insidiosa in quanto non si fonda sulla censura e sulla coercizione ma fa sì che noi accettiamo ciò che ci viene “suggerito” nella convinzione di averlo liberamente scelto. “Gli zelanti profeti dei Big Data, scrive, promuovono l’idea che nuove forme di governo generate operando buoni calcoli su dati validi sarebbero meno ingiuste, paternaliste o deformanti delle istituzioni o dei media poiché la loro comprensione della società nascerebbe direttamente dallo studio delle azioni degli individui

Page 31: La paura dell'algoritmo perchè?

32

Salute htt

p:/

/corr

iere

dib

olo

gna.c

orr

iere

.it/bolo

gna/n

otizie

/cro

naca/2

017/7

-aprile

-2017/s

alu

te-a

lgoritm

o-c

erc

are

-pers

one-p

iu-r

ischio

-em

ilia-2

401454966982.s

htm

l

Page 32: La paura dell'algoritmo perchè?

33

Salute htt

p:/

/new

s.s

tanfo

rd.e

du/2

017/0

4/0

3/d

ee

p-le

arn

ing-a

lgorith

m-a

id-d

rug-d

evelo

pm

ent/

Page 33: La paura dell'algoritmo perchè?

34

Giustizia https://w

ww

.blo

om

berg

.com

/ne

ws/f

eatu

res/2

017

-02

-08/s

erial-kill

ers

-should

-fea

r-th

is-a

lgori

thm

Page 34: La paura dell'algoritmo perchè?

35

La platform economy

https://www.slideshare.net/AntonioAloisi1/la-platformeconomy-e-sfide-del-diritto-del-lavoro

Antonio Aloisi presentazione per Nexa Center

Page 35: La paura dell'algoritmo perchè?

36

La platform economy

https://www.slideshare.net/AntonioAloisi1/la-platformeconomy-e-sfide-del-diritto-del-lavoro

Antonio Aloisipresentazione per NexaCenter

Page 36: La paura dell'algoritmo perchè?

37

La platform economy

https://www.slideshare.net/AntonioAloisi1/la-platformeconomy-e-sfide-del-diritto-del-lavoro

Antonio Aloisi presentazione per Nexa Center

Page 37: La paura dell'algoritmo perchè?

38

2015 Politica

Utilizzando lo stesso software che produce articoli di giornale, sono state creati innumerevoli minime variazioni di un articolo di legge per fare ostruzionismo. La Lega sostiene di averlo fatto per difendere la democrazia

Page 38: La paura dell'algoritmo perchè?

39

2017 – La politica al tempo di Facebookh

ttp

s:/

/mo

therb

oard

.vic

e.c

om

/en

_us/a

rtic

le/h

ow

-ou

r-lik

es-h

elp

ed-t

rum

p-w

in

Obama ha puntato sui social come mezzo per mobilitare le persone, Trump ha usato i dati che le persone lasciano su Facebook

Come le Big 5, la psicometria e i risultati di un ricercatore Kosinski, sono stati usati da una società –la Cambridge Analytica per vincere le elezioni USA

" Seventy "likes" were enough to outdo what a person's friends knew, 150 what their parents knew, and 300 "likes" what their partner knew. More "likes" could even surpass what a person thought they knew about themselves.

Page 39: La paura dell'algoritmo perchè?

40

Data Selfie

https://vimeo.com/d4t4x/dataselfie

Page 40: La paura dell'algoritmo perchè?

41

Le AI e i pregiudizi

AI has the potential to

reinforce existing biases

because, unlike humans,

algorithms are unequipped

to consciously counteract

learned biases, researchers

warn.

Photograph: KTS

Design/Getty

Images/Science Photo

Library RF

https://www.theguardian.com/technology/2017/apr/13/ai-programs-exhibit-racist-and-sexist-biases-research-reveals#img-1

Page 41: La paura dell'algoritmo perchè?

42

Tay, il chatbot sessista

https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist

" The more you chat with Tay, said Microsoft,

the smarter it gets, learning to engage people

through "casual and playful conversation."

Unfortunately, the conversations didn't stay

playful for long. Pretty soon after Tay

launched, people starting tweeting the bot

with all sorts of misogynistic, racist, and

Donald Trumpist remarks. And Tay — being

essentially a robot parrot with an internet

connection — started repeating these

sentiments back to users, proving correct that

old programming adage: flaming garbage pile

in, flaming garbage pile out.

Page 42: La paura dell'algoritmo perchè?

43

Combattere i pregiudizi degli algoritmi

https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms

Page 43: La paura dell'algoritmo perchè?

44

La responsabilità degli umani

https://www.ted.com/talks/zeynep_tufekci_machine_intelligence_makes_human_morals_more_important

Page 44: La paura dell'algoritmo perchè?

45

@AskCindy per una paga uguale

04.04.17 | 9:56 AM

On Equal Pay Day, this Facebook chatbot will help

women get their money

https://news.fastcompany.com/on-equal-pay-day-this-

facebook-chatbot-will-help-women-get-their-money-

4033835

Page 45: La paura dell'algoritmo perchè?

46

BOT, Social Bot, AI

Page 46: La paura dell'algoritmo perchè?

47

Tutti i modelli sono sbagliati, ma alcuni sono utili -

George Box

Page 47: La paura dell'algoritmo perchè?

48

Anche il modello migliore a volte sbaglia.Il compito dell'analista è quello di scegliere il modello

che funziona meglio o che minimizza i rischi.Il compito di tutti noi è quello di essere consumatori esperti, senza paura di porre domande.E che non accettano che una conversazione si concluda con la parola «algoritmo»

Page 48: La paura dell'algoritmo perchè?

CSP innovazione nelle ICT s.c. a r.l.

Sede legale e operativaStrada del Lionetto, 6 - 10146 - Torino

Centro di ricerca e sviluppoc/o Business Research CenterPolitecnico di TorinoVia Pier Carlo Boggio 59 - 10138 - Torino

Tel +39 011 4815111

Per contatti: [email protected]

www.csp.it

Page 49: La paura dell'algoritmo perchè?

50

La demonizzazione dell’algoritmo

http://littledatablog.com/blog/2017/2/13/the-rise-of-the-

evil-algorithm

https://youtu.be/z5FZkuu9vII

Page 50: La paura dell'algoritmo perchè?

51

Il futuro delle AI

https://youtu.be/72bHop6AIcc