Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van...
-
Upload
nathalie-molenaar -
Category
Documents
-
view
216 -
download
2
Transcript of Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van...
![Page 1: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/1.jpg)
Pieter Adriaans IvI-ILLC Universiteit van Amsterdam
NIOC 2011
10 open problemen in de studie van rekenen en
informatie
![Page 2: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/2.jpg)
References• Adriaans, Van Benthem eds.
“Handbook of philosophy of information”. (2008)
• Adriaans, “Between order and Chaos: the quest for meaningful information”, Theory of computing systems. (2009)
• Adriaans, Van Emde Boas, Computation, information and the arrow of time, 2010.
• Adriaans: Philosophy of Information. Stanford Encyclopedia of Philosophy (to appear, 2011)
• http://staff.science.uva.nl/~pietera/• www.pieter-adriaans.com
![Page 3: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/3.jpg)
![Page 4: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/4.jpg)
Open problems with classification
* = hard work, **= vital theory seems to be missing, ***= not even properly understood, ****= nobody has a clue
![Page 5: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/5.jpg)
1. *The problem of defining meaningful information2. *What is an adequate logic of information? 3. ** Finite versus discrete models of nature 4. ** Computation versus thermodynamics5. ** Classical information versus quantum information 6. *** Information and the theory of everything7. ***The Church-Turing Hypothesis. 8. ***The tradeoff between information, axiomatization
and computation. 9. ***Classification of information generating/discarding
processes:10. ****P versus NP?
![Page 6: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/6.jpg)
Verschillende soorten Informatie
• Informatie als structuur • Informatie als waarschijnlijkheid
![Page 7: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/7.jpg)
Informatie als waarschijnlijkheid Een experiment
A N T I E
Welk woord is dit?
![Page 8: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/8.jpg)
X A T I P
Welk woord is dit?
Informatie als waarschijnlijkheid Een experiment
![Page 9: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/9.jpg)
A N T I E
X A T I P
Welk woord is makkelijker te raden?
Informatie als waarschijnlijkheid Een experiment
![Page 10: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/10.jpg)
Informatie afhankelijk van waarschijnlijkheid
• Letter frequenties in het Nederlands per 10.000 tekens
E = 1586 I(E) = -log(1586/10000) = 2,66 bitsN = 858 I(N) = -log(858/10000) = 3,54 bitsP = 123 I(P) = -log(123/10000) = 6,34 bitsX = 3 I(X) = -log(3/10000) = 11,70 bitsLagere frequentie = Minder waarschijnlijk=
meer Informatie !!
![Page 11: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/11.jpg)
A N T I E
X A T I P
Hier missen we 24,48 bits aan informatie
Hier missen we 12,54 bits aan informatie
Informatie als waarschijnlijkheid Een experiment
![Page 12: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/12.jpg)
Informatie als structuurEen experiment
Kijk 5 seconden naar beide opstellingen. Welke is makkelijker te onthouden?
![Page 13: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/13.jpg)
Informatie als structuurEen experiment
log 20 + log 32 10.3 bits
bits5,7620
100log20log 22
![Page 14: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/14.jpg)
Informatie = entropie
Hoge entropie = Veel wanorde = Veel informatie =Moeilijk te onthouden
Lage entropie = Veel orde =Weinig informatie = Makkelijk te onthouden
![Page 15: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/15.jpg)
De tweede wet van de thermodynamica
• Orde scheppen kost energie• Orde = vermogen om arbeid te leveren
![Page 16: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/16.jpg)
Een stoomtrein rijdt op informatie Uw auto ook
![Page 17: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/17.jpg)
Entropie als unificerende notie
Energy in Systems
Complexity of strings
Information in messages
Information Theory Shannon Information
Kolmogorov Complexity Algorithmic Complexity
ThermodynamicsStatistical Mechanics
![Page 18: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/18.jpg)
1. *The problem of defining meaningful information2. *What is an adequate logic of information? 3. ** Finite versus discrete models of nature 4. ** Computation versus thermodynamics5. ** Classical information versus quantum information 6. *** Information and the theory of everything7. ***The Church-Turing Hypothesis. 8. ***The tradeoff between information, axiomatization
and computation. 9. ***Classification of information generating/discarding
processes:10. ****P versus NP?
![Page 19: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/19.jpg)
Creatieve processenWat gebeurt hier?
“Creating a certain balance without a symmetry that would soon be boring, is the first thing to be strived for.”
Schilderen met olieverf in uw vrije tijd, J Raynes (1966)
![Page 20: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/20.jpg)
![Page 21: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/21.jpg)
JPEG File size for equal picture size
0
20
40
60
80
100
120
JPEG File size in Kb
Blauwe heuvelsZonsondergangWaterleliesWinter
![Page 22: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/22.jpg)
25 % noise 50 % noise
75 % noise 100 % noise
![Page 23: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/23.jpg)
JPEG File size with noise added
0
500
1000
1500
2000
JPEG File size in Kb
No noise25 % noise50 % noise75% noise100 % noise
![Page 24: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/24.jpg)
Order
Chaos
Facticity
Between order and chaos: facticity
![Page 25: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/25.jpg)
facticiteit van data sets
0
0,1
0,2
0,3
0,4
0,5
0,6
1 2 3 4 5 6
facticiteit
1 2 3
4 5 6
![Page 26: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/26.jpg)
Voorstellen
• Sophistication (Koppel 1988, Antunes, Fortnow 2007)
• Logical Depth (Bennet 1988)• effective complexity (Gell-Mann, Lloyd 2003)• Meaningful Information (Vitanyi 2004)• Self-dissimilarity (Wolpert, Mcready 2007)• Computational Depth (Antunes et al. 2006)• Facticity (Adriaans 2009)
![Page 27: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/27.jpg)
1. *The problem of defining meaningful information2. *What is an adequate logic of information? 3. ** Finite versus discrete models of nature 4. ** Computation versus thermodynamics5. ** Classical information versus quantum information 6. *** Information and the theory of everything7. ***The Church-Turing Hypothesis. 8. ***The tradeoff between information, axiomatization
and computation. 9. ***Classification of information generating/discarding
processes:10. ****P versus NP?
![Page 28: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/28.jpg)
What is computing?
1 2 3 4 5 6
The Wolfram 2,3 Turing machine is Universal (Alex Smith 2007)
![Page 29: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/29.jpg)
![Page 30: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/30.jpg)
![Page 31: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/31.jpg)
Lindenmayer bomen
![Page 32: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/32.jpg)
Groei en rekenen hebben iets met elkaar te maken. Maar wat?
![Page 33: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/33.jpg)
Wat is de interactie tussen rekenen en informatie?
• Rekenen• Slim• Deterministisch• Toekomst ligt vast• Informatie gaat verloren
• Gokken• Dom• Random• Toekomst onbekend• Informatie groeit
![Page 34: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/34.jpg)
Input Process Output
Input Process Output
Time
Recursieve functies: verwijderen informatie (entropie reductie)
A + B = C log A + log B = log (A + B)
Am
ount
of
Info
rmat
ion
![Page 35: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/35.jpg)
Input Process Output
Output Process Input
Time
Non deterministiche processen: Creeren Informatie
Am
ount
of
Info
rmat
ion
![Page 36: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/36.jpg)
facticiteit van data sets
0
0,1
0,2
0,3
0,4
0,5
0,6
1 2 3 4 5 6
facticiteit
1 2 3
4 5 6
![Page 37: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/37.jpg)
![Page 38: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/38.jpg)
Evolutie = rekenen in negatieve tijd
• Factische processen: groei van betekenisvolle informatie in de tijd (beurs, games, evolutie, universum als geheel)
• De huidige mensheid berekent de Neanderthaler in negatieve tijd
• Adriaans, Van Emde Boas, Computation, information and the arrow of time, 2010.
![Page 39: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/39.jpg)
1. *The problem of defining meaningful information2. *What is an adequate logic of information? 3. ** Finite versus discrete models of nature 4. ** Computation versus thermodynamics5. ** Classical information versus quantum information 6. *** Information and the theory of everything7. ***The Church-Turing Hypothesis. 8. ***The tradeoff between information, axiomatization
and computation. 9. ***Classification of information generating/discarding
processes:10. ****P versus NP?
![Page 40: Pieter Adriaans IvI-ILLC Universiteit van Amsterdam NIOC 2011 10 open problemen in de studie van rekenen en informatie.](https://reader035.fdocuments.in/reader035/viewer/2022062703/5551a0ef4979591f3c8b8b00/html5/thumbnails/40.jpg)
The study of the category of information forms a unifying paradigm between science and the humanities.
Art, science and business, all deal with information.
Understanding the concept of information is one of the main scientific challenges of our time.