Polska w obliczu cyfrowego wyÅ cigu zbrojeÅ (2)3kep.sep.com.pl/photo/files/Andrzej...
Transcript of Polska w obliczu cyfrowego wyÅ cigu zbrojeÅ (2)3kep.sep.com.pl/photo/files/Andrzej...
Andrzej ZybertowiczIII Kongres Elektryki Polskiej
2 kwietnia 2019
Zastrzeżenie
Wypowiadam się jako badacz – socjolog, analityk, nie zaś jako osoba pełniąca
funkcje publiczne
Twitter: @AndZyberto 2
Motto
„What is good for consumers is also good for intelligence services
and cyberattackers”
https://www.nytimes.com/2019/01/26/us/politics/huawei-china-us-5g-technology.html?module=inline
Twitter: @AndZyberto 3
Scenariusz…
W roku 1900 Wielka Brytania – posiadająca tylko 40 mln ludności – kontrolowała imperium panujące nad niemalże 25% ziemi i ludności naszej planety (ok. 1,6 mld)
Czy podobna asymetria – 2,5% ludności Ziemi i 25% zasobów pod kontrolą – może się niebawem powtórzyć?
Przypuszczalna trampolina ucieczki: mechanizm recursive self-improvement
Twitter: @AndZyberto 4
A recursive self-improvement scenario
AI automatyzuje pracę – także twórczą
Następuje skokowy przyrost innowacji ukierunkowanych na… tworzenie innowacji
Beneficjentem jest kraj (koncern?), który pierwszy uzyska funkcjonalności AI umożliwiające tworzenie kolejnych generacji innowacji, nastawionych na tworzenie nowych generacji innowacji
Itd., itd., itd…
Element trampoliny: komputer kwantowy…Twitter: @AndZyberto 5
Kto? Kraj o znaczącej przewadze w rozwoju
innowacyjnych technologii napędzanych przez AI uzyskuje samonapędzającą się przewagę technologiczną, ekonomiczną i … militarną
W cyberświecie nowe eksperymenty i symulacje mogą przebiegać z szybkością… cyfrową
Efekt: radykalna przewaga strategiczna
Przykład: Singapur – 5,6 mln mieszkańcówTwitter: @AndZyberto 6
Twitter: @AndZyberto 7
Twitter: @AndZyberto 8
Zautomatyzować, by przewidzieć!
Twitter: @AndZyberto 9
Marc Benioff, CEO Salesforce:Facebook i inne technologie uzależniające
powinny być regulowane podobnie jak papierosy
Twitter: @AndZyberto 10
. . . n i e p r z e j r z y s t o ś ć . . .
Twitter: @AndZyberto 11
Cyfrowy wyścig zbrojeńCzym różni się od tego z okresu Zimnej Wojny?
Rozproszony charakter obecnego rozwoju techniki – trudno (nie sposób?) go w pełni monitorować
Technologie „podwójnego” zastosowania
Joseph Nye: Potrzebujemy międzynaro-dowego traktatu o cyberprzestrzeni
Twitter: @AndZyberto 12
Trzy rozumienia CyfrWyśZbro
Wąskie Złamanie woli przeciwnika
Szerokie Zbudowanie woli przeciwnika (brain
hacking)
RadykalneThe „Master” Algorithm
Twitter: @AndZyberto 13
Wyścig wąsko rozumiany Wymiar psychologiczny wojny: czytanie intencji
strony przeciwnej – nie intuicja, nie wywiad, ale algorytmy – np. czytanie cech OCEAN z ruchu oczu
Big Five personality traits: Openness to Experience
Conscientiousness
Extraversion
Agreeableness
Neuroticism
4 z tych 5 cech AI potrafi odczytać z nagrań wideo Przykład: szacowanie skłonności wroga do ryzyka
Twitter: @AndZyberto 14
Cyfrowa faza globalizacji
Globalizacja WCZEŚNIEJ: ograniczenie lub utrata suwerenności nad rynkami finansowymi i finansami publicznymi
Globalizacja DZIŚ: rządy tracą wpływy nad komunikacją masową (spadek roli RTV; media społecznościowe), biznesem (Internet Rzeczy), polityką (mikrotargeting)
DANE jako paliwo gospodarcze i monopoliści tej gry –Tech Giants
Wpływ podmiotów zewnętrznych na morale społeczeństwa – inwazja pokus i natychmiastowych gratyfikacji
Twitter: @AndZyberto 15
Szerokie rozumienie wyścigu
* C.T.U.* Radykalne zerwanie transmisji kulturowej
* Timothy Snyder: wir cyfrowych stymulacji
Twitter: @AndZyberto 16
Radykalna wizja rozstrzygnięcia wyścigu
Twitter: @AndZyberto 17
Zagrożenia obecne jako tło dla CWZ Rosja (operacje wpływu ukierunkowane na dezintegrację
społeczną) Niekontrolowane lub narzucane migracje (brak rąk do
pracy) Cyberataki – codzienne testowanie podatności na
zagrożenia? Terroryzm międzynarodowy Rynki finansowe – podatność firm ratingowych na mody i
fobie Nowe sposoby wywoływania zaburzeń społecznych Przeciążenie systemu kierowania państwem w razie
kumulacji różnych typów zagrożeń
Twitter: @AndZyberto 18
Bliskie, bezpośrednio rozpoznawane
Nagłe wstrząsy na rynku pracy – AI, robotyzacja, praca zdalna (przykład: Kraków – Centra Obsługi Biznesu)
Problem przewidywalności i trendów wiodących Nowe techniki monitoringu Nowe techniki manipulacji Mikrotargeting Astroturfing Technologie uzależniające Hybrydyzacja i nadmiarowa złożoność wielu procesów Problem suwerenności cyfrowej i groźba neokolonializmu
cyfrowego (nowa odmiana kapitalizmu peryferyjnego) Utrata zdolności kierownictwa państwa do uzyskiwania
adekwatnej świadomości sytuacyjnej
Twitter: @AndZyberto 19
Monitoring… wszystkiego!
Media społecznościowe
Kamery telewizji przemysłowej
Tablety, smartfony, opaski, … implanty
Inteligentne telewizory, xboxy, głośniki, VR (virtualreality), zabawki „wychowujące” dzieci
Światłowody i czujniki
Autonomiczne samochody
Internet Rzeczy, smart cities
…….. Twitter: @AndZyberto 20
Sztuczna inteligencja
Już jest wokół nas: w komputerach, smartfonach, wyszukiwarkach internetowych, w mediach społecznościowych
Błędne pojmowanie AI: kluczowy nie jest problem świadomości, ale zdolność systemów do uczenia się
Na wielu polach AI już nas przewyższa W przemyśle automatyczna kontrola jakości
zmniejsza ryzyko przeoczenia usterek o 90% Ryzyko pogłębienia różnic i napięć społecznych Uczenie maszynowe i obawy USA przed Chińską AI
Twitter: @AndZyberto 21
Czarny scenariusz na jutro: neokolonializm cyfrowy
Wyszukiwarka przesądza, czego możemy się dowiedzieć
Portal społecznościowy, co, z kim możemy sobie wzajem komunikować oraz jak mamy o tym wszystkim myśleć, a raczej, jak ODCZUWAĆ!
Platformy sprzętowo-software’owe Internetu Rzeczy (IoT) rozstrzygną, jakie gałęzie gospodarki polski kapitał w ogóle będzie mógł rozwijać
TINDER-opodobne aplikacje, kto z kim i wedle jakich reguł ma się dobierać w pary
Twitter: @AndZyberto 22
Rekomendacje dla Polski Główne ryzyko: utracenie zdolności sojuszniczych! Prywatność obywateli kwestią bezpieczeństwa
narodowego Uwzględniając inne kraje, niekoniecznie naśladując je,
wypracować politykę wobec danych Tworzyć pola suwerenności cyfrowej; własne standardy
technologiczne na wybranych polach lub co najmniej uczestnictwo w tworzeniu standardów przez innych
Aktywność w międzynarodowych działaniach na rzecz regulacji Internetu oraz kontroli rozwoju AI
Twitter: @AndZyberto 23
Rekomendacje cd. Przyśpieszyć kształcenie specjalistów z zakresu AI na
uczelniach politechnicznych i ekspertów od społecznych konsekwencji rozwoju AI na wydziałach nauk społecznych
Inspirować polskie think tanki na monitorowanie badań i zastosowań AI na świecie
Budować zdolności operacyjne państwa i wojska w świecie bez Sieci i/lub prądu
Wywiad i „kontrwywiad” technologiczny – m.in. ograniczenie drenażu mózgów
Specustawa…Twitter: @AndZyberto 24