Wiesław Bartkowski, informatyk, projektant interakcji i badacz systemów złożonych, Wydział Projektowy Uniwersytetu SWPS. Kierownik studiów podyplomowych Creative Coding oferowanych przez School of Form. Laureat Design Alive Awards 2018 w kategorii Animator.

WIESŁAW BARTKOWSKI: – CZUJEMY, ŻE COŚ JEST NIE TAK, ALE I TAK DAJEMY SIĘ PONIEŚĆ FALI CYFROWEJ TRANSFORMACJI

TEKST: WIESŁAW BARTKOWSKI, ZDJĘCIA: IRINA GRISHINA (PORTRET) I OLGA MILCZYŃSKA

WARSZAWA 8.5.2020

COVID-19 DESIGN DESIGN ALIVE AWARDS 2018 LUDZIE OPINIE

Współczesne korporacje uznały ludzkie doświadczenie za darmowy surowiec, który można eksploatować bez ograniczeń. W wyniku rabunkowej eksploatacji degradują ludzką naturę podobnie, jak korporacje wczesnego kapitalizmu zdegradowały środowisko naturalne. Technologia oddala nas od siebie, sprawia, że rozpada się tkanka społeczna. Kiedyś ty przeszukiwałeś Google, teraz on przeszukuje ciebie. Dziś nawet odkurzacze nas szpiegują…

Cieszymy się, że dzięki technologii mamy możliwość kontaktu w tym trudnym czasie. Być może nawet czujemy wdzięczność do korporacji, które udostępniają nam za darmo technologię byśmy mogli pozostać w kontakcie. Podnoszą limity jednoczesnych połączeń dzięki czemu możemy prowadzić bogate życie towarzyskie na odległość. Oglądać widma postaci naszych bliskich i znajomych. Możemy też pracować nie wychodząc z domu. Niektórzy marzyli o takim stanie. Jednak pojawia się niepokojące poczucie, że coś jest nie tak z tym światem. I nie chodzi mi o sytuację związaną z izolacją i pandemią. Chodzi mi o to wrażenie, że otaczająca nas coraz ciaśniejszym kordonem technologia coś z nami robi, co trudno nazwać. Mamy poczucie, że to, co pozornie dostajemy za darmo obciążone jest dużym kosztem, ale ignorujemy te przeczucia, dając się ponieść fali cyfrowej transformacji.

A tymczasem technologia oddala nas od siebie, sprawia, że rozpada się tkanka społeczna. Uwierzyliśmy, że jesteśmy klientami i użytkownikami. Teraz już na pewno dzięki doskonale zaprojektowanemu doświadczeniu klienta i użytkownika (CX i UX), oraz szybko rozwijającej się technologii poradzimy sobie ze wszystkim – sami. Uwierzyliśmy w naszą samowystarczalność i niezależność od innych. Do wszystkiego jest przecież jakaś apka na smartfon, a każda najdziwniejsza nawet potrzeba będzie zaspokojona przez odpowiednio zaprojektowaną usługę.

Kilka tygodni pokazało jak bardzo się myliliśmy. Teraz widać co naprawdę jest ważne: lekarze, pielęgniarki, nauczyciele, kasjerzy…

Czas, żeby sobie przypomnieć, że nie jesteśmy sami! Że bycie człowiekiem to sport zespołowy. Świetnie ujmuje to Douglas Rushkoff w swojej książce - manifeście „Team Human”. Samotnie nie możemy być w pełni ludźmi, a wszystko, co nas od siebie separuje, czyni nas mniej ludzkimi. I może najważniejsze, to czas by zrozumieć, że autonomia bez współzależności prowadzi do izolacji lub narcyzmu.

Czas by dostrzec, że otaczająca nas technologia nie jest obojętna etycznie, ona niesie ze sobą wartości jej twórców. Często jest tworzona przez naukowców i inżynierów przekonanych, że ludzie są problemem, a technologia jest sposobem na rozwiązanie tego problemu.

Może dlatego czujemy, że coś jest nie tak, ale szybko nasz niepokój usypiany jest stwierdzeniem: to nie ludzie o tym decydują, to technologia tak ma, to jest nieuniknione, to kolejny etap ewolucji. Ten sposób myślenia doprowadził do niepokojącej zmiany, która w tym trudnym, turbulentnym czasie, może nabrać zawrotnego tempa.

Współczesne korporacje uznały ludzkie doświadczenie za darmowy surowiec, który można eksploatować bez ograniczeń. W wyniku tej rabunkowej eksploatacji degradują ludzką naturę podobnie jak korporacje wczesnego kapitalizmu zdegradowały środowisko naturalne. Technologia zastępuje i dewaluuje nasze człowieczeństwo. Umniejsza szacunek dla nas samych i innego człowieka. Powtarzając za Shoshaną Zuboff, weszliśmy w erę kapitalizmu inwigilacyjnego co dobrze oddaje powiedzenie „Kiedyś ty przeszukiwałeś Google, teraz on przeszukuje ciebie”. Możemy pomyśleć, ja nie mam nic do ukrycia, niech sobie biorą moje dane. To błędne myślenie. To nie nasza prywatność jest zagrożona. Nie jesteśmy istotni w tym systemie jako jednostki. To nieludzki świat, a zagrożona jest nasza wolność. Wolność rozumiana jako podmiotowość, prawo do samostanowienia, decydowania niezależnie o swoim losie.

Zuboff tłumaczy, że mamy do czynienia z nowym ekonomicznym porządkiem, w którym ludzkie doświadczenie jest uznawane za darmowy surowiec wykorzystywany do niejawnych praktyk handlowych polegających na ekstrakcji danych, przetwarzaniu ich na prognozy i sprzedaży tych prognoz jako produktu. Część z nas pogodziła się z myślą o byciu produktem. Byle mnie dobrze odsłużyli. Ale to nie my jesteśmy produktem, bo my nie jesteśmy istotni w tym systemie. Zuboff tłumaczy, że jest to pasożytnicza logika ekonomiczna, w której produkcja towarów i usług jest podporządkowana nowej globalnej architekturze modyfikacji behawioralnych. Tak właśnie, modyfikacji naszego zachowania! I tu pojawia się faktyczne zagrożenie naszej wolności.

Jest to eksperyment na masową skalę, w imię krótkowzrocznego zwiększenia zysków ekonomicznych, polegający na modyfikowaniu ludzkiego zachowania w celu zwiększenia pewności, że biznes się uda. Można pokusić się o mocne stwierdzenie, że to próba narzucenia nowego ładu zbiorowego opartego na całkowitej pewności. Co w konsekwencji prowadzi do unifikacji i eliminacji odmiennych sposobów myślenia i działania, które wprowadzają niepewność do systemu. To nie tylko zagrożenie dla wolności, ale też systematyczne eliminowanie najbardziej twórczych zachowań i stylów działania, co w konsekwencji prowadzi do zahamowania rozwoju. Otaczają nas bezużyteczne gadżety, skończył się okres przełomowych wynalazków, które realnie zmieniają nasze życie, zwiększają dobrostan.

Można nazwać to zbójecką mutacją kapitalizmu naznaczoną niespotykaną w historii ludzkości koncentracją bogactwa, władzy i wiedzy. Bogactwo i władza to oczywiste. Natomiast najbardziej niepokojąca jest dysproporcja szczegółowej i wielowymiarowej wiedzy na nasz temat. Dla przykładu, Facebook na podstawie analizy zaledwie kilkunastu lajków wie potencjalnie więcej na temat preferencji swojego użytkownika niż jego kolega z pracy, a po kilkudziesięciu do kilkuset niż najbliższa mu osoba jak rodzic lub partner. A ile takich lajków dajemy w ciągu roku? A ile innego typu informacji umieszczamy na feedzie, w Messengerze, na Instagramie, WhatsAppie i innych serwisach i aplikacjach należących do Facebooka? A przecież to nie jedyna korporacja, którą karmimy zupełnie wolontaryjnie danymi na nasz temat, i to takimi, że agentom Stasi nie śniło się nawet, że możliwe jest zdobycie podobnych informacji. No dobrze, ale co z tego? Powiemy po raz kolejny, przecież ja nie mam nic do ukrycia.

Tak duża dysproporcja wiedzy może służyć do niespotykanej w historii możliwości manipulacji całymi ludzkimi populacjami. W 2017 wyciekł z Facebooka raport skierowany do reklamodawców z Australii i Nowej Zelandii. Przedstawiał on systemy korporacyjne do gromadzenia tzw. „wglądu w aspekty psychologiczne” u 6,4 miliona uczniów szkół średnich i wyższych. Raport szczegółowo opisuje, w jaki sposób korporacja wykorzystuje analizy behawioralne, aby dokładnie określić moment, w którym młoda osoba potrzebuje „pozytywnego wzmocnienia”, a zatem jest najbardziej podatna na określoną konfigurację „zaczepek” reklamowych. Cytując wprost z raportu: „monitorując posty, zdjęcia, interakcje i aktywność w Internecie, Facebook może zareagować, gdy młodzi ludzie czują się zestresowani, pokonani, przytłoczeni, niespokojni, nerwowi, głupi, bezużyteczni, lub przegrani”. W tych momentach są w stanie zrobić coś, czego inaczej by nie zrobili i co najważniejsze, można na tym zarobić sprzedając ten moment na reakcję reklamodawcy!

Za sprawą Cambridge Analytica, wiele ostatnio mówiono wyłącznie o Facebooku. Ale inne firmy stosują dużo bardziej przerażające praktyki. Weźmy na przykład wydawałoby się niewinną usługę Google Street View. W 2010 r. Niemiecka Federalna Komisja Ochrony Danych ogłosiła, że samochody Street View potajemnie gromadziły dane osobowe z prywatnych sieci Wi-Fi. Niemieccy eksperci udowodnili, że samochody Street View wydobywają niezaszyfrowane dane osobowe z domowych Wi-Fi. Google był zmuszony przyznać, że przechwycił dane osobowe pobrane z nieszyfrowanych transmisji. Eksperci techniczni z Kanady, Francji i Holandii odkryli, że przechwytywane były nazwiska, numery telefonów, informacje kredytowe, hasła, e-maile i treść czatów, a także zapisy randek internetowych, pornografii, medyczne informacje, zdjęcia oraz pliki wideo i audio. Eksperci ustalili, że takie pakiety danych można połączyć w celu uzyskania szczegółowego profilu umożliwiającego zidentyfikowanie konkretnej osoby.

Od tamtej pory niewiele się zmieniło. W zeszłym roku (2019) Google zapomniało powiedzieć, że Nest Guard (domowy system alarmowy), ma zainstalowany mikrofon, który był niewidoczny gołym okiem, nie było o nim też wzmianki w instrukcji obsługi, czy specyfikacji produktu. Google tłumaczył się w oficjalnym komunikacie, że mikrofon został umieszczony przez „pomyłkę”.

Coraz więcej firm podąża drogą kapitalizm inwigilacyjnego, bo to się opłaca. Robią to prawie wszyscy najwięksi, poza wspomnianymi, także Amazon, Microsoft, ale za ich przykładem idzie cała fala. W lipcu 2017 r. autonomiczny odkurzacz Roomba, pojawił się na pierwszych stronach gazet, gdy CEO firmy iRobot, Colin Angle, powiedział Reuterowi o nowej strategii biznesowej opartej na danych. Po tej informacji akcje firmy skoczyły o 300 %. I nie chodzi o to, że odkurzacz wyposażony w kamery (tak to najlepszy czujnik do nawigacji) będzie wysyłał do centrali nasze nagie fotki. To zupełnie nieistotne dane. To co jest cenne to dane na temat naszego zachowania oraz kształtu naszego otoczenia. Połączenie tych danych ze śladami cyfrowymi, które zostawiamy online, daje pełniejszy obraz i pozwala lepiej przewidywać nasze zachowanie. Nic dziwnego, że Google i wiele innych firm zainteresowało się zakupem takich danych, a akcje iRobot poszybowały. A wszystko za sprawą jednej aktualizacji oprogramowania w posiadanych odkurzaczach obecnych w co drugim domu w Ameryce. I oczywiście można było się nie zgodzić na nowe warunki umowy. Ale wszyscy kliknęli OK, nawet nie czytając, bo przecież nikt nie chciał mieć głupiego odkurzacza. Dzięki uaktualnieniu oprogramowania odkurzacz stawał się niezwykle inteligentny, uczył się gidze jest kuchnia, a gdzie przedpokój. Gdzie i kiedy ma nie jeździć, żeby nie wpaść nam pod nogi. I gdzie sprzątać intensywniej, bo tam bardziej brudzimy. Zaczął nawet reagować na komendy typu: „posprzątaj w kuchni”. I wszytko to za darmo, bo aktualizacja nic nie kosztowała! Pomijając mały szczegół w nowej umowie, przychodzącej z nowym oprogramowaniem, stanowiącej, że odkurzacz może wysyłać do firm trzecich dane na temat naszego zachowania, na temat planu pomieszczeń w naszym domu i wiele innych.

Wydaje się, że Apple do tej pory najbardziej opiera się pokusie pójścia w stronę kapitalizmu inwigilacyjnego. Ale może to dlatego, że ich model biznesowy opiera się na sprzedaży urządzeń, a nie możliwości manipulowania użytkownikami serwisów. Apple słynie z bezwzględnego chronienia prywatności danych swoich użytkowników. Warto przypomnieć słynną sprawę w USA, w której podejrzewano, że na iPhonie znajdują się dane mogące wyjaśniać kwestie zabójstwa. Nakazano Apple odkodowanie telefonu, na co firma się nie zgodziła i nie uległa silnym naciskom władz. Niestety wygląda na to, że pod wpływem pokusy poszerzenia swoich wpływów na bardzo lukratywnym chińskim rynku i przed obawą wyrzucenia z tego rynku, również Apple ugięło się pod naciskiem władz chińskich. Pod koniec 2018 r. po raz pierwszy w historii firmy przeniosło klucze pozwalające na dostęp do danych użytkowników iCloud poza USA. A dokładnie do chińskich centrów danych. Na razie dane trzymane bezpośrednio na urządzeniach iPhone nadal są bezpieczne.

Wracając do bieżącej sytuacji. Rządy na całym świecie domagają się nadzwyczajnych nowych uprawnień do cyfrowej inwigilacji obywateli. W tym wiele krajów europejskich m.in. Niemcy, Francja, Austria, Belgia, Finlandia, Włochy, Norwegia, Polska, Szwajcaria. Kraje europejskie żądają zazwyczaj jedynie meta danych od firm telekomunikacyjnych. Meta czyli takich, które nie zawierają treści rozmów i sms, tylko informację o połączeniach telefonicznych z ukrytymi numerami telefonów. Z teorii systemów złożonych, jak i z badań, które prowadziliśmy wynika, że takie dane wystarczą do ustalenia nie tylko tego kto jest liderem grupy, ale nawet jakiego rodzaju spotkanie dana grupa zaczyna organizować. Tak można stłumić w zalążku każdą próbę organizacji demonstracji, zanim ludzie wyjdą z domów!

Niepokojąca jest fascynacją liderów zachodniego świata tym, jak skutecznie poradziły sobie z pandemią Chiny i Korea Południowa. Może w czyjejś głowie zaświtać myśl, że system społeczno-polityczny w Chinach nie jest taki zły!

Obawiam się, że pandemia może stać się tym dla Europy, czym 9.11 stał się dla Ameryki. Niechlubny Patriot Act z 2001 nadający rządowi USA szerokie uprawnienia w zakresie nadzoru obywateli przy niewielkim nadzorze społecznym i pogwałceniu konstytucji (w tym żądanie udostępniania danych klientów od firm telekomunikacyjnych bez zgody sądu). Uwaga! 20 lat później to prawo wciąż obowiązuje! Martwią mnie wahania Angeli Merkel i innych przywódców państw Unii Europejskiej, czy do walki z wirusem nie użyć masowej inwigilacji. Obyśmy nie poszli drogą USA wytyczoną przez 9.11. By lepiej zrozumieć czym to grozi polecam książkę „Pamięć nieulotna” („Permanent Record”) autorstwa Edwarda Snowdena.

Warto zauważyć i docenić próby wykorzystania technologii z pełnym poszanowaniem prywatności. Obiecujące wydaje się połączenie sił Google i Apple w celu stworzenia rozwiązania opartego o Bluetooth pozwalającego ostrzec użytkownika telefonu, że potencjalnie znalazł się w bezpośredniej bliskości (mniej niż 2 m) osoby, u której później wykryto wirusa. Byłoby to dobre rozwiązanie, niestety zaufanie zostało już poważnie nadszarpnięte. Nadszedł czas, by pomyśleć jak sprawować kontrolę społeczną nad takimi rozwiązaniami, jak odzyskać zaufanie do technologii cyfrowych. Może open source i open hardware jest jednym ze sposobów, a może trzeba pójść znacznie dalej i uznać infrastrukturę Internetu za dobro publiczne, a jego przestrzeń za dobro wspólne, w tym nasze dane za naszą własność. Ale obawiam się, że trzeba zacząć od podstaw, czyli pomyśleć o nowym systemie społeczno - ekonomicznym. Polecam najnowszą książkę francuskiego ekonomisty Thomasa Piketty, „Capital and Ideology”, w której piętnuje postrzeganie nierówności między ludźmi jako naturalnego stanu rzeczy, tłumaczonego kiedyś porządkiem natury, a teraz zmianami technologicznymi.

Slavoj Zizek spopularyzował powiedzenie „Łatwiej wyobrazić sobie koniec świata niż koniec kapitalizmu”. Ja bym dodał, że podobnie trudno wyobrazić sobie zmianę kierunku rozwoju technologii cyfrowych. Widzę tu ogromną rolę projektantów i artystów by wyrwać nas mentalnie z okowów realizmu kapitalistycznego blokującego naszą wyobraźnię i poszukać innej drogi.

Powtarzając za Douglasem Rushkoffem stawiajmy opór, walczmy, by uzyskać dostęp do panelu kontrolnego rozwoju naszej cywilizacji. Dla mnie synonimem tej walki stał się projekt Alias autorstwa Bjorn Karmann i Tore Knudsen. Alias przypomina formą grzyb albo narośl, którą nakłada się na wirtualnego asystenta głosowego np. Amazon Aleksę i paraliżuje korporacyjną technologię zakłócając pracę mikrofonów. To aktywistyczna „meta” technologia kontrolującej korpo-technologię oparta o open software i open hardware. Aliasa można własnoręcznie zbudować, bo twórcy oddali jego plany jako wkład i głos w dyskusji na temat praktyk korporacji kapitalizmu inwigilacyjnego. Jest to doskonały przykład jak współpraca projektanta, programisty i artysty pozwala zobaczyć inny świat. Alias zdobył główną nagrodę w konkursie STARTS Komisji Europejskiej co daje nadzieję, że przynajmniej w Europie zaczyna się przebijać sposób myślenia pozwalającego na odblokowanie wyobraźni i tym samym odzyskanie przyszłości.