Očala, ki vidijo več kot ljudje: 'Naše življenje bi lahko postalo Trumanov šov'

Tehnologija, ki je bila nekoč domena tajnih služb, postaja del vsakdana. Za nekaj sto evrov si očala, ki snemajo, danes lahko povsem legalno kupi kdorkoli. In ko se danes pogovarjamo z nekom, ki nosi modna očala znamke Ray Ban ali Oakley, se lahko upravičeno vprašamo, ali nas v tistem trenutku morda snema ali prebira informacije, ki mu jih servira umetna inteligenca. Pametna Meta očala postajajo simbol družbe, v kateri smo lahko nenehno opazovani, snemani in analizirani. Kako bo to vplivalo na naše vedenje v javnosti in doma? Ali bo zasebnost postala nov luksuz? Nosljiva tehnologija nas postavlja pred nove izzive in izpostavlja vprašanja o zaupanju, privolitvi in zasebnosti. O tem smo se pogovarjali z antropologom Danom Podjedom. 

Zasebnost se je začela razblinjati pred dobrima dvema desetletjema, ko so se družbena omrežja s Facebookom na čelu začela množično širiti, telefoni pa so postajali vse pametnejši in dobivali vse zmogljivejše kamere. Z njimi smo začeli nenehno snemati sebe, druge ljudi in okolico. Temu obdobju, v katerem se intenzivneje razkazujemo in hkrati spremljamo, kaj počnejo drugi, pravim egocen. To je čas selfijev in nenehnega postavljanja sebe ter svoje podobe v središče. S pametnimi očali, kakršna izdeluje Meta, se morda začenja novo obdobje. Njegovo bistvo ne bo, da bi končno pogledali drugega in postali manj egocentrični, temveč nekaj drugega, namreč da bomo lahko neznancu zlezli malodane pod kožo, razkrili njegovo zasebnost ter videli in vedeli še več.

Takšne tehnologije utegnejo razbliniti še zadnje oaze zasebnosti v javnem prostoru. Naše življenje bi lahko postalo nekakšen Trumanov šov. Glavni junak tega filma je bil ves čas pred kamerami, ne da bi to vedel. Vendar ne verjamem, da bomo ravnali bistveno previdneje kot danes, tudi če se bomo zavedeli, da nastopamo v šovu. Na občutek, da smo ves čas vidni, smo se že kar navadili in pogosto se vedemo, kot da je zasebnost preprosto izpuhtela. Toda pravica do zasebnosti je eden od temeljev demokracije. Brez nje lahko zdrsnemo v distopično prihodnost, ki pa verjetno ne bo tako očitno temačna kot Orwellov roman 1984, temveč bolj podobna drugi distopiji, namreč Huxleyevemu Krasnemu novemu svetu. Nekam tja lahko odtavamo, če bomo svet opazovali predvsem skozi rožnata očala. Morda prav tista, ki jih izdeluje Meta.

Človek sicer ni edini primat z vidno beločnico, vendar je ta pri ljudeh izrazito svetla, zato drugi lažje opazijo, kam gledamo. Ljudje tudi zardevamo, ko nam je nerodno. Zakaj je to pomembno? Zato, ker je pogled močan signal, saj z njim pokažemo, da se želimo z nekom povezati, z obrazom pa sporočamo, kako se počutimo. Pametna očala ta pogled nadgrajujejo. V povezavi z umetno inteligenco bi lahko celo razlagala tuje poglede, izraze in kretnje. O tem, kaj misli drugi človek, torej ne bi več presojali sami, temveč bi nam pri tem pomagalo orodje. To je prvi problem. Drugi je še očitnejši: človeku postane nelagodno takoj, ko zasluti, da ga nekdo snema. Že prižgana lučka na očalih, ki sporoča, da je kamera vključena, lahko spremeni njegovo vedenje. Bomo pred nenehno prisotno kamero sploh še pokazali svoj pravi jaz? Ali pa se bomo navadili tudi na to in se začeli kolektivno vesti, kot da je ves svet oder, če parafraziram Shakespeara?

Že pri telefonih pogosto ne vemo, ali nas kdo snema. Vsaka naprava z mikrofonom in kamero lahko ob zlorabi postane orodje za prisluškovanje in opazovanje – nekaj, kar smo nekoč gledali predvsem v vohunskih filmih. Danes ima tako napravo skoraj vsak v žepu, kmalu pa jo bo imel še na nosu. Pametna očala me zato spominjajo na vohunske pripomočke v Stasijevem muzeju v Berlinu. V Stasiju, ministrstvu za državno varnost nekdanje Vzhodne Nemčije, je vladala obsedenost z idejo, da mora država videti in vedeti vse. Zato so Stasijevi agenti imeli na voljo kup pripomočkov, od miniaturnih kamer, ki so si jih zataknili v gumbnico, do kravat z mikrofonom in kovčkov, ki so vsebovali snemalne naprave. No, zdaj pa imamo takšne naprave na voljo skoraj vsi v obliki pametnih telefonov. In celo skriti jih ni treba, nosimo jih lahko po novem kar na nosu v obliki očal – in to naj bi bilo povsem sprejemljivo. Meta sicer zagotavlja, da pri novih modelih očalih prekritje signalne lučke onemogoči kamero, napovedala pa je tudi zaščito pred fizičnim poseganjem v lučko. To pa bistva problema ne odpravi, saj mora mimoidoči najprej vedeti, kaj lučka sploh pomeni, pri nekaterih funkcijah umetne inteligence pa lahko kamera analizira okolico tudi brez tega vidnega signala. Podobno, mimogrede, velja tudi za prenosnike in pametne telefone. Ste res prepričani, da je na teh napravah snemanje izklopljeno? Ste prepričani, da vas z druge strani nihče ne gleda? Razkritja žvižgača Edwarda Snowdena so že pred več kot desetletjem opozorila, da je britanska obveščevalna agencija GCHQ s pomočjo ameriške NSA množično prestrezala in shranjevala slike iz spletnih kamer uporabnikov Yahooja, in to tudi ljudi, ki niso bili ničesar osumljeni.

Po tem, kar spremljam na omrežjih, so med prvimi uporabniki izdelovalci in promotorji takšnih rešitev, seveda tudi Mark Zuckerberg. Z očali se pojavlja v številnih objavah na Instagramu in Facebooku ter jih predstavlja javnosti na najrazličnejših dogodkih. Od tehnoloških velikašev se utegne uporaba razširiti med vplivnice in vplivneže, med katerimi bodo nekateri najbrž plačani za promocijo, nato pa se lahko očala hitro normalizirajo tudi v širši javnosti. In tako lahko obvelja izjava paznika Volodje iz Jančarjeve drame Veliki briljantni valček: Vsi smo notri. Vsi smo v. Iz takšne totalne ustanove, v kateri izgine vsa zasebnost in je snemanje povsem normalno, je izjemno težko izstopiti.

Nekaj podobnega se je pred leti razkrilo pri Amazonovi Alexi: zaposleni in pogodbeni sodelavci so poslušali ter prepisovali dele posnetkov, da bi izboljšali prepoznavanje govora. Podobna vprašanja se pojavljajo pri pametnih urah, prstanih in drugih nosljivih napravah. Te ne beležijo le korakov in športnih dejavnosti, temveč tudi spanje, srčni utrip, menstrualne cikle in druge intimne parametre in dejavnosti, vključno s tem, kdaj imamo spolne odnose – pa četudi pametna ura ali zapestnica tega nam ne obelodani. Vsak posamezen podatek se morda zdi banalen, skupaj pa lahko ustvarijo zelo natančno sliko naših navad in zdravja. Shoshana Zuboff v knjigi The Age of Surveillance Capitalism (Doba nadzornega kapitalizma) to logiko opiše kot spreminjanje vsakdanjega življenja v surovino za napovedovanje in usmerjanje vedenja. Med drugim predstavi primer robotskih sesalnikov, ki ne čistijo le tal, temveč s kamerami ali laserskimi senzorji tudi kartirajo stanovanje. Ti podatki so potrebni za učinkovito delovanje naprave, vendar lahko razkrijejo tudi velikost prostorov, razporeditev pohištva in del naših vsakdanjih navad. Uporabiti jih je možno tudi za izjemno natančno trženje, denimo za oglas za kos pohištva, ki se čudovito prilega praznemu kotu v stanovanju. Ne vem, ali se ljudje zavedajo, da lahko pametna naprava nekomu, ki ga sploh ne poznajo, odpre pogled v njihovo intimo. Prav tako nisem prepričan, če vedo, da se lahko naprave, ki naj bi nam olajšale življenje, spremenijo v orodja za spremljanje našega vsakdanjika v najbolj zasebnih prostorih in intimnih trenutkih.

Na kratko: ker se nam zdi naše življenje tako nepomembno, da ni nič narobe, če v svojo intimo spustimo nekoga, ki nas ves čas spremlja. Toda prav takšno razmišljanje je podlaga nadzornega kapitalizma. Posamezen podatek je videti nepomemben, množica podatkov pa postane zlato in nafta tega sistema. Kar poglejte seznam peterice najbogatejših ljudi na svetu in ugotovili boste, da odlično shajajo zaradi bogastva, ki ga zagotavljajo naši podatki. Če jih kar naštejem, so to Elon Musk (Tesla, X itd.), Sergey Brin in Larry Page (Google), Jeff Bezos (Amazon), Mark Zuckerberg (Meta). In to so tudi dejanski strici iz ozadja, ki se – tako se zdi – preobražajo že kar v vsevidne in vsevedne bogove.

Biti posnet in objavljen brez privolitve bi moralo biti nesprejemljivo. Tehnološki pripomoček ne sme postati orodje za nadlegovanje, zalezovanje ali nepooblaščeno razširjanje intimnih in zasebnih trenutkov. Črto je bolje potegniti takoj, postaviti jasna pravila in ustrezno sankcionirati nadlegovanje, kot pa čakati, da se takšno snemanje normalizira.

Se vam res zdi, da smo že oblikovali in ponotranjili pravila glede uporabe pametnih telefonov med večerjo? V restavraciji pogosto vidim družino, na primer očeta, mamo in dva otroka. Vsak drži svojo napravo in nihče se ne pogovarja. Fizično so pri kosilu skupaj, dejansko pa vsak v svojem svetu. Včasih opazim tudi mlad par, ki si je privoščil večerjo, med katero se komaj pogledata. Ko natakar prinese hrano, jo najprej fotografirata, nato pa posnetke objavita na Instagramu s ključniki #happycouple, #loveforever, #finedining in podobnimi. Od pametnih očal do pametnih telefonov: vse tehnologije, ki so nam na voljo, se moramo naučiti uporabljati po pameti, ne pa na pamet in nespametno!

Iskreno upam, da bo. Razen seveda, če se prijatelja jasno dogovorita, da bosta očala vzajemno uporabljala, morda tudi zato, da se jima pri kavi na daljavo pridruži še kdo. Če tehnologija prispeva k družabnosti in nas dejansko poveže, je to lahko krasno. Težava nastane, ko se iz sredstva povezovanja spremeni v sredstvo razdruževanja in izrabljanja zaupanja.

Pričakujem oboje: hitro normalizacijo pametnih očal in manjši, a vse vidnejši upor. Če bodo očala dovolj uporabna, cenovno dostopna in tudi modna, jih bo večina hitro sprejela. Hkrati bo najbrž vse več prostorov, srečanj in trenutkov, v katerih bo veljalo pravilo, da smo na njih brez kamer in brez pametnih očal. V najslabšem primeru pa bomo znova priče procesu, ki mu Cory Doctorow pravi zadrekovanje, po angleško enshittification. Spremljamo ga pri platformah, kot sta Facebook in X, pa tudi pri spletnem nakupovanju po Amazonu in naročanju prevozov prek Uberja. Doctorow opiše štiri faze zadrekovanja: v prvi fazi so platforme prijazne do uporabnikov, v drugi začnejo uporabnike izkoriščati v korist poslovnih strank, v tretji pa izkoristijo še poslovne stranke, da bi vso vrednost zadržale zase. Na koncu, v četrti fazi, ostane od teh platform velikanski kup dreka. Občutek imam, da smo v to greznico z marsikaterimi tehnološkimi rešitvami že globoko zagreznili.

Zdaj mnogi že ugotavljajo, da zaradi pametnih telefonov nismo bistveno pametnejši, zaradi umetne inteligence nismo nujno inteligentnejši, zaradi družbenih omrežij pa nič kaj družabnejši. Te izkušnje naj nam bodo v poduk, kako tehnologije vključevati v vsakdanjik, da ostanejo orodja, ki nam pomagajo živeti bolje. Pomagajo naj nam tudi uravnotežiti življenje med analognim in digitalnim, med resničnim in umetnim.

Ob vsem tem naj poudarim, da nisem niti ludist niti tehnofob in nikakor ne nasprotujem novim tehnologijam. Ne želim biti niti tehnološki optimist niti tehnološki pesimist, saj je oboje različica fatalizma. Optimisti pravijo, da bo vse nedvomno šlo kot po maslu, pesimisti pa trdijo, da nas čaka najtemnejši scenarij. Raje skušam biti dejaven realist in spremljati, kako nas naprave spreminjajo. Ves čas se skušam zavedati tudi, kako pomembna je možnost, da se od njih odklopimo. To možnost si moramo nujno, ampak res nujno pridržati tudi v bolj digitalizirani prihodnosti, ko se bomo z napravami morda še tesneje povezali – denimo z vmesnikom, kakršnega razvija podjetje Neuralink, ki ga je soustanovil Elon Musk. Bomo ob nenehnem priklopu s strojem sploh še ljudje? Bolje, da se to vprašamo že danes. Ostati človek in ohraniti človečnost tudi v času digitalne preobrazbe bi moral biti naš skupni cilj.