Ko očala postanejo oči Velikega brata

V zadnjih mesecih so družbena omrežja preplavili posnetki uporabnikov Meta očal, ki snemajo mimoidoče, naključne pogovore ali kočljive situacije. Pri tem pa osebe pogosto sprva sploh ne vedo, da jih snemajo. Posebej viralen je postal posnetek vplivnice Aniesse Navarro, potem ko je na TikToku delila svojo izkušnjo iz kozmetičnega salona na Manhattnu. 

Med postopkom je namreč ugotovila, da njena kozmetičarka nosi pametna očala znamke Ray-Ban. Sredi depilacije je Navarro vprašala, ali očala snemajo. Zaposlena je zatrdila, da je baterija v očalih prazna in da jih nosi zaradi korekcije vida. To vplivnice ni pomirilo, hkrati pa ni želela kozmetičarki reči, da ne sme uporabljati korekcijskih očal. Toda, ves čas jo je v ozadju skrbelo, da jo morda v tem zelo ranljivem trenutku zaposlena snema brez njene privolitve. Vplivnica je prepričana, da bi morala biti v tovrstnih okoljih pametna očala prepovedana. 

Pametna očala podjetja Meta, ki so jih razvili v sodelovanju z blagovnima znamkama Ray-Ban in Oakley, niso neka futuristična naprava za tehnološke navdušence. Zaradi relativno ugodne cene, si jih lahko privošči praktično kdorkoli. Samo lani so prodali več kot sedem milijonov parov Meta očal. Videti so skoraj enako kot običajna očala, uporabnikom pa omogočajo snemanje fotografij in videoposnetkov, glasovno upravljanje ter uporabo umetne inteligence. Prav njihova neopaznost pa pri številnih strokovnjakih vzbuja največ skrbi.

Če nekdo snema s pametnim telefonom, to običajno jasno vidimo, saj mora uporabnik dvigniti napravo in jo usmeriti. Pogosto je že sama gesta dovolj, da ljudje vedo, kaj se dogaja. Pri pametnih očalih pa je snemanje skrito za navadnim pogledom. Ko uporabnik, ki nosi Meta očala, z njimi snema, sicer v kotu utripa majhna bela lučka, tako da tisti, ki je sneman to lahko opazi. Kritiki pa opozarjajo, da je lučka v določenih okoliščinah, recimo ob močni svetlobi, težko opazna. Poleg tega pa so uporabniki, ki želijo prikrito snemati ljudi, že našli načine, kako lučko onesposobiti in funkcijo snemanja z očali uporabiti, ne da bi kdorkoli vedel. Meta je sicer posodobila svojo programsko opremo, tako da zazna nedovoljene posege v LED lučko in v tem primeru onesposobi kamero, a uporabniki kljub temu najdejo obvode.

Prav zato, ker ljudje pogosto sploh ne vedo, da jih nekdo snema in kje te posnetke uporablja, pametna očala odpirajo številna vprašanja zasebnosti, opozarjajo v Informacijskem pooblaščencu. "Bistvena elementa zakonodaje o varstvu osebnih podatkov sta načeli preglednosti in zakonitosti. Posamezniki imamo pravico vedeti, kdo, kdaj in s kakšnimi nameni zajema naše podatke in vkolikor ne gre za izjemo zasebne uporabe, mora tisti, ki zajema naše podatke, razpolagati s kontekstu ustrezno pravno podlago, kot npr. z našo privolitvijo, pogodbo, podlago v zakonu, v prevladujočem javnem ali zakonitem interesu," je pojasnila informacijska pooblaščenka Jelena Virant Burnik.

Kot je poudarila, zakonodaja razlikuje med zasebno uporabo in obdelavo osebnih podatkov. Če nekdo z očali denimo posname družinski dogodek ali sprehod za osebno uporabo, se pravila GDPR praviloma ne uporabljajo. Povsem drugače pa je, kadar se ti posnetki nato objavljajo (na primer na družbenih omrežjih), uporabljajo za promocijo, v komercialne namene ali kako drugače presegajo okvir zasebne rabe. Takrat mora oseba, ki snema, zagotoviti ustrezno pravno podlago in posameznike obvestiti o obdelavi njihovih podatkov.

Tehnološki giganti pogosto delujejo po preizkušeni formuli: pošlji izdelek na trg zdaj, družbene in pravne katastrofe rešuj pozneje. Ker pa zakonodaja vedno zamuja za tehnologijo, se družba pogosto odzove po tem, ko je "škoda" že storjena.

Ena od največjih skrbi pri pametnih očalih je možnost prepoznavanja obrazov in drugih biometričnih podatkov. Meta je pred kratkim v aplikacijo Meta AI, ki jo uporablja za svoja pametna očala, vdelala kodo za prepoznavanje obrazov – interno poimenovano "NameTag". Skriti sistem je bil namenjen prepoznavanju obrazov, ustvarjanju biometričnih podpisov in identifikaciji ljudi v realnem času. Le nekaj dni po tem, ko je tehnološka revija Wired to razkrila in po javnem ogorčenju glede kršenja zasebnosti je Meta z novimi posodobitvami sporno kodo odstranila.

Zakonodaja je glede biometričnih podatkov (npr. prstni odtis, prepoznava obraza, šarenica) strožja. Kot opozarja Informacijska pooblaščenka, Zakon o varstvu osebnih podatkov (ZVOP-2) v Sloveniji na javnih površinah izrecno prepoveduje uporabo sistemov, s katerimi se obdelujejo biometrični osebni podatki. Tudi Evropska splošna uredba o varstvu podatkov (GDPR) jasno določa, da posameznik ne sme biti podvržen množičnemu zbiranju biometričnih in osebnih podatkov brez jasne privolitve. Urad Informacijskega pooblaščenca že dlje časa opozarja na pasti nosljive tehnologije, saj se posamezniki v javnosti ne morejo umakniti objektivu, za katerega sploh ne vedo, da obstaja.

Odgovor na to vprašanje ni vedno preprost. Informacijska pooblaščenka poudarja, da je treba vsak primer presojati posebej. Pomembno vlogo igrajo namen snemanja, način uporabe posnetkov, razmerje med snemajočim in posneto osebo ter stopnja posega v zasebnost posameznika. Tudi kadar snemanje zaradi izjeme zasebne rabe ne pomeni kršitve pravil o varstvu osebnih podatkov, to še ne pomeni, da posega v zasebnost ni bilo. Posameznik lahko svoje pravice uveljavlja pred sodiščem, v določenih primerih pa lahko gre tudi za sum kaznivega dejanja.

"Slikovno snemanje posameznikov, ne glede na uporabljeno tehnologijo, brez njihovega vedenja, se vsekakor odsvetuje, v odvisnosti od okoliščin primera in občutnosti posledic za posameznika, pa lahko osebo, ki drugega posname brez njegove vednosti, izpostavi civilno-pravni in odškodninski ter kazenski odgovornosti," še poudarja informacijska pooblaščenka.

V Sloveniji Kazenski zakonik v 138. členu obravnava nepooblaščeno slikovno snemanje, kadar gre za občuten poseg v zasebnost posameznika.

Pri pametnih očalih pa ni problematična zgolj funkcija snemanja, pač pa tudi funkcija umetne inteligence. Uporabniki se pogosto ne zavedajo, da kadar med nošenjem pametnih očal uporabljajo funkcije umetne inteligence in recimo očalom naročijo, naj analizirajo okolico, se ti podatki ne obdelujejo zgolj na njihovi fizični napravi. Ti podatki, ali vsaj del njih, potujejo na strežnike podjetja Meta, kjer jih nato sistemi umetne inteligence analizirajo in obdelujejo, posnetke pa uporabljajo za urjenje umetne inteligence.

A ne le stroji, posnetke pregledujejo in obdelujejo tudi ljudje, je pokazala preiskava švedskih časnikov Svenska Dagbladet in Göteborgs-Posten. Preiskava je v začetku leta razkrila, da so delavci zunanjega pogodbenika Mete, podjetja Sama v Keniji, lahko pregledovali občutljive vsebine, posnete z Meta očali. Ker uporabniki očal ne snamejo niti v najbolj intimnih trenutkih, so podizvajalci na svojih zaslonih gledali ljudi med slačenjem, med obiski zdravnikov, celo med uporabo stranišča in spolnimi odnosi. Razkritje je sprožilo odzive in mednarodne preiskave varuhov zasebnosti, Meta pa je po dogodku prekinila sodelovanje s podjetjem Sama. 

Pojavljajo pa se tudi skrbi glede potencialnega nedovoljenega dostopanja do snemalnih naprav na daljavo, ali celo sledenja napravi. Meta sicer zatrjuje, da imajo očala vgrajeno programsko in strojno opremo, ki to onemogoča. Očala so sicer zasnovana tako, da so vedno "na preži" za ukaz "Hej, Meta", in torej na nek način ves čas "poslušajo". Vendar v Meti zagotavljajo, da se strojna oprema kamere sproži le pod določenimi pogoji: s pritiskom na gumb, ukazom "Hej, Meta", ki mu sledi navodilo, ali z ročnim zagonom prenosa v živo v aplikacijah Instagram ali Facebook.

Novinarji so nedavno sicer razkrili tudi, da Meta v svojih laboratorijih testira prototipe "super zaznavnih" očal, ki so zasnovane tako, da neprekinjeno fotografirajo vsakih nekaj sekund, ne da bi LED lučka utripala, kar omogoča, da si umetna inteligenca zapomni vse, kar uporabnik vidi. Vendar to še ni funkcija, ki je na voljo na javnih komercialnih modelih.

Informacijski pooblaščenec opozarja, da je pri tem ključno vprašanje, katere podatke prejme ponudnik naprave in kaj z njimi počne. Če podjetje prejema osebne podatke uporabnikov ali tretjih oseb, mora spoštovati vse zahteve evropske zakonodaje o varstvu podatkov – od pravnih podlag za obdelavo in ustreznega obveščanja posameznikov do pravil o prenosu podatkov v tretje države.

V Londonu se je nedavno pojavila javna kritika pametnih očal v bližini britanskega sedeža Mete. Gverilska aktivistična skupina z imenom Vsi sovražijo Elona je namreč na avtobusni postaji namestila plakat, ki se odvisno od kota gledanja iz uradne marketinške akcije za Meta očala s podobo Kylie Jenner spremeni v skeletni obraz z opozorilom "Vedno vas opazujemo". 

Meta pogosto poudarja, da mora uporabnik sam poskrbeti za odgovorno uporabo očal in obveščanje okolice o snemanju. Toda po mnenju Informacijske pooblaščenke proizvajalec ne more preprosto prevaliti vse odgovornosti na končnega uporabnika.

Evropska zakonodaja namreč zahteva upoštevanje načela vgrajenega in privzetega varstva osebnih podatkov. To pomeni, da morajo biti naprave zasnovane tako, da že same omogočajo uporabo, ki je skladna s pravili varstva zasebnosti. Ponudniki tehnologije sicer ne morejo odgovarjati za vsako posamezno zlorabo svojih naprav, vendar morajo zagotoviti, da njihove rešitve omogočajo zakonito in transparentno uporabo.

Razprava o Meta očalih poteka tudi na ravni Evropske unije. Po poročanju časnika Politico evropski regulatorji iščejo ravnotežje med spodbujanjem razvoja umetne inteligence in zaščito temeljnih pravic posameznikov. Hkrati se soočajo z močnimi pritiski ameriških tehnoloških podjetij, ki opozarjajo, da bi lahko prestroga pravila zavrla inovacije.

Informacijski pooblaščenec ob tem poudarja, da ima Meta glavni evropski sedež na Irskem, zato v morebitnih čezmejnih postopkih nadzora nastopa predvsem irski organ za varstvo podatkov (DPC). Po njihovih informacijah irski regulator zadevo že preučuje.

Pametna očala za zdaj sicer niso nikjer izrecno prepovedana na nacionalni ali globalni ravni, vendar pa obstajajo določene prepovedi na regionalnih, pravnih in institucionalnih nivojih. Denimo New York je prva ameriška zvezna država, ki je uvedla prepoved pametnih očal na ravni celotnega sodnega sistema. Zaradi možnosti zlorab so marsikje prepovedana v izobraževalnih ustanovah.

Nekatere križarke so uporabo Meta očal prepovedale na javnih površinah. Številni popotniki pa opozarjajo, da so jim ob prihodu v Maroko na letališču zaplenili pametna očala. Podobno se dogaja v Savdski Arabiji, na Kubi in v Rusiji. Določene omejitve pa veljajo tudi v številnih drugih državah.

Podobno kot smo pred leti razvili bonton, da med poslovnim kosilom ali večerjo telefon umaknemo s mize, bomo očitno morali vzpostaviti tudi bonton za nosljivo tehnologijo. V tujini se že pojavljajo tudi primeri restavracij, kinematografov in zasebnih klubov, ki na vratih jasno označujejo prepoved vstopa s pametnimi očali. 

Tehnologija nam nedvomno prinaša udobje – prostoročno snemanje izletov, hitre informacije in pomoč umetne inteligence na vsakem koraku. A cena, ki jo za to plačujemo, ne sme biti popolna kapitulacija naše zasebnosti. Nenazadnje to spreminja tudi naše odnose, saj se odslej med pogovorom z nekom, ki nosi elegantna črna očala, lahko upravičeno sprašujemo, ali gledamo osebo ali pa preko te osebe Meta pravkar gleda in profilira nas.