Dal odpoved zaradi pogodbe z vojsko: 'Vodstvo je izgubilo moralni kompas'

René Mayrhofer, direktor za varnost platforme Android, je v poslovilnem pismu sodelavcem zapisal, da je njegova odločitev postala "neizogibna", potem ko je Google podpisal sporazum, ki Pentagonu omogoča uporabo Googlovih modelov umetne inteligence pri tajnih projektih.

"Vodstvo Googla je tiho opustilo cilj ogljične nevtralnosti zaradi ogromne porabe energije modelov umetne inteligence. Še huje pa je, da zdaj sklepa pogodbe z ameriškim ministrstvom za vojno," je zapisal v pismu z naslovom "Vodstvo Googla je izgubilo moralni kompas".

Pismo, ki ga je pridobil Business Insider, je Mayrhofer pozneje objavil tudi na svojem osebnem blogu.

Google je konec aprila potrdil, da bo ameriškemu obrambnemu ministrstvu zagotavljal tehnologijo umetne inteligence za zaupne naloge. Takšne naloge lahko vključujejo načrtovanje vojaških operacij, obveščevalne analize in druge dejavnosti nacionalne varnosti.

Odločitev je sprožila val nezadovoljstva med delom zaposlenih. Nekateri so vodstvo že pred podpisom pogodbe pozivali, naj sodelovanja ne sklene.

Tiskovni predstavnik podjetja je takrat poudaril, da so ponosni na sodelovanje v konzorciju tehnoloških podjetij, ki zagotavljajo storitve umetne inteligence v podporo nacionalni varnosti.

Pri Googlu so hkrati zagotovili, da ostajajo zavezani načelu, da umetna inteligenca ne sme biti uporabljena za množični domači nadzor ali za avtonomno orožje brez ustreznega človeškega nadzora.

Mayrhofer opozarja, da se je podjetje v zadnjih letih močno oddaljilo od načel, zaradi katerih se je leta 2017 sploh odločil za delo pri Googlu.

Posebej izpostavlja spremembo Googlovih etičnih smernic za umetno inteligenco. Te so bile sprejete leta 2018 in so med drugim prepovedovale uporabo umetne inteligence za razvoj orožja in nadzornih sistemov. Februarja lani pa je podjetje omejitve umaknilo.

"Sem pacifist in že dolgo sem se odločil, da ne bom delal za vojske, ki sodelujejo v ofenzivnem vojskovanju," je zapisal. "Namerno škodovanje ljudem je nekaj, pri čemer ne morem in ne bom sodeloval."

Po njegovem mnenju je dodatno zaskrbljujoče tudi pomanjkanje notranje razprave o ključnih odločitvah podjetja.

"Nobena od teh odločitev ni predmet razprave ali komunikacije znotraj podjetja. O njih preprosto odloča najvišje vodstvo," je zapisal.

Mayrhofer, ki je obenem redni profesor na Johannes Kepler University Linz, je izrazil tudi skrb zaradi političnih sprememb v ZDA.

Po njegovem mnenju obstaja nevarnost, da bi lahko sporazum med Googlom in Pentagonom omogočil uporabo umetne inteligence za množični nadzor evropskih državljanov.

"Ta dogovor pomeni, da bodo Googlovi sistemi umetne inteligence zelo verjetno uporabljeni neposredno proti meni in mojim bližnjim. V današnjem okolju ne vidim, kako ne bi odstopil," je zapisal.

Ob tem poudarja, da ne obsoja sodelavcev, ki ostajajo v podjetju.

Sam si je po njegovih besedah lahko privoščil odhod tudi zato, ker kot redni profesor v Evropi ni finančno odvisen od zaposlitve pri Googlu, medtem ko številni drugi te možnosti nimajo.

Mayrhofer ni prvi zaposleni, ki je javno kritiziral Googlovo sodelovanje z ameriško vojsko.

Že aprila je raziskovalec umetne inteligence Andreas Kirsch iz Googlovega oddelka DeepMind za Business Insider dejal, da ga je zaradi odločitve podjetja "izjemno sram".

Mayrhofer bo v podjetju ostal do avgusta, ko se mu izteče odpovedni rok. Ob tem je napovedal, da se bo takoj umaknil iz vseh projektov umetne inteligence, ki bi lahko bili povezani s pogodbo z ameriškim obrambnim ministrstvom.

"Žalosten sem, da je prišlo do tega, in iskreno upam, da bo vodstvo Googla ponovno našlo svoj moralni kompas. Do takrat pa vas bom pogrešal," je sklenil v poslovilnem sporočilu.