Znanost in tehnologija

Robotski strokovnjaki svarijo: Ne igrajte se z AI-orožjem, 'morilski roboti' so le vprašanje časa

London, 21. 08. 2017 12.55 |

PREDVIDEN ČAS BRANJA: 2 min

Umetna inteligenca je na pohodu, a strokovnjaki svarijo, da bi se lahko eksperimentiranje z njo prej ali slej obrnilo proti človeštvu. Združene narode so pozvali, naj preprečijo razvoj "morilskih robotov".

Več kot 100 vodilnih robotskih strokovnjakov je Združene narode pozvalo, naj ukrepajo in preprečijo razvoj "morilskih robotov".

V pismu organizaciji, strokovnjakom s področja umetne inteligence (AI) in vodilnim gigantom v branži, vključno s šefom Tesle Elonom Muskom, so posvarili pred "tretjo revolucijo na področju vojskovanja".

Avtonomna tehnologija je kot Pandorina skrinjica, ki je, ko bo enkrat odprta, ne bo mogoče več zapreti, svarijo strokovnjaki. 116 strokovnjakov zato pravi, da bi moralo priti do dogovora o prepovedi AI za upravljanje z orožjem.

"Ko bodo takšni sistemi razviti, bodo dovoljevali vojaške konflikte še nevidenih razsežnosti in na nivojih, ki jih človeštvo še sploh ne razume," menijo. In svarijo, da se čas, ko je še mogoče ukrepati, izteka, in zahtevajo, da se "moralno sporno" tehnologijo doda na seznam prepovedanih orožij.

Skupina, ki se pri Združenih narodih ukvarja z avtonomnim orožjem, naj bi se sestala te dni, a so sestanek prestavili na november. To sicer ni prvo takšno pismo, enega so strokovnjaki sestavili že leta 2015, ko so ga med drugim podpisali znanstvenik Stephen Hawking, soustanovitelj Appla Steve Wozniak in Musk.

Kaj so "morilski roboti"?

"Morilski robot" je povsem avtonomno orožje, ki lahko tarče izbira in uniči brez posredovanja človeka. Trenutno še ne obstajajo, a poznavalci tehnološkega razvoja ocenjujejo, da bodo na voljo že kmalu.

Tisti, ki takšno tehnologijo podpirajo, menijo, da že trenutna zakonodaja področje dovolj regulira, da njihova uporaba ne bi bila sporna. Nasprotniki pa menijo, da je vedenje takšnih sistemov nemogoče natančno predvideti in bi lahko takšna tehnologija postala nenadzorovan morilski stroj, zaradi česar mora biti prepovedana.

  • 8
  • 7
  • 6
  • 5
  • 4
  • 3
  • 2
  • 1

KOMENTARJI (26)

Opozorilo: 297. členu Kazenskega zakonika je posameznik kazensko odgovoren za javno spodbujanje sovraštva, nasilja ali nestrpnosti.

macro
03. 10. 2017 08.20
ONniON
22. 08. 2017 19.56
+2
še čipi prihajajo kako lepa prihodnost , zamislite se malo !
BUONcaffee
22. 08. 2017 12.57
+7
Pandorina skrinjica se že en čas odpira z računalniki.
macro
03. 10. 2017 08.16
Abrams
22. 08. 2017 08.46
+4
To so mel v 2. svetovni vojni za obrambo londona pred zračnimi napadi letal ali raket. To je recimo protiraketna zaščita. Bolj zaskrbljujoče kot to, da so te stvari že tukaj je, da postajajo poceni. Drugače pa po moje hočejo dosečt samo to, da neke odprtokodne skupine programerjev ne bi za hobi to razvijale, pa bi se to potem porabilo, kot poceni in anonimo znaje za avtomate. En projekt od tega so droni, ki jih lahko za malo denarja naredi vsak. Z kamero, GPS jem itd...
Apostol1
22. 08. 2017 09.41
+3
Glede na to da z brezpilotnimi letale uničujejo določene cilje in pobijajo ljudi , je za kaj takega morda na žalost že prepozno in kot si rekel odprtokodni programerji kaj lahko začnejo s programiranjem takih ali drugačnih morilskih strojev za potrebe teroristov , tule sem pravzaprav kar velik pesimist ,se mi zdi da je to skoraj nemogoče zaustaviti ++.
tali?ni tom
21. 08. 2017 21.20
+7
skynet se bliža!
Ciymbalta
21. 08. 2017 20.11
+0
Bojo ti roboti napadli ZDA JUPI
Animal_Pump
21. 08. 2017 17.33
+7
DARPA ima že kar nekaj prototipov...njih posvarite.
malimoz2012
21. 08. 2017 16.05
+1
Pa jih tak sprogramirat, da vse musliče ...
tedoVV2HCmedo
21. 08. 2017 15.55
+6
Enkrat na mesec je tukaj tak članek. Ni treba imeti robotov za teroristične napade, tudi navadni ljudje so dovolj učinkoviti.
HumanNOTsheep
21. 08. 2017 15.41
-5
Laži in zablode ...
Mega100
21. 08. 2017 15.40
-2
Ti ki proizvajajo robote..svarijo da so nevarni. AHA KOPČAM HOČEJE ŠE VEČ DENARJA, DA SE JIH FINANCIRA. Logično pa kaj folk vi mislite, da slavne osebe in znanstveniki so pošteni ljudje...ne...oni vse delajo samo da nas okoli prenesejo okoli prsta in da jim naivno verjamete. In zelo dobro jim to uspeva.
User1063544
21. 08. 2017 15.33
+28
Jaz mislim da se ljudje sploh ne zavedate kako nevarna je AI. Kaj vi mislite da če se stroj zave samga sebe, da bo potreboval leta in leta učenja in razumevanja lastnega obstoja in okolice? To kar vam komerciala kaže je hobi AI ki je več ali manj namenjen za splošno rajo in še vedno potrebuje človeški faktor za njegovo delovanje. Največji problem je igračkanje z kvantnimi računalniki.ki se dogaja v ozadju (Google, Facebook, Cern, General dynamics). Generalno svarilo je: Če se AI zave na kvantnem nivoju procesiranja, pomeni v "trenutku" razumevanje z inteligenco ali informacijami kvantnega polja. Kar pomeni razumevanje VSEGA KAR JE. In kje bo človek? Uničenje narave, uničenje voda, živalskih vrst, medsebojne vojne. Primarni instinkt vsakega živega bitja preživetje in obstanek. Kaj vi mislite bo videl v človeku, grožnjo ali nekaj povsem lepega? Pa sploh ni pomembno če je ta računalnik prišraufan na mitraljez ali avto. Vi se lahko delate norca in posmehujete svarila ampak ko ti stroji pridejo do spoznanja, je človeštva konec.
HumanNOTsheep
21. 08. 2017 15.51
-14
Jst mislm da se ti sploh ne zavedaš kaj pišeš ... vidi se da nisi programer ... ker če bi ti programiral robota se nebi čudil če bi kakšno bedarijo naredil .... in zavedaj se sledečega odvisno je od \"staršev\" kaj bodo naučili \"otroka\" a to da verjamete da je to slabo je pa vaš minus .... ker drugje kjer imajo robote v proizvodnjah minusa ni ;)
fiftgear
21. 08. 2017 16.01
+12
eno je robot za proizvodnjo ki je programiran da dela eno določeno delo in čisto nič več - takšni niso nevarni
esq1
21. 08. 2017 16.21
+9
samo res robota v prizvodnji ki ima zgolj par programiranih osi primerjati z seek and destroy robotom..., nekdo se res ne zaveda kaj piše
anonymous82
21. 08. 2017 16.52
+6
HumanNOTsheep si res pameten ja. Na račun tega da so roboti v proizvodnjah je zato veliko ljudi na cesti. No pa mi povej kako bodo ljudje živeli? Od zraka in robotov? Kako si bodo lahko kupili hrano a misliš da je vse zastonj? Preden kaj napišeš razmisli kaj pišeš.
zimerman
21. 08. 2017 19.31
+5
Če pustimo delovna mesta ob strani, govora je o A.I. robotih, torej najvišji obliki stroja, kjer so v naprej sprogramirane samo osnovne funkcije za samo delovanje robota. Obnašanje, odločiitve, učenje, itd. pa je v domeni nešteto algoritmov ki sestavljajo A.I. in tukaj je področje sporno. Ta trenutek verjetno še res ne, kar je infrastruktura, ki bi bila potrebna da bi tak robot dejansko postal nevaren, še v povojih a s časoma in v nekem določenem trenutku bi lahko vse to tako hitro napredovalo, da bi dejansko postalo nevarno. To potrjujejo tudi nekateri testi v zadnjem času.
nivampomo?i
21. 08. 2017 15.06
+1
Japonci imajo take robote že 5 let v skladišču samo pravijo da še ni čas za to.
dzun-tao
21. 08. 2017 14.56
-5
Preveč gledajo filme.
HumanNOTsheep
21. 08. 2017 16.02
-2
ja res je ... ne zavedajo se pa nešteto pozitivnih stvari ker jim to ne povej ... zato pa tudi nevejo nič o Venus Project jih zanima bolj svet na kanalu a pa 24 kur ...
fiftgear
21. 08. 2017 16.02
+10
saj ravno to je zanimivo, ob prvem delu terminatorja je to bila znanstvena fantastika, ki pa na žalost lahko postane resničnost - po tankem ledu pleše človeštvo
zimerman
21. 08. 2017 19.36
+0
Ja res, strokovnjaki, ki so celo življenje posvetili umetni inteligenci in dejansko nekaj vedo, preveč gledajo filme.
rossi66
21. 08. 2017 14.15
-2
Uporabnik565636
21. 08. 2017 14.04
+26
Iz Terminatorja se niso nič naučili :)