Militārie eksperti sauc par autonomajiem ieročiem vai autonomo ieroču sistēmām (AWS) ieroču veidiem, kas visu dara paši: atrod mērķi un izpilda uzdevumu bez cilvēka iejaukšanās. Viens no slavenākajiem, līdz šim tikai zinātniskās fantastikas filmās un AWS grāmatās, ir tā saucamie "slepkavas roboti".
Elons Musks un vairāk nekā simts citi robotikas eksperti atklātajā brīdinājuma vēstulē ANO raksta par slepkavu robotu nāvējošajiem draudiem. Musks, Mustafa Suleimans, AI kompānijas DeepMind Technologies radītājs, kas tagad pieder Google, un 114 eksperti no 26 valstīm brīdina ANO, ka bruņošanās sacensības AWS var atvērt Pandoras lādi, kas var izraisīt neparedzamu un ļoti liels kaitējums cilvēcei. Viņi pieprasa aizliegt autonomo ieroču sistēmu izstrādi un ieviešanu.
Visi parakstītāji ir labi pārzinājuši šo jautājumu, jo strādā mākslīgā intelekta (AI) jomā. Viņi ir pārliecināti, ka slepkavu robotu ieviešanai attīstīto valstu armiju bruņojumā militārajās lietās būs tāda pati nozīme kā šaujampulvera un kodolieroču izgudrošanai, ko viņi sauc par pirmo un otro revolūciju militārajās lietās. Viņi uzskata, ka AWS būs trešā revolūcija.
"Kad autonomās ieroču sistēmas tiks paaugstinātas, militārie konflikti nonāks tādā līmenī, kādu cilvēce vēl nekad nav redzējusi," teikts kopīgajā vēstulē. - Turklāt tas notiks ar lielu ātrumu. AWS var kļūt par terora ieroci, ieroci, ko despoti un teroristi izmantos pret civiliedzīvotājiem …"
Vēstules autori brīdina par joprojām hipotētisku ieroci, kas bez cilvēka iejaukšanās var iznīcināt cilvēkus. Diena ir tuvu, kad tā kļūs par skarbu realitāti no daiļliteratūras kategorijas un piespiedīs mūs meklēt atbildes uz daudziem sarežģītiem jautājumiem, sākot no šādu sistēmu drošas pārvaldības līdz morālām un ētiskām problēmām, ko izraisa "dzelzs" nežēlība un neparedzamība. no nāvējošām mašīnām.
Muskuss ar atbalstītājiem, kuri dalās savā nostājā par AWS bīstamību cilvēcei, uzsver, ka nav laika pārdomām un diskusijām un ka ir jārīkojas nekavējoties. "Mums ir ļoti maz laika," viņi raksta ANO. "Kad Pandoras kaste būs atvērta, būs ļoti grūti to aizvērt."
Laiks atklātas vēstules rakstīšanai nav izvēlēts nejauši. Eksperti vēlējās sakrist ar Melburnas Starptautiskās mākslīgā intelekta konferences (IJCAI) sākumu. To vajadzēja atvērt pirmdien, 21. augustā, bet ANO nolēma to atlikt līdz novembrim.
Atklātas vēstules beigās Elons Musks un viņa kolēģi aicina ANO divkāršot centienus līdz novembrim izveidot stratēģiju, lai aizsargātu planētu no slepkavu robotiem.
Iepriekš Musks pats brīdināja par briesmām, ko rada darbs pie mākslīgā intelekta kā tāda, jo uz tā balstītas sistēmas var izkļūt no cilvēka kontroles. Tajā pašā laikā automašīnas ar Tesla elektromotoriem jau brauc pa ASV ceļiem bezpilota režīmā, kas nav bez starpgadījumiem.
