Pašattīstības mākslīgais intelekts (AI) nākotnē var paverdzināt vai nogalināt cilvēkus, ja viņš to vēlas. To pastāstīja zinātnieks Amnons Edens, kurš uzskata, ka brīvi domājošas un ļoti inteliģentas apziņas attīstības riski ir ļoti lieli, un "ja jūs nerūpēsities par AI kontroles jautājumiem jau pašreizējā attīstība, tad rītdiena var vienkārši nepienākt. " Kā vēsta angļu izdevums Express, cilvēce, pēc Amnona Edena teiktā, šodien atrodas "neatgriezeniskā punktā", lai īstenotu slavenā kinoeposa "The Terminator" sižetu.
Ir vērts atzīmēt, ka Dr Amnon Eden ir projekta vadītājs, kura galvenais mērķis ir analizēt AI iespējamo postošo ietekmi. Bez pareizas izpratnes par mākslīgā intelekta radīšanas sekām tā attīstība var draudēt ar katastrofu, uzskata zinātnieks. Pašlaik mūsu sabiedrība ir vāji informēta par debatēm, kas notiek zinātnieku aprindās par AI iespējamās ietekmes analīzi. "Nākamajā 2016. gadā iespējamo risku analīzei būs jābūt daudz plašāk izplatītai korporāciju un valdību, politiķu un to, kas ir atbildīgi par lēmumu pieņemšanu, domāšanā," saka Edens.
Zinātnieks ir pārliecināts, ka zinātniskā fantastika, kas apraksta robotu cilvēces iznīcināšanu, drīz var kļūt par mūsu kopīgo problēmu, jo AI radīšanas process ir kļuvis nekontrolējams. Piemēram, Elons Musks ar uzņēmēja Sema Altmana atbalstu nolēma izveidot jaunu bezpeļņas organizāciju 1 miljarda ASV dolāru apmērā, kas attīsta atvērtā pirmkoda AI, kam vajadzētu pārspēt cilvēka prātu. Tajā pašā laikā amerikāņu miljardieris Elons Musks pats ierindo mākslīgo intelektu starp "lielākajiem draudiem mūsu eksistencei". Stīvs Vozņaks, kurš līdzdibināja Apple, pagājušā gada martā sacīja, ka “nākotne cilvēkiem šķiet biedējoša un ļoti bīstama … galu galā pienāks diena, kad datori domās ātrāk nekā mēs, un viņi atbrīvosies no lēniem cilvēkiem, lai lai uzņēmumi varētu strādāt efektīvāk."
Ir vērts atzīmēt, ka daudzi zinātnieki saskata AI draudus. Desmitiem pazīstamu zinātnieku, investoru un uzņēmēju, kuru darbība vienā vai otrā veidā ir saistīta ar mākslīgā intelekta attīstību, ir parakstījuši atklātu vēstuli, aicinot pievērst lielāku uzmanību darba drošības un sociālās lietderības jautājumam. AI joma. Astrofiziķis Stīvens Hokings un Tesla un SpaceX dibinātājs Elons Musks ir vieni no šī dokumenta parakstītājiem. Vēstule kopā ar pavaddokumentu, ko izstrādāja Dzīves nākotnes institūts (FLI), tika uzrakstīta, pieaugot bažām par mākslīgā intelekta ietekmi uz darba tirgu un pat par visas cilvēces izdzīvošanu ilgtermiņā. vide, kurā robotu un mašīnu iespējas pieaugs gandrīz nekontrolējami.
Zinātnieki saprot faktu, ka mākslīgā intelekta potenciāls mūsdienās ir ļoti liels, tāpēc ir pilnībā jāizpēta tā optimālās izmantošanas iespējas mums, lai izvairītos no ar to saistītajām kļūdām, atzīmē FLI vēstule. Ir obligāti, lai cilvēka radītās AI sistēmas darītu tieši to, ko mēs vēlamies. Ir vērts atzīmēt, ka Dzīvības nākotnes institūtu tikai pagājušajā gadā nodibināja vairāki entuziasti, kuru vidū bija arī Skype radītājs Jans Tallins, lai „samazinātu riskus, ar kuriem saskaras cilvēce”, un stimulētu pētniecību ar „optimistisku redzējumu”. par nākotni”. Pirmkārt, mēs runājam par riskiem, ko rada AI un robotikas attīstība. FLI konsultatīvajā padomē ietilpst Musks un Hokings, kā arī atzītais aktieris Morgans Frīmens un citi slaveni cilvēki. Pēc Elona Muska domām, nekontrolēta mākslīgā intelekta attīstība ir potenciāli bīstamāka nekā kodolieroči.
Slavenais britu astrofiziķis Stīvens Hokings 2015. gada beigās mēģināja izskaidrot savu noraidījumu AI tehnoloģijām. Viņaprāt, laika gaitā superinteliģentās mašīnas uzlūkos cilvēkus kā palīgmateriālus vai skudras, kas vienkārši traucē viņu uzdevumu risināšanai. Runājot ar Reddit portāla lietotājiem, Stīvens Hokings atzīmēja, ka neuzskata, ka šādas superinteliģentas mašīnas būs "ļaunas radības", kuras vēlas iznīcināt visu cilvēci sava intelektuālā pārākuma dēļ. Visticamāk, būs iespējams runāt par to, ka viņi vienkārši nepamanīs cilvēci.
“Plašsaziņas līdzekļi pēdējā laikā pastāvīgi sagroza manus vārdus. Galvenais risks AI attīstībā nav mašīnu ļaunprātība, bet gan to kompetence. Superinteliģents mākslīgais intelekts darīs izcilu darbu, taču, ja tas un mūsu mērķi nesakritīs, cilvēcei būs ļoti nopietnas problēmas,”skaidro slavenais zinātnieks. Kā piemēru Hokings minēja hipotētisku situāciju, kurā superspēcīgs AI ir atbildīgs par jauna hidroelektrostacijas darbību vai būvniecību. Šādai mašīnai prioritāte būs tā, cik daudz enerģijas radīs uzticētā sistēma, un cilvēku liktenim nebūs nozīmes. “Mūsu ir maz, kas no dusmām mīdām skudru pūžņus un kāpjam uz skudrām, bet iedomāsimies situāciju - jūs kontrolējat jaudīgu hidroelektrostaciju, kas ražo elektrību. Ja jums ir jāpaaugstina ūdens līmenis un jūsu darbību rezultātā tiks appludināts viens skudru pūznis, tad kukaiņu noslīkšanas problēmas, visticamāk, jūs netraucēs. Neliksim cilvēkus skudru vietā,”sacīja zinātnieks.
Otra iespējamā problēma mākslīgā intelekta tālākai attīstībai, pēc Hokinga domām, var būt "mašīnu īpašnieku tirānija" - straujais ienākumu līmeņa atšķirības pieaugums starp bagātiem cilvēkiem, kuri spēs monopolizēt ražošanu viedo mašīnu un pārējo pasaules iedzīvotāju vidū. Stīvens Hokings ierosina šīs iespējamās problēmas risināt šādi - palēnināt AI izstrādes procesu un pāriet uz nevis "universāla", bet augsti specializēta mākslīgā intelekta izstrādi, kas spēj atrisināt tikai ļoti ierobežotu problēmu loku.
Papildus Hokingam un Muskam vēstuli parakstīja Nobela prēmijas laureāts un MIT fizikas profesors Frenks Vilčeks, Mašīnu izlūkošanas institūta (MIRI) izpilddirektors Lūks Mīhauzers, kā arī daudzi speciālisti no lielām IT kompānijām: Google, Microsoft un IBM, kā arī uzņēmēji, kas nodibināja AI kompānijas Vicarious un DeepMind. Vēstules autori atzīmē, ka to mērķis nav nobiedēt sabiedrību, bet plāno izcelt gan pozitīvos, gan negatīvos aspektus, kas saistīti ar mākslīgā intelekta radīšanu. "Pašlaik visi piekrīt, ka pētījumi mākslīgā intelekta jomā notiek nepārtraukti, un mākslīgā intelekta ietekme uz mūsdienu cilvēku sabiedrību tikai palielināsies," teikts vēstulē, "iespējas, kas paver cilvēkiem, ir milzīgas, viss, ko piedāvā mūsdienu civilizācija. piedāvājumu radīja izlūkošana.persona. Mēs nevaram paredzēt, ko mēs spēsim sasniegt, ja cilvēka intelektu var reizināt ar AI, taču problēma atbrīvoties no nabadzības un slimībām vairs nav bezgala grūta.”
Mūsdienu dzīvē jau ir iekļauti daudzi sasniegumi mākslīgā intelekta jomā, tostarp attēlu un runas atpazīšanas sistēmas, bezpilota transportlīdzekļi un daudz kas cits. Silīcija ielejas novērotāji lēš, ka šajā jomā pašlaik tiek īstenoti vairāk nekā 150 jaunuzņēmumi. Tajā pašā laikā notikumi šajā jomā piesaista arvien vairāk investīciju, un arvien vairāk uzņēmumu, piemēram, Google, izstrādā savus projektus, kuru pamatā ir AI. Tāpēc vēstules autori uzskata, ka ir pienācis laiks pievērst pastiprinātu uzmanību visām novērotā uzplaukuma iespējamām sekām uz cilvēka dzīves ekonomiskajiem, sociālajiem un juridiskajiem aspektiem.
Nostāja, ka mākslīgais intelekts var radīt draudus cilvēkiem, piekrīt Oksfordas universitātes profesoram Nikam Bostromam, kurš ir pazīstams ar savu darbu pēc antropiskā principa. Šis speciālists uzskata, ka mākslīgais intelekts ir nonācis tādā līmenī, kam sekos tā nesaderība ar cilvēkiem. Niks Bostroms uzsver, ka atšķirībā no gēnu inženierijas un klimata pārmaiņām, kuru kontrolei valdības piešķir pietiekami daudz līdzekļu, "nekas netiek darīts, lai kontrolētu AI attīstību". Pēc profesora domām, attiecībā uz mākslīgo intelektu pašlaik tiek īstenota "jāaizpilda tiesiskā vakuuma politika". Pat tādas tehnoloģijas kā pašbraucošas automašīnas, kas šķiet nekaitīgas un noderīgas, rada vairākus jautājumus. Piemēram, vai šādai automašīnai ir jāveic ārkārtas bremzēšana, lai glābtu savus pasažierus, un kurš būs atbildīgs par bezpilota transportlīdzekļa negadījumu?
Pārrunājot iespējamos riskus, Niks Bostroms atzīmēja, ka "dators nespēj noteikt ieguvumus un kaitējumu cilvēkiem" un "viņam pat nav ne mazākās nojausmas par cilvēka tikumību". Turklāt pašpilnveidošanās cikli datoros var notikt tādā ātrumā, ka cilvēks vienkārši nespēj izsekot, un arī ar to gandrīz neko nevar izdarīt, saka zinātnieks. "Attīstības stadijā, kad datori var domāt paši, neviens nevar droši paredzēt, vai tas radīs haosu vai ievērojami uzlabos mūsu pasauli," sacīja Niks Bostroms, kā piemēru minot vienkāršu iespējamo datora risinājumu - izslēgšanu valstīs ar aukstu klimata apsildi, lai uzlabotu cilvēku veselību un palielinātu izturību, kas "var nonākt pie mākslīgā intelekta galvas".
Turklāt Bostrom arī izvirza cilvēka smadzeņu šķeldošanas problēmu, lai palielinātu mūsu biointeliģenci. “Daudzējādā ziņā šāda procedūra var būt noderīga, ja tiek kontrolēti visi procesi, bet kas notiek, ja implantētā mikroshēma var pārprogrammēt sevi? Kādas sekas tas var novest - pie supermena parādīšanās vai datora, kas izskatīsies tikai kā cilvēks? " - profesors jautā. Veids, kādā datori risina cilvēku problēmas, ļoti atšķiras no mūsējā. Piemēram, šahā cilvēka smadzenes ņem vērā tikai šauru kustību kopumu, izvēloties no tām labāko variantu. Savukārt dators apsver visus iespējamos gājienus, izvēloties labāko. Tajā pašā laikā dators negaida, ka izjauks vai pārsteigs pretinieku spēlē. Atšķirībā no cilvēka, spēlējot šahu, dators var viltīgi un smalki pārvietoties tikai nejauši. Mākslīgais intelekts var aprēķināt vislabākajā veidā - novērst kļūdu no jebkuras sistēmas, noņemot no turienes "cilvēcisko faktoru", taču atšķirībā no cilvēka robots nav gatavs veikt varoņdarbus, kas glābtu cilvēku dzīvības.
Cita starpā viedo mašīnu skaita pieaugums ir jaunas rūpnieciskās revolūcijas posms. Savukārt tas nozīmē, ka tuvākajā nākotnē cilvēci sastaps neizbēgamas sociālās pārmaiņas. Laika gaitā darbs kļūs par augsti kvalificētiem speciālistiem, jo gandrīz visus vienkāršos uzdevumus var veikt ar robotiem un citiem mehānismiem. Zinātnieki uzskata, ka mākslīgajam intelektam "vajag aci un aci", lai mūsu planēta nepārvērstos par multfilmu planētu "Zhelezyaka", kurā dzīvoja roboti.
Runājot par arvien lielāku ražošanas procesu automatizāciju, nākotne jau ir pienākusi. Pasaules ekonomikas forums (WEF) iepazīstināja ar savu ziņojumu, saskaņā ar kuru automatizācija novedīs pie tā, ka līdz 2020. gadam darbu zaudēs vairāk nekā 5 miljoni dažādās jomās strādājošu cilvēku. Tā ir robotu un robotu sistēmu ietekme uz mūsu dzīvi. Lai sagatavotu ziņojumu, WEF darbinieki izmantoja datus par 13,5 miljoniem darbinieku no visas pasaules. Pēc viņu domām, līdz 2020. gadam kopējā vajadzība pēc vairāk nekā 7 miljoniem darbavietu izzudīs, savukārt paredzamais nodarbinātības pieaugums citās nozarēs sasniegs nedaudz vairāk par 2 miljoniem darbavietu.
