Pirms jums ir raksta otrā daļa no sērijas "Pagaidi, kā tas viss var būt reāli, kāpēc par to joprojām nerunā ik uz stūra." Iepriekšējā sērijā kļuva zināms, ka inteliģences sprādziens pamazām rāpo līdz planētas Zeme cilvēkiem, tā cenšas attīstīties no šauri fokusēta uz universālu inteliģenci un, visbeidzot, mākslīgo virsinteliģenci.
"Iespējams, mēs saskaramies ar ārkārtīgi sarežģītu problēmu, un nav zināms, cik daudz laika tiek atvēlēts tās risināšanai, bet cilvēces nākotne var būt atkarīga no tās risinājuma." - Niks Bostroms.
Raksta pirmā daļa sākās pietiekami nevainīgi. Mēs apspriedām šauri fokusētu mākslīgo intelektu (AI, kas specializējas vienas konkrētas problēmas risināšanā, piemēram, maršrutu noteikšanā vai šaha spēlēšanā), mūsu pasaulē to ir daudz. Tad viņi analizēja, kāpēc ir tik grūti audzēt vispārēju virziena mākslīgo intelektu (AGI jeb AI, kas intelektuālo spēju ziņā var salīdzināt ar cilvēku jebkuras problēmas risināšanā). Mēs secinājām, ka tehnoloģiju attīstības eksponenciālais ātrums norāda, ka drīzumā AGI var būt ap stūri. Galu galā mēs nolēmām, ka, tiklīdz mašīnas sasniegs cilvēka intelektu, uzreiz var notikt sekojošais:
Kā parasti, mēs skatāmies uz ekrānu, neticot, ka mūsu dzīves laikā var parādīties mākslīgais superinteliģents (ISI, kas ir daudz gudrāks par jebkuru cilvēku), un izvēloties emocijas, kas vislabāk atspoguļotu mūsu viedokli šajā jautājumā.
Pirms ienirt ISI specifikā, atgādināsim sev, ko nozīmē mašīna būt superinteliģentam.
Galvenā atšķirība ir starp ātru superizlūkošanu un kvalitatīvu superizlūkošanu. Bieži vien pirmais, kas nāk prātā, domājot par superinteliģentu datoru, ir tas, ka tas spēj domāt daudz ātrāk nekā cilvēks - miljoniem reižu ātrāk, un piecu minūšu laikā tas aptvers, kas cilvēkam būtu vajadzīgs desmit gadus. ("Es zinu kung fu!")
Tas izklausās iespaidīgi, un ISI patiešām vajadzētu domāt ātrāk nekā jebkuram citam cilvēkam, taču galvenā atšķirīgā iezīme būs tās izlūkošanas kvalitāte, kas ir pilnīgi atšķirīga. Cilvēki ir daudz gudrāki par pērtiķiem nevis tāpēc, ka viņi domā ātrāk, bet tāpēc, ka viņu smadzenes satur vairākus ģeniālus kognitīvus moduļus, kas veic sarežģītus lingvistiskus attēlojumus, ilgtermiņa plānošanu, abstraktu domāšanu, uz ko pērtiķi nav spējīgi. Ja jūs pēkšņi paātrināsiet pērtiķa smadzenes tūkstoš reižu, tas nekļūs gudrāks par mums - pat pēc desmit gadiem tā nespēs salikt konstruktoru pēc instrukcijām, kas cilvēkam prasītu ne vairāk kā pāris stundas. Ir lietas, kuras pērtiķis nekad neiemācīsies neatkarīgi no tā, cik stundas viņš pavada vai cik ātri darbojas viņa smadzenes.
Turklāt pērtiķis nezina, cik cilvēcīgi, jo tā smadzenes vienkārši nespēj apzināties citu pasauļu esamību - pērtiķis var zināt, kas ir cilvēks un kas ir debesskrāpis, bet nekad nesapratīs, ka debesskrāpi ir uzcēlis cilvēki. Viņas pasaulē viss pieder dabai, un makaka ne tikai nevar uzcelt debesskrāpi, bet arī saprot, ka to var uzbūvēt jebkurš. Un tas ir rezultāts nelielai intelekta kvalitātes atšķirībai.
Vispārējā intelekta shēmā, par kuru mēs runājam, vai vienkārši pēc bioloģisko būtņu standartiem, inteliģences kvalitātes atšķirība starp cilvēkiem un pērtiķiem ir niecīga. Iepriekšējā rakstā mēs uz kāpnēm novietojām bioloģiskās kognitīvās spējas:
Lai saprastu, cik nopietna būs superinteliģenta mašīna, novietojiet to divus iecirtumus augstāk par cilvēku uz šīm kāpnēm. Šī mašīna var būt tikai nedaudz superinteliģenta, taču tās pārākums pār mūsu kognitīvajām spējām būs tāds pats kā mūsējais - pār pērtiķiem. Un tāpat kā šimpanze nekad nesapratīs, ka var uzcelt debesskrāpi, mēs, iespējams, nekad nesapratīsim, ko sapratīs mašīna, kas atrodas pāris pakāpienu augstāk, pat ja mašīna mēģina mums to izskaidrot. Bet tas ir tikai pāris soļu. Gudrākā mašīna mūsos ieraudzīs skudras - tā gadiem ilgi mums iemācīs vienkāršākās lietas, un šie mēģinājumi būs pilnīgi bezcerīgi.
Virsinteliģences veids, par kuru mēs šodien runāsim, atrodas tālu aiz šīm kāpnēm. Tas ir inteliģences sprādziens - jo gudrāka kļūst automašīna, jo ātrāk tā var palielināt savu intelektu, pakāpeniski palielinot impulsu. Var paiet gadi, līdz šāda mašīna izlūkošanas ziņā pārspēj šimpanzes, bet varbūt pāris stundas, lai mūs pārspētu par pāris pakāpēm. No šī brīža automašīna jau katru sekundi var pārlēkt pāri četriem soļiem. Tāpēc mums vajadzētu saprast, ka ļoti drīz pēc tam, kad parādās pirmās ziņas, ka mašīna ir sasniegusi cilvēka intelekta līmeni, mēs varam saskarties ar līdzāspastāvēšanas realitāti uz Zemes ar kaut ko, kas būs daudz augstāks par mums uz šīm kāpnēm (vai varbūt un miljoniem reižu lielāks):
Un, tā kā mēs esam noskaidrojuši, ka ir pilnīgi bezjēdzīgi mēģināt izprast mašīnas jaudu, kas atrodas tikai divus soļus virs mums, definēsim vienreiz un uz visiem laikiem, ka nav iespējams saprast, ko ISI darīs un kādas sekas tas radīs. tas būs mums. Ikviens, kurš apgalvo pretējo, vienkārši nesaprot, ko nozīmē superinteliģence.
Evolūcija ir lēnām un pakāpeniski attīstījusi bioloģiskās smadzenes simtiem miljonu gadu laikā, un, ja cilvēki radīs superinteliģentu mašīnu, mēs savā ziņā pārsniegsim evolūciju. Vai arī tā būs daļa no evolūcijas - iespējams, evolūcija darbojas tā, ka inteliģence attīstās pakāpeniski, līdz tā sasniedz pagrieziena punktu, kas sludina jaunu nākotni visām dzīvajām būtnēm:
Sakarā ar iemesliem, par kuriem mēs vēlāk diskutēsim, milzīga zinātnieku aprindu daļa uzskata, ka jautājums nav par to, vai mēs nonāksim pie šī kritiskā punkta, bet gan par to, kad.
Kur mēs nonāksim pēc šī?
Es domāju, ka neviens šajā pasaulē, ne es, ne jūs, nevarēs pateikt, kas notiks, kad sasniegsim pagrieziena punktu. Oksfordas filozofs un vadošais AI teorētiķis Niks Bostroms uzskata, ka mēs varam visus iespējamos rezultātus apvienot divās plašās kategorijās.
Pirmkārt, skatoties vēsturē, mēs zinām par dzīvi: sugas parādās, pastāv noteiktu laiku un pēc tam neizbēgami nokrīt no līdzsvara stara un izmirst.
"Visas sugas izmirst" ir bijis tikpat uzticams noteikums vēsturē kā "visi cilvēki kādreiz mirst". 99,9% sugu ir nokritušas no dzīvības baļķa, un ir pilnīgi skaidrs, ka, ja suga karājas uz šī baļķa pārāk ilgi, dabīgā vēja brāzma vai pēkšņs asteroīds apgāzīs baļķi. Bostroms izzušanu sauc par pievilcēja stāvokli - vietu, kur visas sugas līdzsvarojas, lai nenokristu tur, kur neviena suga vēl nav atgriezusies.
Un, lai gan lielākā daļa zinātnieku atzīst, ka ISI būs iespēja nolemt cilvēkus izzušanai, daudzi arī uzskata, ka ISI spēju izmantošana ļaus indivīdiem (un sugai kopumā) sasniegt pievilcēja otro stāvokli - sugu nemirstību. Bostroms uzskata, ka sugas nemirstība ir tikpat pievilcīga kā sugas izzušana, tas ir, ja mēs pie tā nonāksim, mēs būsim lemti mūžīgai eksistencei. Tādējādi, pat ja visas sugas līdz šim nokrita no šīs nūjas izmiršanas virpulī, Bostroms uzskata, ka baļķim ir divas puses, un uz Zemes vienkārši neparādījās tāda inteliģence, kas saprastu, kā nokrist otrā pusē.
Ja Bostromam un citiem ir taisnība un, spriežot pēc visas mums pieejamās informācijas, viņiem tā varētu būt, mums ir jāpieņem divi ļoti šokējoši fakti:
ISI parādīšanās pirmo reizi vēsturē pavērs iespēju sugai sasniegt nemirstību un izkrist no nāvējošā izzušanas cikla.
ISI parādīšanās radīs tik neiedomājami milzīgu ietekmi, ka, visticamāk, tā nobīdīs cilvēci no šī žurnāla vienā vai otrā virzienā.
Iespējams, ka tad, kad evolūcija sasniedz šādu pavērsienu, tā vienmēr izbeidz cilvēku attiecības ar dzīves straumi un rada jaunu pasauli, ar vai bez cilvēkiem.
Tas noved pie interesanta jautājuma, ko tikai bumers nejautātu: kad mēs nonāksim līdz šim kritiskajam punktam un kur tas mūs liks? Neviens pasaulē nezina atbildi uz šo divkāršo jautājumu, bet daudzi gudri cilvēki ir mēģinājuši to izdomāt gadu desmitiem ilgi. Pārējā rakstā mēs noskaidrosim, no kurienes tie radušies.
* * *
Sāksim ar šī jautājuma pirmo daļu: kad mums vajadzētu sasniegt pagrieziena punktu? Citiem vārdiem sakot: cik daudz laika ir atlicis, līdz pirmā mašīna sasniedz superinteliģenci?
Atsevišķos gadījumos viedokļi atšķiras. Daudzi, tostarp profesors Vernors Vinge, zinātnieks Bens Herzels, Sun Microsystems līdzdibinātājs Bils Džo, futūrists Rejs Kurzveils piekrita mašīnmācīšanās ekspertam Džeremijam Hovardam, kad viņš TED Talk prezentēja šādu grafiku:
Šie cilvēki piekrīt viedoklim, ka ISI drīzumā - šī eksponenciālā izaugsme, kas mums šodien šķiet lēna, burtiski eksplodēs nākamajās desmitgadēs.
Citi, piemēram, Microsoft līdzdibinātājs Pols Alens, pētījumu psihologs Gerijs Markuss, datoru eksperts Ernests Deiviss un tehnoloģiju uzņēmējs Mičs Kapors uzskata, ka tādi domātāji kā Kurzveils nopietni nenovērtē problēmas apjomu un domā, ka mēs neesam tik tuvu lūzuma punkts.
Kurzveila nometne apgalvo, ka vienīgais nenovērtējums, kas notiek, ir eksponenciālās izaugsmes neievērošana, un šaubīgos var salīdzināt ar tiem, kuri 1985. gadā aplūkoja lēnām plaukstošo internetu un apgalvoja, ka tas tuvākajā nākotnē neietekmēs pasauli.
Šaubas var atvairīt, ka progresam ir grūtāk spert katru nākamo soli, kad runa ir par izlūkošanas eksponenciālo attīstību, kas neitralizē tipisko tehnoloģiskā progresa eksponenciālo raksturu. Utt.
Trešā nometne, kurā atrodas Niks Bostroms, nepiekrīt ne pirmajai, ne otrajai, apgalvojot, ka a) tas viss var absolūti notikt tuvākajā nākotnē; un b) nav garantijas, ka tas vispār notiks vai tas prasīs ilgāku laiku.
Citi, piemēram, filozofs Huberts Dreyfuss, uzskata, ka visas trīs grupas naivi tic, ka vispār būs kāds pagrieziena punkts un ka mēs, visticamāk, nekad neiekļūsim ISI.
Kas notiek, ja mēs apkopojam visus šos viedokļus?
2013. gadā Bostroms veica aptauju, kurā viņš intervēja simtiem AI ekspertu konferenču sērijā par šādu tēmu: "Kādas būs jūsu prognozes par AGI sasniegšanu cilvēku līmenī?" un lūdza mums nosaukt optimistisku gadu (kurā mums būs AGI ar 10 procentu iespējamību), reālu pieņēmumu (gads, kurā mums būs AGI ar 50 procentu varbūtību) un pārliecinošu pieņēmumu (agrākais gads, kurā AGI parādīsies kopš 90 procentu varbūtības). Šeit ir rezultāti:
* Vidējais optimistiskais gads (10%): 2022
* Vidējais reālais gads (50%): 2040
* Vidējais pesimistiskais gads (90%): 2075
Vidējie respondenti uzskata, ka pēc 25 gadiem mums būs AGI, nevis nē. 90 % iespēja saslimt ar AGI līdz 2075. gadam nozīmē, ka, ja jūs vēl esat diezgan jauns, tas, visticamāk, notiks jūsu dzīves laikā.
Atsevišķs pētījums, ko nesen veica Džeimss Barrats (atzinīgās un ļoti labās grāmatas “Mūsu jaunākais izgudrojums” autors, fragmenti no Es iepazīstināju lasītāju uzmanību Hi-News.ru) un Bens Hertsels AGI konferencē, kas ir ikgadējā AGI konference, vienkārši parādīja cilvēku viedokli par gadu, kurā mēs nokļūstam AGI: 2030, 2050, 2100, vēlāk vai nekad. Šeit ir rezultāti:
* 2030. gads: 42% respondentu
* 2050: 25%
* 2100: 20%
Pēc 2100: 10%
Nekad: 2%
Līdzīgi kā Bostromam. Barrata aptaujā vairāk nekā divas trešdaļas aptaujāto uzskata, ka AGI būs šeit līdz 2050. gadam, un mazāk nekā puse uzskata, ka AGI parādīsies nākamo 15 gadu laikā. Pārsteidz arī tas, ka tikai 2% respondentu principā neredz AGI mūsu nākotnē.
Bet AGI nav pagrieziena punkts kā ISI. Kad, pēc ekspertu domām, mums būs ISI?
Bostroms jautāja ekspertiem, kad mēs sasniegsim ASI: a) divus gadus pēc AGI sasniegšanas (tas ir, gandrīz uzreiz izlūkošanas eksplozijas dēļ); b) pēc 30 gadiem. Rezultāti?
Vidējais viedoklis ir tāds, ka strauja pāreja no AGI uz ISI notiks ar 10% varbūtību, bet pēc 30 gadiem vai mazāk - ar 75% varbūtību.
No šiem datiem mēs nezinām, kurā datumā respondenti varētu nosaukt 50 % ASI iespējamību, bet, pamatojoties uz abām iepriekš minētajām atbildēm, pieņemsim, ka tas ir 20 gadi. Tas ir, pasaules vadošie AI eksperti uzskata, ka pagrieziena punkts pienāks 2060. gadā (AGI parādīsies 2040. gadā + būs nepieciešami 20 gadi, lai pārietu no AGI uz ISI).
Protams, visa iepriekš minētā statistika ir spekulatīva un vienkārši atspoguļo mākslīgā intelekta jomas ekspertu viedokli, taču tā arī norāda, ka lielākā daļa interesentu piekrīt, ka līdz 2060. gadam AI, visticamāk, ieradīsies. Tikai 45 gadu laikā.
Pāriesim pie otrā jautājuma. Kad nonāksim pie pagrieziena punkta, kura liktenīgās izvēles puse mūs noteiks?
Superizlūkošanai būs visspēcīgākais spēks, un kritiskais jautājums mums būs šāds:
Kas vai kas kontrolēs šo varu un kāda būs viņu motivācija?
Atbilde uz šo jautājumu būs atkarīga no tā, vai ISI iegūst neticami spēcīgu attīstību, neizmērojami biedējošu attīstību vai kaut ko pa vidu.
Protams, ekspertu kopiena cenšas atbildēt arī uz šiem jautājumiem. Bostrom aptaujā tika analizēta AGI ietekmes uz cilvēci iespējamo seku iespējamība, un izrādījās, ka ar 52 procentu iespēju viss notiks ļoti labi un ar 31 procentu iespēju viss notiks vai nu slikti, vai ārkārtīgi slikti. Aptauja, kas pievienota šīs tēmas iepriekšējās daļas beigās un veikta starp jums, dārgie Hi-News lasītāji, parādīja aptuveni tādus pašus rezultātus. Salīdzinoši neitrālam rezultātam varbūtība bija tikai 17%. Citiem vārdiem sakot, mēs visi uzskatām, ka AGI būs liels darījums. Ir arī vērts atzīmēt, ka šī aptauja attiecas uz AGI parādīšanos - ISI gadījumā neitralitātes procents būs mazāks.
Pirms iedziļināties jautājuma labajās un sliktajās pusēs, apvienosim abas jautājuma puses - "kad tas notiks?" un "vai tas ir labi vai slikti?" tabulā, kas aptver vairuma ekspertu viedokļus.
Pēc minūtes mēs runāsim par galveno nometni, bet vispirms izlemiet par savu nostāju. Iespējams, ka jūs atrodaties tajā pašā vietā, kur es biju, pirms sāku strādāt pie šīs tēmas. Ir vairāki iemesli, kāpēc cilvēki vispār nedomā par šo tēmu:
* Kā minēts pirmajā daļā, filmas ir nopietni sajaukušas cilvēkus un faktus, pasniedzot nereālus scenārijus ar mākslīgo intelektu, kas noveda pie tā, ka mums AI vispār nevajadzētu uztvert nopietni. Džeimss Barrats šo situāciju salīdzināja ar Slimību kontroles centra (CDC) izsniegto informāciju ar nopietnu brīdinājumu par vampīriem mūsu nākotnē.
* Tā saukto kognitīvo aizspriedumu dēļ mums ir ļoti grūti noticēt, ka kaut kas ir īsts, kamēr mums nav pierādījumu. Var droši iedomāties, ka 1988. gada datorzinātnieki regulāri apspriež interneta tālejošās sekas un par to, kas tas varētu kļūt, taču cilvēki diez vai ticēja, ka tas mainīs viņu dzīvi, līdz tas patiesībā notiks. Vienkārši datori 1988. gadā nezināja, kā to izdarīt, un cilvēki tikai paskatījās uz saviem datoriem un domāja: “Tiešām? Vai tas mainīs pasauli? Viņu iztēli ierobežoja personīgās pieredzes apgūtais, viņi zināja, kas ir dators, un bija grūti iedomāties, uz ko dators būtu spējīgs nākotnē. Tas pats notiek tagad ar AI. Mēs dzirdējām, ka tā kļūs par nopietnu lietu, taču, tā kā mēs vēl neesam saskārušies ar to aci pret aci, un kopumā mēs novērojam diezgan vājās AI izpausmes mūsdienu pasaulē, mums ir diezgan grūti noticēt, ka tas radikāli radīsies mainīt mūsu dzīvi. Tieši pret šiem aizspriedumiem daudzi eksperti no visām nometnēm, kā arī interesenti iebilst pret to, lai mēģinātu piesaistīt mūsu uzmanību caur ikdienas kolektīvā egocentrisma troksni.
* Pat ja mēs tam visam ticētu - cik reizes šodien esi domājis par to, ka visu mūžību pavadīsi nebūtībā? Mazliet, piekrītu. Pat ja šis fakts ir daudz svarīgāks par visu, ko tu dari dienu no dienas. Tas ir tāpēc, ka mūsu smadzenes parasti ir vērstas uz mazām, ikdienišķām lietām, neatkarīgi no tā, cik maldīga ir ilgtermiņa situācija. Vienkārši mēs esam radīti.
Viens no šī raksta mērķiem ir izvest jūs no nometnes ar nosaukumu "Man patīk domāt par citām lietām" un ievietot ekspertu nometnē, pat ja jūs vienkārši stāvat krustojumā starp divām laukuma punktētajām līnijām iepriekš, pilnīgi neizšķirts.
Pētījumu gaitā kļūst acīmredzams, ka lielākās daļas cilvēku viedokļi strauji virzās uz "galveno nometni", un trīs ceturtdaļas ekspertu ietilpst galvenajā nometnē divās apakšnometnēs.
Abas šīs nometnes apmeklēsim pilnībā. Sāksim ar jautrību.
Kāpēc nākotne varētu būt mūsu lielākais sapnis?
Izpētot AI pasauli, mūsu komforta zonā atrod pārsteidzoši daudz cilvēku. Cilvēki augšējā labajā laukumā rosās no satraukuma. Viņi uzskata, ka mēs iekritīsim baļķa labajā pusē, un viņi arī uzskata, ka mēs pie tā neizbēgami nonāksim. Viņiem nākotne ir tikai labākais, par ko var tikai sapņot.
Šos cilvēkus atšķir no citiem domātājiem nevis tas, ka viņi vēlas būt laimīgā pusē, bet gan tas, ka viņi ir pārliecināti, ka tieši viņa mūs gaida.
Šī pārliecība rodas no strīdiem. Kritiķi uzskata, ka tas nāk no žilbinoša satraukuma, kas aizēno iespējamās negatīvās puses. Bet atbalstītāji saka, ka drūmas prognozes vienmēr ir naivas; tehnoloģijas turpinās un vienmēr mums palīdzēs vairāk nekā kaitēs.
Jūs varat brīvi izvēlēties jebkuru no šiem viedokļiem, bet atmetiet skepsi un kārtīgi aplūkojiet līdzsvara staru laimīgo pusi, cenšoties pieņemt faktu, ka viss, par ko lasāt, iespējams, jau ir noticis. Ja jūs parādītu medniekiem -savācējiem mūsu komforta, tehnoloģiju un bezgalīgās pārpilnības pasauli, viņiem tas šķistu maģiska izdomājums - un mēs uzvedamies diezgan pieticīgi, nespējot atzīt, ka tāda pati nesaprotamā pārvērtība mūs sagaida arī nākotnē.
Niks Bostroms apraksta trīs ceļus, ko var veikt superinteliģenta AI sistēma:
* Orākuls, kas var atbildēt uz jebkuru precīzu jautājumu, ieskaitot sarežģītus jautājumus, uz kuriem cilvēki nevar atbildēt - piemēram, "kā padarīt automašīnas dzinēju efektīvāku?" Google ir primitīvs "orākula" veids.
* Džins, kurš izpildīs jebkuru augsta līmeņa komandu - izmantojot molekulāro montētāju, lai izveidotu jaunu, efektīvāku automobiļa dzinēja versiju - un gaidīs nākamo komandu.
* Suverēns, kuram būs plaša pieeja un iespēja brīvi darboties pasaulē, pieņemt savus lēmumus un uzlabot procesu. Viņš izgudros lētāku, ātrāku un drošāku privātā transporta veidu nekā automašīna.
Šie jautājumi un uzdevumi, kas mums šķiet grūti, superinteliģentajai sistēmai šķitīs tā, it kā kāds lūgtu uzlabot situāciju, “mans zīmulis nokrita no galda”, kurā jūs to vienkārši paceltu un noliktu atpakaļ.
Amerikāņu mākslīgā intelekta speciālists Eliezers Judkovskis labi izteicās:
“Nav smagu problēmu, ir tikai problēmas, kas ir grūti noteiktam intelekta līmenim. Dodieties vienu soli augstāk (izlūkošanas ziņā), un dažas problēmas pēkšņi pāries no kategorijas "neiespējami" uz "acīmredzamo" nometni. Vienu soli augstāk - un tie visi kļūs acīmredzami."
Ir daudzi nepacietīgi zinātnieki, izgudrotāji un uzņēmēji, kuri no mūsu galda ir izvēlējušies pārliecināta komforta zonu, taču mums ir vajadzīgs tikai viens ceļvedis, lai gūtu labāko šajā pasaulē.
Rejs Kurzveils ir neviennozīmīgs. Daži dievina viņa idejas, daži viņu nicina. Daži paliek vidū - Duglass Hofštaders, apspriežot Kurzveila grāmatu idejas, daiļrunīgi atzīmēja, ka "it kā jūs būtu paņēmis daudz laba ēdiena un mazu suņu kaku, un pēc tam visu sajaucāt tā, ka to nav iespējams saprast kas ir labs un kas slikts."
Neatkarīgi no tā, vai jums patīk viņa idejas vai nē, tās nav iespējams nodot garām bez intereses ēnas. Pusaudža gados viņš sāka izgudrot lietas, un turpmākajos gados viņš izgudroja vairākas svarīgas lietas, tostarp pirmo plakanvirsmas skeneri, pirmo skeneri, kas pārveidoja tekstu runā, labi pazīstamo Kurzweil mūzikas sintezatoru (pirmās īstās elektriskās klavieres) un pirmais komerciāli veiksmīgais runas atpazīšanas līdzeklis. Viņš ir arī piecu sensacionālu grāmatu autors. Kurzveils tiek novērtēts par viņa drosmīgajām prognozēm, un viņa sasniegumi ir diezgan labi - 80. gadu beigās, kad internets vēl bija sākumstadijā, viņš prognozēja, ka līdz 2000. gadiem tīmeklis kļūs par globālu parādību. The Wall Street Journal Kurzveilu nodēvēja par "nemierīgu ģēniju", Forbes - par "globālās domāšanas mašīnu", Inc. Žurnāls - "Edisona likumīgais mantinieks", Bils Geitss - "labākais no tiem, kas paredz mākslīgā intelekta nākotni". 2012. gadā Google līdzdibinātājs Lerijs Peidžs uzaicināja Kurzveilu CTO amatā. 2011. gadā viņš līdzdibināja Singularity University, kuru vada NASA un daļēji sponsorē Google.
Viņa biogrāfija ir svarīga. Kad Kurzveils runā par savu nākotnes redzējumu, tas izklausās kā traki traks, bet patiesībā trakais ir tas, ka viņš ir tālu no traka - viņš ir neticami gudrs, izglītots un prātīgs cilvēks. Jūs domājat, ka viņš kļūdās savās prognozēs, bet viņš nav muļķis. Kurzveila prognozēm piekrīt daudzi komforta zonu eksperti - Pīters Diamandiss un Bens Herzels. Tas, viņaprāt, notiks.
Hronoloģija
Kurzveils uzskata, ka datori līdz 2029. gadam sasniegs vispārējā mākslīgā intelekta (AGI) līmeni, un līdz 2045. gadam mums būs ne tikai mākslīgais superinteliģents, bet arī pilnīgi jauna pasaule - tā sauktā singularitātes laiks. Tā MI hronoloģija joprojām tiek uzskatīta par ārkārtīgi pārspīlētu, taču pēdējo 15 gadu laikā strauji attīstītā ļoti koncentrētā mākslīgā intelekta (AI) sistēmu attīstība ir piespiedusi daudzus ekspertus nostāties Kurzveila pusē. Viņa prognozes joprojām ir vērienīgākas nekā Bostrom aptaujā (AGI līdz 2040, ISI līdz 2060), bet ne daudz.
Saskaņā ar Kurzweil teikto, 2045. gada singularitātes pamatā ir trīs vienlaicīgas revolūcijas biotehnoloģijās, nanotehnoloģijās un, vēl svarīgāk, AI. Bet pirms mēs turpinām - un nanotehnoloģijas cieši seko mākslīgajam intelektam - pievērsīsimies brīdim nanotehnoloģijai.
Daži vārdi par nanotehnoloģiju
Mēs parasti saucam par nanotehnoloģiju tehnoloģijām, kas nodarbojas ar manipulācijām ar matēriju 1-100 nanometru diapazonā. Nanometrs ir viena miljardā daļa no metra vai miljonā daļa no milimetra; diapazonā no 1 līdz 100 nanometriem var uzņemt vīrusus (100 nm diametrā), DNS (10 nm platumā), hemoglobīna molekulas (5 nm), glikozi (1 nm) un citus. Ja nanotehnoloģijas kādreiz kļūs mums pakļautas, nākamais solis būs manipulēt ar atsevišķiem atomiem, kas ir mazāki par vienu lieluma pakāpi (~, 1 nm).
Lai saprastu, kur cilvēkiem rodas problēmas, mēģinot manipulēt ar vielu šādā mērogā, pāriesim plašākā mērogā. Starptautiskā kosmosa stacija atrodas 481 kilometru augstumā virs Zemes. Ja cilvēki būtu milži un ar galvu trāpītu ISS, tie būtu 250 000 reižu lielāki nekā šobrīd. Ja jūs 250 000 reižu palieliniet kaut ko no 1 līdz 100 nanometriem, jūs iegūsit 2,5 centimetrus. Nanotehnoloģija ir ekvivalents cilvēkam, kas riņķo ap SKS, cenšoties manipulēt ar smilšu graudu vai acs ābola lieluma lietām. Lai nokļūtu nākamajā līmenī - atsevišķu atomu vadībā - milzim būs rūpīgi jānovieto objekti ar diametru 1/40 milimetri. Vienkāršiem cilvēkiem, lai tos redzētu, būs nepieciešams mikroskops.
Pirmo reizi Ričards Feinmans 1959. gadā runāja par nanotehnoloģijām. Tad viņš teica: “Fizikas principi, cik es varu spriest, nerunā pretī iespējai kontrolēt lietas pa atomiem. Principā fiziķis varētu sintezēt jebkuru ķīmisku vielu, ko ķīmiķis ir pierakstījis. Kā? Ievietojot atomus tur, kur ķīmiķis saka iegūt vielu. Tā ir visa vienkāršība. Ja jūs zināt, kā pārvietot atsevišķas molekulas vai atomus, varat darīt gandrīz jebko.
Nanotehnoloģijas kļuva par nopietnu zinātnisku jomu 1986. gadā, kad inženieris Ēriks Drekslers iepazīstināja ar tās pamatiem savā galvenajā grāmatā "Radīšanas mašīnas", bet pats Drekslers uzskata, ka tiem, kas vēlas uzzināt vairāk par mūsdienu idejām nanotehnoloģijās, vajadzētu izlasīt viņa 2013. gada grāmatu. Pilnīga pārpilnība "(Radical Pārpilnība).
Daži vārdi par "pelēko goo"
Mēs iedziļināmies nanotehnoloģijās. Jo īpaši tēma "pelēkais goo" ir viena no ne īpaši patīkamajām tēmām nanotehnoloģiju jomā, kuru nevar ignorēt. Vecākās nanotehnoloģiju teorijas versijās tika piedāvāta nanomontāžas metode, kas ietver triljonu mazu nanorobotu izveidi, kas sadarbotos, lai kaut ko radītu. Viens veids, kā izveidot triljonus nanorobotu, ir izveidot tādu, kas var pats atkārtoties, tas ir, no viena līdz diviem, no diviem līdz četriem utt. Dienā parādīsies vairāki triljoni nanorobotu. Tas ir eksponenciālas izaugsmes spēks. Smieklīgi, vai ne?
Tas ir smieklīgi, bet tieši līdz brīdim, kad tas noved pie apokalipses. Problēma ir tā, ka eksponenciālās izaugsmes spēks, kas padara to par diezgan ērtu veidu, kā ātri izveidot triljonus nanobotu, ilgtermiņā padara pašreplikāciju par biedējošu. Ko darīt, ja sistēma avarē un tā vietā, lai pārtrauktu replikāciju par pāris triljoniem, nanoboti turpina vairoties? Ko darīt, ja viss šis process ir atkarīgs no oglekļa? Zemes biomasā ir 10 ^ 45 oglekļa atomi. Nanobotam vajadzētu būt apmēram 10 ^ 6 oglekļa atomiem, tāpēc 10 ^ 39 nanoboti apēdīs visu dzīvību uz Zemes tikai 130 atkārtojumos. Planētu pārpludinās nanobotu okeāns (“pelēkais ķepa”). Zinātnieki domā, ka nanoboti var atkārtoties 100 sekundēs, kas nozīmē, ka vienkārša kļūda var nogalināt visu dzīvību uz Zemes tikai 3,5 stundu laikā.
Tas varētu būt vēl sliktāk - ja teroristi un nelabvēlīgi speciālisti nonāk nanotehnoloģijas rokās. Viņi varētu izveidot vairākus triljonus nanobotu un ieprogrammēt tos, lai pāris nedēļu laikā mierīgi izplatītos visā pasaulē. Tad, nospiežot pogu, tikai 90 minūtēs viņi vispār ēdīs visu, bez izredzēm.
Lai gan šis šausmu stāsts ir plaši apspriests gadiem ilgi, labā ziņa ir tā, ka tas ir tikai šausmu stāsts. Ēriks Drekslers, kurš izgudroja terminu “pelēkais muļķis”, nesen teica: “Cilvēkiem patīk šausmu stāsti, un šis ir viens no zombiju šausmu stāstiem. Šī ideja pati par sevi jau ēd smadzenes."
Kad esam nonākuši nanotehnoloģiju pamatos, mēs varam to izmantot, lai radītu tehniskas ierīces, apģērbu, pārtiku, bioproduktus - asins šūnas, vīrusu un vēža apkarotājus, muskuļu audus utt. Un pasaulē, kurā tiek izmantotas nanotehnoloģijas, materiāla izmaksas vairs nebūs saistītas ar tā trūkumu vai ražošanas procesa sarežģītību, bet drīzāk ar tā atomu struktūras sarežģītību. Nanotehnoloģiju pasaulē dimants varētu būt lētāks nekā dzēšgumija.
Mēs vēl neesam tur pat tuvu. Un nav pilnīgi skaidrs, vai mēs par zemu vai pārvērtējam šī ceļa sarežģītību. Tomēr viss iet uz to, ka nanotehnoloģijas nav tālu. Kurzveils pieņem, ka līdz 2020. gadam tie mums būs. Pasaules valstis zina, ka nanotehnoloģijas var solīt lielisku nākotni, un tāpēc tās tajās iegulda daudzus miljardus.
Iedomājieties, kādas iespējas iegūtu superinteliģents dators, ja tas nonāktu pie uzticama nanomēroga montētāja. Bet nanotehnoloģijas ir mūsu ideja, un mēs cenšamies ar to braukt, mums ir grūti. Ko darīt, ja tie ir tikai joks ISI sistēmai, un pati ISI nāk klajā ar tehnoloģijām, kas būs daudzkārt jaudīgākas par visu, ko mēs principā varam pieņemt? Mēs vienojāmies: neviens nevar iedomāties, uz ko mākslīgais superinteliģents būs spējīgs? Tiek uzskatīts, ka mūsu smadzenes nespēj paredzēt pat minimālo, kas notiks.
Ko AI varētu darīt mūsu labā?
Apbruņota ar superizlūkošanu un visām tehnoloģijām, ko varētu radīt superizlūkošana, ISI, iespējams, spēs atrisināt visas cilvēces problēmas. Globālā sasilšana? ISI vispirms apturēs oglekļa emisijas, izgudrojot virkni efektīvu enerģijas ražošanas veidu, kas nav saistīti ar fosilo kurināmo. Pēc tam viņš izdomās efektīvu, novatorisku veidu, kā no atmosfēras noņemt lieko CO2. Vēzis un citas slimības? Nav problēmu - veselības aprūpe un medicīna mainīsies neiedomājamos veidos. Bads pasaulē? ISI izmantos nanotehnoloģijas, lai radītu gaļu, kas ir identiska dabīgai gaļai, no nulles.
Nanotehnoloģijas spēs pārvērst atkritumu kaudzi par svaigās gaļas vai cita ēdiena tvertni (ne vienmēr pat parastajā formā - iedomājieties milzu ābolu kubiņu) un izplatīt visu šo ēdienu visā pasaulē, izmantojot uzlabotas transporta sistēmas. Protams, tas būs lieliski piemērots dzīvniekiem, kuriem vairs nav jāmirst par pārtiku. ISI var darīt arī daudzas citas lietas, piemēram, saglabāt apdraudētās sugas vai pat atgūt izmirušās no uzglabātās DNS. ISI var atrisināt mūsu vissarežģītākās makroekonomiskās problēmas - vissarežģītākās ekonomiskās debates, ētikas un filozofijas jautājumus, globālo tirdzniecību -, kas ISI būs sāpīgi acīmredzams.
Bet ir kaut kas ļoti īpašs, ko ISI varētu darīt mūsu labā. Pievilcīgs un vilinošs, kas mainītu visu: ISI var palīdzēt mums tikt galā ar mirstību … Pamazām aptverot AI iespējas, iespējams, jūs pārdomāsit visas savas idejas par nāvi.
Evolūcijai nebija iemesla pagarināt mūsu dzīves ilgumu ilgāk nekā tagad. Ja mēs dzīvojam pietiekami ilgi, lai dzemdētu un audzinātu bērnus līdz tādam līmenim, lai viņi varētu paši sevi apmierināt, pietiek ar evolūciju. No evolūcijas viedokļa attīstībai pietiek ar 30+ gadiem, un nav iemesla mutācijām pagarināt dzīvi un samazināt dabiskās atlases vērtību. Viljams Batlers Jeitss mūsu sugu sauca par "dvēseli, kas piesaistīta mirstošam dzīvniekam". Nav daudz jautrības.
Un tā kā mēs visi kādreiz mirstam, mēs dzīvojam ar domu, ka nāve ir neizbēgama. Mēs domājam par novecošanu laika gaitā - turpinot virzīties uz priekšu un nespējot apturēt šo procesu. Bet doma par nāvi ir nodevīga: tās notverti, mēs aizmirstam dzīvot. Ričards Feinmans rakstīja:
“Bioloģijā ir brīnišķīga lieta: šajā zinātnē nav nekā tāda, kas runātu par nāves nepieciešamību. Ja mēs vēlamies izveidot mūžīgu kustību mašīnu, mēs saprotam, ka esam fizikā atraduši pietiekami daudz likumu, kas vai nu norāda uz to neiespējamību, vai arī ka likumi ir nepareizi. Bet bioloģijā nekas neliecina par nāves neizbēgamību. Tas liek man uzskatīt, ka tas nav tik neizbēgami, un tas ir tikai laika jautājums, pirms biologi atklās šīs problēmas, šīs briesmīgās universālās slimības, cēloni."
Fakts ir tāds, ka novecošanai nav nekāda sakara ar laiku. Novecošana ir tad, kad ķermeņa fiziskie materiāli nolietojas. Automašīnu detaļas arī pasliktinās - bet vai novecošana ir neizbēgama? Ja remontējat automašīnu, jo detaļas nolietojas, tā kalpos mūžīgi. Cilvēka ķermenis neatšķiras - tikai sarežģītāks.
Kurzveils runā par inteliģentiem, ar Wi-Fi savienotiem nanobotiem asinsritē, kas varētu veikt neskaitāmus uzdevumus cilvēku veselībai, tostarp regulāri labot vai nomainīt nolietotās šūnas jebkurā ķermeņa vietā. Šī procesa uzlabošana (vai gudrākas ASI ieteiktas alternatīvas atrašana) ne tikai saglabās ķermeni veselīgu, bet arī novērsīs novecošanos. Atšķirība starp 60 gadus veca un 30 gadus veca cilvēka ķermeni ir nedaudz fizisku problēmu, kuras varētu labot, izmantojot pareizo tehnoloģiju. ISI varētu uzbūvēt automašīnu, kurā cilvēks iebrauktu 60 gadu vecumā un atstātu 30 gadu vecumā.
Pat degradētas smadzenes varētu atjaunot. ISI noteikti zinātu, kā to izdarīt, neietekmējot smadzeņu datus (personību, atmiņas utt.). 90 gadus vecs vīrietis, kurš cieš no pilnīgas smadzeņu degradācijas, varētu tikt pārkvalificēts, atjaunots un atgrieztos savas dzīves sākumā. Tas var šķist absurdi, bet ķermenis ir nedaudz atomu, un ISI noteikti varētu viegli manipulēt ar tiem, ar visām atomu struktūrām. Tas nav tik absurdi.
Kurzveils arī uzskata, ka laika gaitā mākslīgie materiāli arvien vairāk integrēsies ķermenī. Sākumā ērģeles varētu aizstāt ar īpaši modernām mašīnu versijām, kas kalpotu mūžīgi un nekad neizdotos. Tad mēs varētu veikt pilnīgu ķermeņa pārveidošanu, aizstājot sarkanās asins šūnas ar perfektiem nanobotiem, kas pārvietojas paši, pilnībā novēršot nepieciešamību pēc sirds. Mēs varētu arī uzlabot savas kognitīvās spējas, sākt domāt miljardiem reižu ātrāk un piekļūt visai cilvēcei pieejamajai informācijai caur mākoni.
Iespējas apgūt jaunus apvāršņus būtu patiesi bezgalīgas. Cilvēkiem ir izdevies apveltīt seksu ar jaunu mērķi, viņi to dara prieka pēc, nevis tikai vairošanās dēļ. Kurzveils uzskata, ka mēs varam darīt to pašu ar pārtiku. Nanoboti varētu nodrošināt ideālu uzturu tieši ķermeņa šūnās, ļaujot neveselīgām vielām iziet cauri ķermenim. Nanotehnoloģiju teorētiķis Roberts Freitas jau ir izstrādājis asins šūnu aizstājēju, kas, ieviešoties cilvēka ķermenī, var ļaut viņam 15 minūtes neelpot - un to izgudroja cilvēks. Iedomājieties, kad ISI iegūs varu.
Galu galā Kurzveils uzskata, ka cilvēki sasniegs punktu, kurā tie kļūs pilnīgi mākslīgi; laiks, kad mēs skatāmies uz bioloģiskajiem materiāliem un domājam par to, cik tie bija primitīvi; laiks, kad mēs lasīsim par cilvēces vēstures sākumposmu, pārsteigti par to, kā mikrobi, nelaimes gadījumi, slimības vai vienkārši vecums var nogalināt cilvēku pret viņa gribu. Galu galā cilvēki uzvarēs savu bioloģiju un kļūs mūžīgi - tas ir ceļš uz līdzsvara staru laimīgo pusi, par kuru mēs runājām jau no paša sākuma. Un cilvēki, kas tam tic, ir arī pārliecināti, ka šāda nākotne mūs sagaida ļoti, ļoti drīz.
Jūs droši vien nebrīnīsieties, ka Kurzveila idejas ir izpelnījušās spēcīgu kritiku. Tās vienreizība 2045. gadā un tai sekojošā mūžīgā dzīve cilvēkiem tika dēvēta par "nerdu debesbraukšanu" vai "saprātīgu cilvēku radīšanu ar IQ 140". Citi apšaubīja optimistisko laika grafiku, cilvēka ķermeņa un smadzeņu izpratni, atgādināja Mūra likumu, kas vēl nav pazudis. Katram ekspertam, kurš tic Kurzveila idejām, ir trīs, kuri uzskata, ka viņš kļūdās.
Bet pats interesantākais ir tas, ka lielākā daļa ekspertu, kas viņam nepiekrīt, kopumā nesaka, ka tas nav iespējams. Tā vietā, lai teiktu "muļķības, tas nekad nenotiks", viņi saka kaut ko līdzīgu "tas viss notiks, ja mēs nokļūsim ISI, bet šī ir problēma". Bostrom, viens no atzītajiem AI ekspertiem, kas brīdina par AI briesmām, arī atzīst:
“Diez vai ir palikusi neviena problēma, ko superizlūkošana nevarētu atrisināt vai pat palīdzēt mums atrisināt. Slimības, nabadzība, vides iznīcināšana, visa veida ciešanas - visu šo superinteliģenci ar nanotehnoloģiju palīdzību var atrisināt vienā mirklī. Superinteliģence var arī nodrošināt mums neierobežotu dzīves ilgumu, apturot un mainot novecošanās procesu, izmantojot nanomedicīnu vai iespēju augšupielādēt mūs mākonī. Superinteliģence var arī radīt iespējas nebeidzamam intelektuālo un emocionālo spēju pieaugumam; viņš var mums palīdzēt radīt pasauli, kurā mēs dzīvosim priekā un sapratnē, tuvojoties mūsu ideāliem un regulāri īstenojot savus sapņus."
Tomēr šis ir citāts no viena Kurzveila kritiķa, kurš atzīst, ka tas viss ir iespējams, ja mēs varam izveidot drošu ASI. Kurzveils vienkārši definēja, par kādu mākslīgo superinteliģenci jākļūst, ja tas ir iespējams. Un ja viņš ir labs dievs.
Acīmredzamākā komforta zonu aizstāvju kritika ir tāda, ka viņi var kļūdīties, novērtējot ISI nākotni. Kurzveils savā grāmatā The Singularity veltīja 20 lapas no 700 iespējamiem ISI draudiem. Jautājums nav, kad mēs nokļūsim ISI, jautājums ir par to, kas būs tā motivācija. Kurzveils uz šo jautājumu atbild piesardzīgi: “ISI izriet no daudziem atšķirīgiem centieniem un tiks dziļi integrēts mūsu civilizācijas infrastruktūrā. Patiesībā tas būs cieši iestrādāts mūsu ķermenī un smadzenēs. Viņš atspoguļos mūsu vērtības, jo viņš būs viens ar mums."
Bet, ja atbilde ir, kāpēc tik daudz gudru cilvēku šajā pasaulē uztraucas par mākslīgā intelekta nākotni? Kāpēc Stīvens Hokings saka, ka ISI attīstība "varētu nozīmēt cilvēces beigas"? Bils Geitss saka, ka viņš "nesaprot cilvēkus, kurus tas neuztrauc". Elons Musks baidās, ka mēs “izsaucam dēmonu”. Kāpēc daudzi eksperti uzskata, ka ISI ir lielākais drauds cilvēcei?
Mēs par to runāsim nākamreiz.
