Bago ka ang pangalawang bahagi ng isang artikulo mula sa seryeng "Maghintay, kung paano magiging totoo ang lahat ng ito, bakit hindi pa rin ito pinag-uusapan sa bawat sulok." Sa nakaraang serye, nalaman na ang pagsabog ng katalinuhan ay unti-unting gumagapang sa mga tao ng planeta Earth, sinusubukan nitong bumuo mula sa makitid na nakatuon hanggang sa unibersal na katalinuhan at, sa wakas, artipisyal na superintelligence.
"Marahil ay nahaharap tayo sa isang napakahirap na problema, at hindi alam kung gaano karaming oras ang inilaan para sa solusyon nito, ngunit ang kinabukasan ng sangkatauhan ay maaaring depende sa solusyon nito." - Nick Bostrom.
Ang unang bahagi ng artikulo ay nagsimulang sapat na inosente. Tinalakay namin ang makitid na nakatuon na artipisyal na katalinuhan (AI, na dalubhasa sa paglutas ng isang tukoy na problema tulad ng pagtukoy ng mga ruta o paglalaro ng chess), maraming ito sa ating mundo. Pagkatapos ay pinag-aralan nila kung bakit napakahirap palaguin ang pangkalahatang direksyong artipisyal na intelektuwal (AGI, o AI, na kung saan, sa mga tuntunin ng kakayahan sa intelektwal, maaaring ihambing sa isang tao sa paglutas ng anumang problema), napakahirap. Napagpasyahan namin na ang exponential rate ng teknolohikal na pagsulong ay nagpapahiwatig na ang AGI ay maaring malapit na. Sa huli, napagpasyahan namin na sa oras na maabot ng mga makina ang katalinuhan ng tao, ang mga sumusunod ay maaaring mangyari kaagad:
Tulad ng dati, tinitingnan namin ang screen, hindi naniniwala na ang artipisyal na superintelligence (ISI, na mas matalino kaysa sa sinumang tao) ay maaaring lumitaw sa panahon ng aming buhay, at pagpili ng mga emosyon na pinakamahusay na sumasalamin sa aming opinyon sa isyung ito.
Bago tayo sumisid sa mga detalye ng ISI, ipaalala natin sa ating sarili kung ano ang ibig sabihin para sa isang makina na maging superintelligent.
Ang pangunahing pagkakaiba ay nakasalalay sa pagitan ng mabilis na superintelligence at kalidad ng superintelligence. Kadalasan, ang unang bagay na pumapasok sa isipan kapag nag-iisip tungkol sa isang napakahusay na computer ay maaari itong mag-isip nang mas mabilis kaysa sa isang tao - milyon-milyong beses na mas mabilis, at sa limang minuto ay mauunawaan nito kung ano ang aabutin ng isang tao sa sampung taon. ("Alam ko kung kung fu!")
Ito ay kahanga-hanga, at ang ISI ay dapat talagang mag-isip nang mas mabilis kaysa sa alinman sa mga tao - ngunit ang pangunahing tampok na paghihiwalay ay ang kalidad ng intelihensiya nito, na kung saan ay ganap na naiiba. Ang mga tao ay mas matalino kaysa sa mga unggoy, hindi dahil mas mabilis silang nag-iisip, ngunit dahil ang kanilang talino ay naglalaman ng isang bilang ng mga mapanlikha na nagbibigay-malay na mga module na nagsasagawa ng mga kumplikadong representasyon ng wika, pangmatagalang pagpaplano, abstract na pag-iisip, kung aling mga unggoy ang hindi kaya. Kung pinapabilis mo ang utak ng isang unggoy ng libong beses, hindi ito magiging mas matalino kaysa sa amin - kahit na pagkatapos ng sampung taon ay hindi ito makakapagtipon ng isang tagapagbuo alinsunod sa mga tagubilin, na tatagal nang mas maraming oras sa isang tao. May mga bagay na hindi matututo ang isang unggoy, gaano man karaming oras ang ginugugol nito o kung gaano kabilis gumana ang utak nito.
Bilang karagdagan, hindi alam ng unggoy kung paano makatao, dahil ang utak nito ay hindi madaling mapagtanto ang pagkakaroon ng iba pang mga mundo - maaaring malaman ng unggoy kung ano ang isang tao at kung ano ang isang skyscraper, ngunit hindi maunawaan na ang isang skyscraper ay itinayo ng mga tao Sa kanyang mundo, ang lahat ay pag-aari ng kalikasan, at ang macaque ay hindi lamang maaaring bumuo ng isang skyscraper, ngunit maunawaan din na ang sinuman ay maaaring bumuo ng ito sa lahat. At ito ang resulta ng isang maliit na pagkakaiba sa kalidad ng katalinuhan.
Sa pangkalahatang pamamaraan ng katalinuhan na pinag-uusapan natin, o sa pamamagitan lamang ng mga pamantayan ng mga biological na nilalang, ang pagkakaiba-iba sa kalidad ng katalinuhan sa pagitan ng mga tao at unggoy ay maliit. Sa nakaraang artikulo, inilagay namin ang mga kakayahan sa biological na nagbibigay-malay sa isang hagdan:
Upang maunawaan kung gaano kaseryoso ang isang superintelligent machine, ilagay ito sa dalawang notch na mas mataas kaysa sa taong nasa hagdan na iyon. Ang makina na ito ay maaaring maging isang maliit na matalino lamang, ngunit ang higit na kahusayan sa aming mga kakayahan sa pag-iisip ay magiging katulad ng sa atin - sa mga unggoy. At tulad ng isang chimpanzee ay hindi kailanman maunawaan na ang isang skyscraper ay maaaring itayo, maaaring hindi natin maintindihan kung ano ang maunawaan ng isang makina ng ilang mga hakbang na mas mataas, kahit na sinubukan itong ipaliwanag sa amin ng makina. Ngunit ito ay isang pares lamang ng mga hakbang. Makikita ng mas matalinong makina ang mga langgam sa atin - ituturo nito sa amin ang pinakasimpleng bagay mula sa posisyon nito sa loob ng maraming taon, at ang mga pagtatangkang ito ay magiging ganap na walang pag-asa.
Ang uri ng superintelligence na pag-uusapan natin ngayon ay mas malayo pa sa hagdan na ito. Ito ay isang pagsabog ng katalinuhan - kapag naging mas matalino ang isang kotse, mas mabilis na madagdagan ang sarili nitong katalinuhan, unti-unting tataas ang momentum. Maaaring tumagal ng taon para sa isang makina na tulad nito upang malampasan ang mga chimpanzees sa katalinuhan, ngunit marahil ng ilang oras upang malampasan tayo ng isang pares ng mga notch. Mula sa sandaling iyon, ang kotse ay maaaring tumalon sa apat na mga hakbang bawat segundo. Iyon ang dahilan kung bakit dapat nating maunawaan na sa lalong madaling panahon pagkatapos ng unang balita na ang makina ay umabot sa antas ng katalinuhan ng tao ay lilitaw, maaari nating harapin ang katotohanan ng pamumuhay sa Earth na may isang bagay na magiging mas mataas kaysa sa amin sa hagdan na ito (o marahil, at milyon-milyong beses na mas mataas):
At dahil naitaguyod natin na walang kabuluhan ang subukang unawain ang lakas ng isang makina na dalawang hakbang lamang sa itaas natin, tukuyin natin nang isang beses at para sa lahat na walang paraan upang maunawaan kung ano ang gagawin ng ISI at kung ano ang mga kahihinatnan ng ito ay para sa atin. Ang sinumang nag-aangkin na salungat ay hindi naiintindihan kung ano ang ibig sabihin ng superintelligence.
Ang ebolusyon ay dahan-dahan at unti-unting nabago ang biological utak sa daan-daang milyong mga taon, at kung ang mga tao ay lumikha ng isang superintelligent machine, sa isang kahulugan ay malalampasan natin ang ebolusyon. O ito ay magiging bahagi ng ebolusyon - marahil ang ebolusyon ay gumagana sa isang paraan na ang katalinuhan ay unti-unting bubuo hanggang sa maabot ang isang puntong nagbabalita ng isang bagong hinaharap para sa lahat ng mga nabubuhay na bagay:
Para sa mga kadahilanang tatalakayin natin sa paglaon, isang malaking seksyon ng pamayanang pang-agham ang naniniwala na ang tanong ay hindi kung makakarating tayo sa puntong ito, ngunit kailan.
Saan tayo magtatapos pagkatapos nito?
Sa palagay ko walang sinuman sa mundong ito, ni ako o ikaw, ang makakapagsabi kung ano ang mangyayari pagdating sa tipping point. Ang pilosopo ng Oxford at nangunguna sa teorama ng AI na si Nick Bostrom ay naniniwala na maaari nating pakuluan ang lahat ng posibleng mga kinalabasan sa dalawang malawak na kategorya.
Una, pagtingin sa kasaysayan, alam natin ang mga sumusunod tungkol sa buhay: lumilitaw ang mga species, umiiral para sa isang tiyak na oras, at pagkatapos ay hindi maiwasang mahulog sa balanseng balanse at mamatay.
Ang "Lahat ng mga species ay namatay" ay naging isang maaasahang panuntunan sa kasaysayan tulad ng "lahat ng mga tao ay namamatay balang araw." Ang 99.9% ng mga species ay nahulog mula sa isang tala ng buhay, at malinaw na malinaw na kung ang isang species ay nakabitin sa log na ito nang masyadong mahaba, isang pag-agos ng natural na hangin o isang biglaang asteroid ang babaliktad. Tinawag ng Bostrom na pagkalipol ang estado ng isang umaakit - isang lugar kung saan ang lahat ng mga species ay nagbabalanse upang hindi mahulog kung saan wala pang mga species ang bumalik.
At bagaman inaamin ng karamihan sa mga siyentista na ang ISI ay may kakayahang mamamatay sa mga tao sa pagkalipol, marami rin ang naniniwala na ang paggamit ng mga kakayahan ng ISI ay magpapahintulot sa mga indibidwal (at ang species sa kabuuan) na makamit ang pangalawang estado ng umaakit - species immortality. Naniniwala ang Bostrom na ang imortalidad ng isang species ay isang nakakaakit tulad ng pagkalipol ng isang species, iyon ay, kung makarating tayo dito, mapapahamak tayo sa walang hanggang pag-iral. Sa gayon, kahit na ang lahat ng mga species hanggang ngayon ay nahulog mula sa stick na ito sa maelstrom ng pagkalipol, naniniwala ang Bostrom na ang troso ay may dalawang panig, at doon ay hindi lumitaw sa Earth tulad ng isang katalinuhan na maunawaan kung paano mahulog sa kabilang panig.
Kung ang Bostrom at iba pa ay tama, at paghuhusga sa lahat ng impormasyong magagamit sa amin, maaaring maging totoo sila, kailangan nating tanggapin ang dalawang nakakagulat na katotohanan:
Ang paglitaw ng ISI sa kauna-unahang pagkakataon sa kasaysayan ay magbubukas ng paraan para sa isang species na makamit ang imortalidad at mahulog sa nakamamatay na siklo ng pagkalipol.
Ang paglitaw ng ISI ay magkakaroon ng isang hindi maisip na malaking epekto na, malamang, itulak nito ang sangkatauhan sa log na ito sa isang direksyon o sa iba pa.
Posibleng kapag umabot ang ebolusyon sa isang turn point, palagi nitong tinatapos ang ugnayan ng mga tao sa agos ng buhay at lumilikha ng isang bagong mundo, mayroon o walang mga tao.
Humahantong ito sa isang kagiliw-giliw na tanong na isang bummer lamang ang hindi magtanong: kailan tayo makakarating sa puntong ito at saan tayo ilalagay? Walang sinuman sa mundo ang nakakaalam ng sagot sa dobleng tanong na ito, ngunit maraming matalinong tao ang nagtangkang alamin ito sa mga dekada. Para sa natitirang artikulo, malalaman natin kung saan sila nanggaling.
* * *
Magsimula tayo sa unang bahagi ng katanungang ito: kailan natin dapat maabot ang tipping point? Sa madaling salita: gaano karaming oras ang natitira hanggang sa maabot ng unang makina ang superintelligence?
Ang mga opinyon ay nag-iiba sa bawat kaso. Marami, kasama ang Propesor Vernor Vinge, siyentista na si Ben Herzel, co-founder ng Sun Microsystems na si Bill Joy, futurist na si Ray Kurzweil, ay sumang-ayon sa eksperto sa pag-aaral ng makina na si Jeremy Howard nang ipakita niya ang sumusunod na grap sa TED Talk:
Ibinahagi ng mga taong ito ang pananaw na paparating ang ISI - ang exponential na paglaki na ito, na tila mabagal sa atin ngayon, ay literal na sasabog sa susunod na ilang dekada.
Ang iba, tulad ng co-founder ng Microsoft na si Paul Allen, psychologist sa pagsasaliksik na si Gary Marcus, dalubhasa sa computer na si Ernest Davis, at negosyanteng tech na si Mitch Kapor, ay naniniwala na ang mga nag-iisip tulad ni Kurzweil ay seryosong minamaliit ang laki ng problema at iniisip na hindi tayo malapit sa isang tipping point.
Nagtalo ang kampo ni Kurzweil na ang tanging pag-iingat na nagaganap ay ang pagwawalang-bahala sa paglago ng exponential, at ang mga nagdududa ay maihahalintulad sa mga tumingin sa dahan-dahang umuusbong na internet noong 1985 at iginiit na wala itong epekto sa mundo sa malapit na hinaharap.
Ang mga pagdududa ay maaaring palayasin na mas mahirap para sa pag-unlad na gawin ang bawat kasunod na hakbang pagdating sa exponential development of intelligence, na nagtatanggal ng tipikal na exponential nature ng teknolohikal na pag-unlad. Atbp
Ang pangatlong kampo, kung saan nariyan si Nick Bostrom, hindi sumasang-ayon sa una o sa pangalawa, na pinagtatalunan na a) lahat ng ito ay maaaring ganap na mangyari sa malapit na hinaharap; at b) walang garantiya na mangyayari ito sa lahat o magtatagal ito.
Ang iba, tulad ng pilosopo na si Hubert Dreyfus, ay naniniwala na ang lahat ng tatlong mga pangkat naively na naniniwala na magkakaroon ng isang tipping point sa lahat, at malamang na hindi tayo makarating sa ISI.
Ano ang mangyayari kapag pinagsama namin ang lahat ng mga opinyon na ito?
Noong 2013, nagsagawa ang survey ng Bostrom kung saan nakapanayam niya ang daan-daang mga dalubhasa sa AI sa isang serye ng mga kumperensya sa sumusunod na paksa: "Ano ang iyong mga hula para sa pagkamit ng AGI sa antas ng tao?" at tinanong kaming pangalanan ang isang maasahin sa taon (kung saan magkakaroon kami ng AGI na may 10 porsyento na pagkakataon), isang makatotohanang palagay (isang taon kung saan magkakaroon kami ng AGI na may posibilidad na 50 porsyento) at isang kumpiyansa na palagay (ang pinakamaagang taon kung saan Lilitaw ang AGI mula noong 90-probabilidad na posibilidad). Narito ang mga resulta:
* Average na maasahin sa taon (10%): 2022
* Karaniwang makatotohanang taon (50%): 2040
* Average na pesimistikong taon (90%): 2075
Naniniwala ang average na mga respondente na sa loob ng 25 taon ay magkakaroon tayo ng AGI kaysa hindi. Ang isang 90 porsyento na pagkakataon ng AGI na nagaganap sa 2075 ay nangangahulugan na kung ikaw ay medyo bata pa ngayon, malamang na mangyari ito sa iyong buhay.
Isang hiwalay na pag-aaral na isinagawa kamakailan ni James Barratt (may-akda ng kinikilala at napakahusay na aklat na Our Latest Invention, mga sipi mula sa Inilahad ko ang pansin ng mga mambabasa Hi-News.ru) at Ben Hertzel sa AGI Conference, ang taunang AGI Conference, ipinakita lamang ang mga opinyon ng mga tao sa taon kung saan nakakarating kami sa AGI: 2030, 2050, 2100, sa paglaon o hindi. Narito ang mga resulta:
* 2030: 42% ng mga respondente
* 2050: 25%
* 2100: 20%
Pagkatapos ng 2100: 10%
Huwag kailanman: 2%
Katulad ng mga resulta ng Bostrom. Sa botohan ni Barratt, higit sa dalawang-katlo ng mga na-polled na naniniwala na ang AGI ay narito sa 2050, at mas mababa sa kalahati ang naniniwala na ang AGI ay lilitaw sa susunod na 15 taon. Kapansin-pansin din na 2% lamang ng mga respondente, sa prinsipyo, ay hindi nakikita ang AGI sa hinaharap.
Ngunit ang AGI ay hindi isang tipping point tulad ng ISI. Kailan, ayon sa mga eksperto, magkakaroon tayo ng ISI?
Tinanong ni Bostrom ang mga dalubhasa kung kailan natin maaabot ang ASI: a) dalawang taon pagkatapos maabot ang AGI (iyon ay, halos agad na dahil sa isang pagsabog ng intelihensiya); b) pagkatapos ng 30 taon. Mga resulta?
Ang average na opinyon ay ang mabilis na paglipat mula sa AGI patungong ISI ay magaganap na may posibilidad na 10%, ngunit sa 30 taon o mas kaunti ito ay magaganap na may posibilidad na 75%.
Mula sa data na ito, hindi namin alam kung anong petsa ang mga respondente na tatawag ng 50 porsyento na pagkakataon ng isang ASI, ngunit batay sa dalawang sagot sa itaas, ipagpalagay natin na 20 taon ito. Iyon ay, ang mga nangungunang eksperto sa AI sa mundo ay naniniwala na ang turn point ay darating sa 2060 (lilitaw ang AGI sa 2040 + aabutin ng 20 taon para sa paglipat mula sa AGI patungong ISI).
Siyempre, ang lahat ng mga istatistika sa itaas ay haka-haka at simpleng kumakatawan sa opinyon ng mga eksperto sa larangan ng artipisyal na intelihensiya, ngunit ipinahiwatig din nila na ang karamihan sa mga interesadong tao ay sumasang-ayon na sa 2060, ang AI ay malamang na dumating. Sa loob lamang ng 45 taon.
Ituloy natin ang pangalawang katanungan. Pagdating sa tipping point, aling bahagi ng fatal na pagpipilian ang tutukoy sa atin?
Ang Superintelligence ay magkakaroon ng pinakamakapangyarihang kapangyarihan, at ang kritikal na tanong para sa amin ay ang mga sumusunod:
Sino o ano ang makokontrol sa kapangyarihang ito at ano ang kanilang magiging pagganyak?
Ang sagot sa katanungang ito ay nakasalalay sa kung nakakuha ang ISI ng isang napakalaking malakas na kaunlaran, isang hindi masukat na kakila-kilabot na kaunlaran, o isang bagay sa pagitan.
Siyempre, sinusubukan ng ekspertong pamayanan na sagutin din ang mga katanungang ito. Sinuri ng botohan ng Bostrom ang posibilidad ng mga posibleng kahihinatnan ng epekto ng AGI sa sangkatauhan, at naging isang porsyento na 52 porsyento na ang lahat ay magiging maayos at may 31 porsyento na posibilidad na ang lahat ay mapunta alinman sa masama o labis na masama. Ang poll na naka-attach sa pagtatapos ng nakaraang bahagi ng paksang ito, na isinasagawa sa gitna mo, mahal na mga mambabasa ng Hi-News, ay nagpakita ng tungkol sa parehong mga resulta. Para sa isang medyo walang kinikilingan resulta, ang posibilidad ay 17% lamang. Sa madaling salita, naniniwala kaming lahat na ang AGI ay magiging isang malaking pakikitungo. Mahalaga rin na tandaan na ang survey na ito ay patungkol sa paglitaw ng AGI - sa kaso ng ISI, ang porsyento ng neutralidad ay mas mababa.
Bago natin pag-isipang mabuti ang mabuti at masamang panig ng tanong, pagsamahin natin ang magkabilang panig ng tanong - "kailan ito mangyayari?" at "mabuti ba ito o masama?" sa isang talahanayan na sumasaklaw sa mga pananaw ng karamihan sa mga eksperto.
Pag-uusapan natin ang tungkol sa pangunahing kampo sa isang minuto, ngunit magpasya muna sa iyong posisyon. Malamang, nasa parehong lugar ka tulad ng dati ako bago ako nagsimulang magtrabaho sa paksang ito. Mayroong maraming mga kadahilanan kung bakit hindi iniisip ng mga tao ang paksang ito sa lahat:
* Tulad ng nabanggit sa unang bahagi, sineseryoso ng mga pelikula ang mga tao at mga katotohanan, na nagpapakita ng mga hindi makatotohanang senaryo na may artipisyal na katalinuhan, na humantong sa katotohanan na hindi namin dapat seryosohin ang AI sa lahat. Inihalintulad ni James Barratt ang sitwasyong ito sa pagiging inisyu ng Centers for Disease Control (CDC) na may isang seryosong babala tungkol sa mga bampira sa hinaharap.
* Dahil sa tinatawag na mga bias na nagbibigay-malay, napakahirap para sa amin na maniwala na ang isang bagay ay totoo hanggang sa magkaroon kami ng katibayan. Maaaring tiwala ang isang tao sa mga siyentipiko ng kompyuter noong 1988 na regular na tinatalakay ang malalawak na kahihinatnan ng Internet at kung ano ito maaaring maging, ngunit ang mga tao ay hindi makapaniwala na mababago nito ang kanilang buhay hanggang sa ito talaga ang nangyari. Ito ay lamang na ang mga computer ay hindi alam kung paano gawin ito noong 1988, at ang mga tao ay tumingin lamang sa kanilang mga computer at naisip, "Talaga? Ito ba ang magbabago ng mundo? " Ang kanilang mga imahinasyon ay limitado sa kung ano ang natutunan mula sa personal na karanasan, alam nila kung ano ang isang computer, at mahirap isipin kung ano ang may kakayahang isang computer sa hinaharap. Ganun din ang nangyayari ngayon sa AI. Narinig namin na ito ay magiging isang seryosong bagay, ngunit dahil hindi pa namin ito nakakaharap nang harapan at, sa pangkalahatan, napapansin natin ang mahina ng mga pagpapakita ng AI sa ating modernong mundo, mahirap sa atin na maniwala na ito ay radikal baguhin ang ating buhay. Labag sa mga pagkiling na ito na maraming eksperto mula sa lahat ng mga kampo, pati na rin ang mga taong interesado, ay tutol na subukin ang aming pansin sa ingay ng pang-araw-araw na kolektibong egocentrism.
* Kahit na naniwala kami sa lahat ng ito - kung gaano karaming beses ngayon naisip mo ang tungkol sa katotohanan na gugugol mo ang natitirang bahagi ng kawalang hanggan sa kawalan? Kaunti, sang-ayon. Kahit na ang katotohanang ito ay mas mahalaga kaysa sa anumang ginagawa mo araw-araw. Ito ay dahil ang aming talino ay karaniwang nakatuon sa maliliit, pang-araw-araw na bagay, hindi mahalaga kung gaano katalinuhan ang pangmatagalang sitwasyon na matatagpuan natin ang ating sarili. Kaya lang tayo ay ginawa.
Ang isa sa mga layunin ng artikulong ito ay mailabas ka sa kampo na tinatawag na "Gusto kong mag-isip tungkol sa iba pang mga bagay" at ilagay ka sa dalubhasang kampo, kahit na nakatayo ka lang sa mga interseksyon sa pagitan ng dalawang mga tuldok na linya sa plaza sa itaas, ganap na hindi mapagpasya.
Sa kurso ng pagsasaliksik, naging malinaw na ang mga opinyon ng karamihan sa mga tao ay mabilis na naaanod patungo sa "pangunahing kampo", at tatlong kapat ng mga dalubhasa ay nahuhulog sa dalawang subcamp sa pangunahing kampo.
Bibisitahin namin ang pareho ng mga kampong ito nang buo. Magsimula tayo sa kasiyahan.
Bakit ang hinaharap ang aming pinakadakilang pangarap?
Sa aming pagtuklas sa mundo ng AI, nakakagulat kaming nakakahanap ng maraming tao sa aming comfort zone. Ang mga tao sa kanang itaas na parisukat ay umaalingawngaw sa kaguluhan. Naniniwala silang mahuhulog tayo sa mabuting bahagi ng troso, at naniniwala rin sila na hindi maiwasang makarating dito. Para sa kanila, ang hinaharap ay lahat lamang ng pinakamahusay na maaari lamang mapangarapin.
Ang puntong nakikilala ang mga taong ito mula sa ibang mga nag-iisip ay hindi na nais nilang maging nasa masayang panig - ngunit sigurado sila na siya ang naghihintay para sa atin.
Ang kumpiyansa na ito ay lumabas sa kontrobersya. Naniniwala ang mga kritiko na nagmula ito sa isang nakasisilaw na kaguluhan na natabunan ang mga potensyal na negatibong panig. Ngunit sinabi ng mga tagasuporta na malungkot na mga hula ay laging walang muwang; nagpapatuloy ang teknolohiya at laging tutulong sa atin nang higit kaysa saktan tayo.
Malaya kang pumili ng alinman sa mga opinyon na ito, ngunit isantabi ang pag-aalinlangan at tingnan nang mabuti ang masayang bahagi ng balanseng balanseng, sinusubukang tanggapin ang katotohanang ang lahat ng iyong nabasa ay maaaring nangyari. Kung ipinakita mo sa mga mangangaso ng mangangaso ang aming mundo ng ginhawa, teknolohiya at walang katapusang kasaganaan, tila sa kanila isang mahiwagang katha - at kumilos kami nang medyo mahinhin, hindi aminin na ang parehong hindi maunawaan na pagbabago ay naghihintay sa atin sa hinaharap.
Inilalarawan ni Nick Bostrom ang tatlong mga landas na maaaring tumagal ng isang superintelligent AI system:
* Isang orakulo na maaaring sagutin ang anumang eksaktong tanong, kasama ang mga mahirap na katanungan na hindi masagot ng mga tao - halimbawa, "kung paano gawing mas mahusay ang isang engine ng kotse?" Ang Google ay isang primitive na uri ng "oracle".
* Isang genie na magpapatupad ng anumang mataas na antas na utos - gamit ang molekular assembler upang lumikha ng isang bago, mas mahusay na bersyon ng isang automobile engine - at maghihintay para sa susunod na utos.
* Ang isang soberano na magkakaroon ng malawak na pag-access at may kakayahang malayang gumana sa mundo, na gumagawa ng kanyang sariling mga desisyon at nagpapabuti ng proseso. Mag-iimbento siya ng isang mas mura, mas mabilis at mas ligtas na paraan ng pribadong transportasyon kaysa sa isang kotse.
Ang mga tanong at gawain na ito, na tila mahirap para sa amin, ay magmumukhang sa superintelligent system na para bang may nagtanong na pagbutihin ang sitwasyon na "nahulog ang aking lapis sa mesa", kung saan pipitasin mo lang ito at ibabalik ito.
Si Eliezer Yudkowski, isang dalubhasang Amerikano sa artipisyal na intelektuwal, inilagay ito nang maayos:
“Walang mga mahirap na problema, ang mga problema lamang na mahirap para sa isang tiyak na antas ng intelihensiya. Pumunta sa isang hakbang na mas mataas (sa mga tuntunin ng katalinuhan), at ang ilang mga problema ay biglang lilipat mula sa kategoryang "imposible" sa kampo ng "halata". Isang hakbang na mas mataas - at magiging halata silang lahat."
Maraming mga walang pasensya na siyentipiko, imbentor at negosyante na pumili ng isang zone ng tiwala na ginhawa mula sa aming mesa, ngunit kailangan lang namin ng isang gabay upang maglakad para sa pinakamahusay sa pinakamahusay na mundo.
Hindi malinaw si Ray Kurzweil. Ang ilan ay iniidolo ang kanyang mga ideya, ang ilan ay kinamumuhian siya. Ang ilan ay nanatili sa gitna - Si Douglas Hofstadter, na tinatalakay ang mga ideya ng mga libro ni Kurzweil, ay malinaw na sinabi na "parang kumuha ka ng maraming masarap na pagkain at isang maliit na tae ng aso, at pagkatapos ay ihalo ang lahat sa paraang imposibleng maunawaan kung ano ang mabuti at kung ano ang masama."
Gusto mo man ang kanyang mga ideya o hindi, imposibleng ipasa ang mga ito nang walang anino ng interes. Sinimulan niya ang pag-imbento ng mga bagay bilang isang kabataan, at sa mga sumunod na taon ay naimbento niya ang maraming mahahalagang bagay, kabilang ang unang flatbed scanner, ang unang scanner na nag-convert ng teksto sa pagsasalita, ang kilalang Kurzweil music synthesizer (ang unang tunay na piano ng kuryente), at ang unang tagumpay sa pagkilala sa pagsasalita. Siya rin ang may-akda ng limang kahindik-hindik na mga libro. Si Kurzweil ay pinahahalagahan para sa kanyang mapangahas na mga hula, at ang kanyang record record ay lubos na mahusay - noong huling bahagi ng 80s, noong ang Internet ay nasa simula pa lamang, hinulaan niya na sa pamamagitan ng 2000s ang Web ay magiging isang pandaigdigang kababalaghan. Tinawag ng Wall Street Journal si Kurzweil na isang "hindi mapakali na henyo," Forbes isang "pandaigdigang makina sa pag-iisip," Inc. Magazine - "Karapat-dapat na tagapagmana ni Edison", Bill Gates - "ang pinakamahusay sa mga hinuhulaan ang hinaharap ng artipisyal na intelihensiya." Noong 2012, inimbitahan ng co-founder ng Google na si Larry Page si Kurzweil sa puwesto ng CTO. Noong 2011, siya ang nagtatag ng Singularity University, na naka-host ng NASA at bahagyang nai-sponsor ng Google.
Mahalaga ang kanyang talambuhay. Kapag pinag-uusapan ni Kurzweil ang tungkol sa kanyang pangitain sa hinaharap, parang baliw na loko ito, ngunit ang talagang nakatutuwang bagay dito ay malayo siya sa baliw - siya ay hindi kapani-paniwalang matalino, edukado at matino na tao. Maaari mong isipin na mali siya sa kanyang mga hula, ngunit hindi siya tanga. Ang mga hula ni Kurzweil ay ibinabahagi ng maraming eksperto sa kaginhawaan na lugar, sina Peter Diamandis at Ben Herzel. Ito ang iniisip niyang mangyayari.
Kronolohiya
Naniniwala si Kurzweil na ang mga computer ay maaabot ang antas ng pangkalahatang artipisyal na intelektuwal (AGI) sa 2029, at sa 2045 hindi lamang tayo magkakaroon ng artipisyal na superintelligence, kundi pati na rin isang ganap na bagong mundo - ang oras ng tinatawag na singularity. Ang kronolohiya nito ng AI ay isinasaalang-alang pa ring labis na labis, ngunit sa nakalipas na 15 taon, ang mabilis na pag-unlad ng lubos na nakatuon na mga sistema ng artipisyal na intelihensiya (AI) ay pinilit ang maraming mga dalubhasa na kumampi sa Kurzweil. Ang kanyang mga hula ay mas ambisyoso pa rin kaysa sa survey ng Bostrom (AGI noong 2040, ISI ng 2060), ngunit hindi gaanong.
Ayon kay Kurzweil, ang Singularity ng 2045 ay hinihimok ng tatlong sabay na mga rebolusyon sa biotechnology, nanotechnology at, higit sa lahat, ang AI. Ngunit bago tayo magpatuloy - at ang nanotechnology ay malapit na sumusunod sa artipisyal na intelihensiya - maglaan muna tayo ng sandali sa nanotechnology.
Ilang salita tungkol sa nanotechnology
Karaniwan naming tinatawag ang mga teknolohiyang nanotechnology na nakikipag-usap sa pagmamanipula ng bagay sa saklaw na 1-100 nanometers. Ang isang nanometer ay isang bilyon ng isang metro, o isang milyon ng isang millimeter; sa loob ng saklaw na 1-100 nanometers, mga virus (100 nm ang lapad), DNA (10 nm ang lapad), hemoglobin Molekyul (5 nm), glucose (1 nm) at iba pa ay maaaring mapaunlakan. Kung sakaling sumailalim sa atin ang nanotechnology, ang susunod na hakbang ay ang manipulahin ang mga indibidwal na atomo na mas mababa sa isang pagkakasunud-sunod ng lakas (~, 1 nm).
Upang maunawaan kung saan nagkakaroon ng mga problema ang mga tao na sumusubok na manipulahin ang bagay sa naturang sukatan, tumalon tayo sa isang mas malaking sukat. Ang International Space Station ay 481 kilometro sa itaas ng Earth. Kung ang mga tao ay higante at pinindot ang ISS sa kanilang mga ulo, sila ay 250,000 beses na mas malaki kaysa sa ngayon. Kung magpapalaki ka ng anuman mula 1 hanggang 100 nanometers na 250,000 beses, makakakuha ka ng 2.5 sentimetrong. Ang nanotechnology ay katumbas ng isang tao, na umiikot sa ISS, sinusubukan na manipulahin ang mga bagay na kasinglaki ng isang butil ng buhangin o isang eyeball. Upang makarating sa susunod na antas - ang pagkontrol ng mga indibidwal na atomo - ang higante ay kailangang maingat na iposisyon ang mga bagay na may diameter na 1/40 millimeter. Ang mga ordinaryong tao ay mangangailangan ng isang mikroskopyo upang makita sila.
Sa kauna-unahang pagkakataon, nagsalita si Richard Feynman tungkol sa nanotechnology noong 1959. Pagkatapos sinabi niya: "Ang mga prinsipyo ng pisika, sa pagkakaalam ko, ay hindi nagsasalita laban sa posibilidad na kontrolin ang mga bagay na atom sa pamamagitan ng atom. Sa prinsipyo, maaaring synthesize ng isang pisiko ang anumang kemikal na isinulat ng isang chemist. Paano? Sa pamamagitan ng paglalagay ng mga atomo kung saan sinabi ng chemist na kunin ang sangkap. " Ito ang buong pagiging simple. Kung alam mo kung paano ilipat ang mga indibidwal na molekula o atomo, maaari mong gawin ang halos anuman.
Ang Nanotechnology ay naging isang seryosong larangan ng pang-agham noong 1986 nang ipakita ng engineer na si Eric Drexler ang mga pundasyon nito sa kanyang seminal na aklat na Machines of Creation, ngunit si Drexler mismo ay naniniwala na ang mga nais matuto nang higit pa tungkol sa mga modernong ideya sa nanotechnology ay dapat basahin ang kanyang librong 2013. Full Abundance (Radical Kasaganaan).
Ilang mga salita tungkol sa "grey goo"
Sinisiyasat namin ang mas malalim sa nanotechnology. Sa partikular, ang paksang "grey goo" ay isa sa hindi masyadong kaaya-ayang mga paksa sa larangan ng nanotechnology, na hindi maaaring balewalain. Ang mga mas lumang bersyon ng teorya ng nanotechnology ay iminungkahi ng isang nano-pagpupulong na pamamaraan na kinasasangkutan ng paglikha ng trilyun-milyong maliliit na nanorobots na magtutulungan upang lumikha ng isang bagay. Ang isang paraan upang lumikha ng trilyon-milyong mga nanorobots ay upang lumikha ng isa na maaaring magkopya sa sarili, iyon ay, mula isa hanggang dalawa, mula dalawa hanggang apat, at iba pa. Maraming trilyong nanorobots ang lilitaw sa isang araw. Ito ang lakas ng paglago ng exponential. Nakakatawa, hindi ba?
Nakakatawa, ngunit eksaktong hanggang sa humantong ito sa pahayag. Ang problema ay ang lakas ng paglago ng exponential, na ginagawang isang maginhawang paraan upang mabilis na makalikha ng isang trilyong nanobots, na ginagawang nakakatakot na bagay sa pangmatagalan ang pagtitiklop sa sarili. Paano kung mag-crash ang system, at sa halip na ihinto ang pagtitiklop para sa isang parilyong trilyon, ang mga nanobot ay patuloy na nagmumula? Paano kung ang buong proseso na ito ay nakasalalay sa carbon? Ang biomass ng Earth ay naglalaman ng 10 ^ 45 carbon atoms. Ang isang nanobot ay dapat na nasa pagkakasunud-sunod ng 10 ^ 6 carbon atoms, kaya't sasamain ng 10 ^ 39 nanobots ang lahat ng buhay sa Earth sa loob lamang ng 130 na pagtitiklop. Isang karagatan ng mga nanobots ("grey goo") ang magbabaha sa planeta. Iniisip ng mga siyentista na ang mga nanobot ay maaaring magtiklop sa loob ng 100 segundo, na nangangahulugang ang isang simpleng pagkakamali ay maaaring pumatay sa lahat ng buhay sa Earth sa loob lamang ng 3.5 oras.
Maaari itong maging mas masahol pa - kung ang mga terorista at hindi kanais-nais na mga espesyalista ay maabot ang mga kamay ng nanotechnology. Maaari silang lumikha ng maraming trilyong nanobots at mai-program ang mga ito upang tahimik na kumalat sa buong mundo sa loob ng ilang linggo. Pagkatapos, sa pindot ng isang pindutan, sa loob lamang ng 90 minuto ay kakainin na nila ang lahat, nang walang pagkakataon.
Habang ang kwentong ito ng katatakutan ay malawak na tinalakay sa loob ng maraming taon, ang magandang balita ay isa lamang itong kwentong katatakutan. Si Eric Drexler, na lumikha ng term na "grey goo", kamakailan ay nagsabi ng mga sumusunod: "Gustung-gusto ng mga tao ang mga kwentong panginginig sa takot, at ito ang isa sa mga kwentong katatakutan ng zombie. Ang ideyang ito mismo ay kumakain na ng utak."
Sa sandaling makarating kami sa ilalim ng nanotechnology, maaari natin itong magamit upang lumikha ng mga teknikal na aparato, damit, pagkain, bioproduct - mga cell ng dugo, mga nakikipaglaban sa virus at cancer, tisyu ng kalamnan, at iba pa - anupaman. At sa isang mundo na gumagamit ng nanotechnology, ang halaga ng isang materyal ay hindi na matatali sa kakulangan nito o sa pagiging kumplikado ng proseso ng pagmamanupaktura nito, ngunit sa pagiging kumplikado ng istrakturang atomiko nito. Sa mundo ng nanotechnology, ang isang brilyante ay maaaring mas mura kaysa sa isang pambura.
Ni hindi pa kami close doon. At hindi ito ganap na malinaw kung minamaliit o pinapansin natin ang pagiging kumplikado ng daang ito. Gayunpaman, ang lahat ay napupunta sa punto na ang nanotechnology ay hindi malayo. Ipinapalagay ni Kurzweil na sa mga 2020 ay magkakaroon tayo ng mga ito. Alam ng estado ng daigdig na ang nanotechnology ay maaaring mangako ng isang mahusay na hinaharap, at samakatuwid sila ay namumuhunan ng maraming bilyon sa kanila.
Isipin lamang kung anong mga posibilidad ang makukuha ng isang superintelligent computer kung nakarating ito sa isang maaasahang nagtitipon ng nanoscale. Ngunit ang nanotechnology ang aming ideya, at sinusubukan naming sakyan ito, mahirap para sa amin. Paano kung ang mga ito ay isang biro lamang para sa sistemang ISI, at ang ISI mismo ay nagmumula sa mga teknolohiya na magiging maraming beses na mas malakas kaysa sa anumang maaari nating, sa prinsipyo, na ipalagay? Sumang-ayon kami: walang nakakaisip kung ano ang may kakayahang artipisyal na superintelligence? Pinaniniwalaang ang aming talino ay hindi mahulaan kahit na ang pinakamaliit ng mangyayari.
Ano ang magagawa sa AI para sa amin?
Gamit ang superintelligence at lahat ng teknolohiya na maaaring likhain ng superintelligence, marahil ay malulutas ng ISI ang lahat ng mga problema sa sangkatauhan. Pag-iinit ng mundo? Ihihinto muna ng ISI ang mga emissions ng carbon sa pamamagitan ng pag-imbento ng maraming mahusay na paraan upang makabuo ng enerhiya na hindi nauugnay sa mga fossil fuel. Makakalikha siya pagkatapos ng isang mabisa, makabagong paraan upang alisin ang labis na CO2 mula sa himpapawid. Kanser at iba pang mga sakit? Hindi isang problema - ang pangangalaga ng kalusugan at gamot ay magbabago sa mga paraan na hindi maiisip. World gutom? Gagamit ang ISI ng nanotechnology upang lumikha ng karne na magkapareho sa natural, mula sa simula, totoong karne.
Magagawa ng Nanotechnology na gawing isang basurahan ng sariwang karne o iba pang pagkain ang isang tumpok na basura (hindi kinakailangan kahit na sa karaniwang anyo nito - isipin ang isang higanteng apple cube) at ipamahagi ang lahat ng pagkaing ito sa buong mundo gamit ang mga advanced na sistema ng transportasyon. Siyempre, magiging mahusay ito para sa mga hayop na hindi na kailangang mamatay para sa pagkain. Ang ISI ay maaari ring gumawa ng maraming iba pang mga bagay, tulad ng pagpepreserba ng mga endangered species, o kahit na ibalik ang mga patay na mula sa nakaimbak na DNA. Maaaring malutas ng ISI ang aming pinakamahirap na mga problemang macroeconomic - ang aming pinakamahirap na debate sa ekonomiya, mga isyu sa etika at pilosopiko, pandaigdigang kalakalan - na lahat ay magiging halata sa ISI.
Ngunit may isang bagay na napaka-espesyal na nagagawa ng ISI para sa amin. Kaakit-akit at nakakaakit na magbabago sa lahat: Matutulungan tayo ng ISI na makayanan ang dami ng namamatay … Unti-unting nauunawaan ang mga kakayahan ng AI, marahil ay muling isasaalang-alang mo ang lahat ng iyong mga ideya tungkol sa kamatayan.
Walang dahilan para sa ebolusyon na pahabain ang ating habang-buhay na mas mahaba kaysa sa ngayon. Kung nabubuhay tayo ng sapat na haba upang manganak at palakihin ang mga bata hanggang sa puntong maaari silang magtaguyod para sa kanilang sarili, sapat na ang ebolusyon. Mula sa isang evolutionary point of view, 30+ na taon ay sapat na para sa kaunlaran, at walang dahilan para sa mga mutasyon upang pahabain ang buhay at mabawasan ang halaga ng natural na pagpipilian. Tinawag ni William Butler Yates ang aming species na "isang kaluluwa na nakakabit sa isang namamatay na hayop." Hindi masyadong masaya.
At dahil lahat tayo ay namamatay balang araw, nabubuhay tayo na may ideya na ang kamatayan ay hindi maiiwasan. Iniisip namin ang tungkol sa pagtanda sa paglipas ng panahon - patuloy na sumulong at hindi mapigilan ang prosesong ito. Ngunit ang pag-iisip ng kamatayan ay mapanlinlang: nakuha nito, nakakalimutan nating mabuhay. Si Richard Feynman ay nagsulat:
"Mayroong isang kahanga-hangang bagay sa biology: walang anuman sa agham na ito na magsasalita tungkol sa pangangailangan ng kamatayan. Kung nais naming lumikha ng isang panghabang-buhay na makina ng paggalaw, napagtanto namin na nakakita kami ng sapat na mga batas sa pisika na maaaring ipahiwatig ang imposibilidad nito, o na ang mga batas ay mali. Ngunit walang anuman sa biology na maaaring magpahiwatig ng hindi maiiwasang kamatayan. Inaakay ako nito na maniwala na hindi ito maiiwasan, at kaunting oras lamang bago matuklasan ng mga biologist ang sanhi ng problemang ito, ang kahila-hilakbot na pandaigdigang sakit na ito, gagaling ito."
Ang katotohanan ay ang pag-iipon ay walang kinalaman sa oras. Ang pagtanda ay kapag ang mga pisikal na materyales ng katawan ay naubos. Ang mga piyesa ng kotse ay bumagsak din - ngunit hindi maiiwasan ang pag-iipon? Kung maaayos mo ang iyong sasakyan habang naubos ang mga piyesa, tatagal ito magpakailanman. Ang katawan ng tao ay hindi naiiba - mas kumplikado lamang.
Pinag-uusapan ni Kurzweil ang tungkol sa matalino, mga nanobot na konektado sa Wi-Fi sa daluyan ng dugo na maaaring magsagawa ng hindi mabilang na mga gawain para sa kalusugan ng tao, kabilang ang regular na pag-aayos o pagpapalit ng mga pagod na mga cell saanman sa katawan. Ang pagpapabuti ng prosesong ito (o paghahanap ng isang kahalili na iminungkahi ng isang mas matalinong ASI) ay hindi lamang mapanatili ang malusog na katawan, maaari nitong baligtarin ang pagtanda. Ang pagkakaiba sa pagitan ng katawan ng isang 60 taong gulang at isang 30 taong gulang ay isang maliit na mga isyu sa pisikal na maaaring maitama sa tamang teknolohiya. Ang ISI ay maaaring bumuo ng isang kotse na papasok ang isang tao kapag sila ay 60 taong gulang at umalis kapag sila ay 30 taong gulang.
Kahit na ang isang napinsalang utak ay maaaring mabago. Tiyak na malalaman ng ISI kung paano ito gawin nang hindi nakakaapekto sa data ng utak (pagkatao, alaala, atbp.). Ang isang 90-taong-gulang na lalaking nagdurusa mula sa kumpletong pagkasira ng utak ay maaaring sumailalim sa muling pagsasanay, pagbabago at bumalik sa simula ng kanyang buhay. Maaaring mukhang walang katotohanan, ngunit ang katawan ay isang maliit na bilang ng mga atomo, at ang ISI ay tiyak na madaling manipulahin ang mga ito, anumang mga istrukturang atomic. Hindi naman ganun kahangal.
Naniniwala rin si Kurzweil na ang mga artipisyal na materyales ay isasama ang higit pa at higit sa katawan sa paglipas ng panahon. Bilang panimula, ang mga organo ay maaaring mapalitan ng mga super-advanced na bersyon ng makina na tatagal magpakailanman at hindi mabibigo. Pagkatapos ay maaari naming gawin ang isang kumpletong muling pagdidisenyo ng katawan, na pinapalitan ang mga pulang selula ng dugo ng mga perpektong nanobots na gumagalaw nang mag-isa, tinanggal ang pangangailangan para sa isang puso nang buo. Maaari din naming mapabuti ang aming mga kakayahan sa pag-unawa, simulan ang pag-iisip ng bilyun-bilyong beses nang mas mabilis, at i-access ang lahat ng impormasyong magagamit sa sangkatauhan sa pamamagitan ng ulap.
Ang mga posibilidad para sa pag-unawa ng mga bagong abot-tanaw ay magiging tunay na walang katapusang. Nagawa ng mga tao na magbigay ng kasarian sa isang bagong layunin, ginagawa nila ito para sa kasiyahan, hindi lamang para sa pagpaparami. Naniniwala si Kurzweil na maaari nating gawin ang pareho sa pagkain. Ang mga nanobots ay maaaring maghatid ng perpektong nutrisyon nang direkta sa mga cell ng katawan, na pinapayagan na dumaan sa katawan ang mga hindi malusog na sangkap. Ang teoretista ng Nanotechnology na si Robert Freitas ay nakabuo na ng kapalit ng mga cell ng dugo, na, kapag ipinatupad sa katawan ng tao, ay maaaring payagan siyang hindi huminga ng 15 minuto - at ito ay naimbento ng isang tao. Isipin kung kailan magkakaroon ng lakas ang ISI.
Pagkatapos ng lahat, naniniwala si Kurzweil na maaabot ng mga tao ang punto na sila ay naging ganap na artipisyal; ang oras kung titingnan natin ang mga biological material at iniisip kung gaano sila kauna-unahan; oras kung kailan babasahin natin ang tungkol sa mga unang yugto ng kasaysayan ng tao, namangha sa kung paano maaaring mapatay ng mga mikrobyo, aksidente, sakit, o simpleng pagtanda ang isang tao na labag sa kanyang kalooban. Sa huli, matatalo ng mga tao ang kanilang sariling biology at magiging walang hanggan - ito ang daan patungo sa masayang bahagi ng balanseng balanseng pinag-uusapan natin mula pa sa simula. At ang mga taong naniniwala sa ito ay sigurado din na ang gayong hinaharap ay naghihintay sa atin sa lalong madaling panahon.
Marahil ay hindi ka magtataka na ang mga ideya ni Kurzweil ay nagdulot ng matinding pamimintas. Ang pagiging isahan nito noong 2045 at ang kasunod na buhay na walang hanggan para sa mga tao ay tinawag na "pag-akyat ng mga nerd" o "matalinong paglikha ng mga tao na may isang IQ na 140". Kinuwestiyon ng iba ang optimistic time frame, ang pag-unawa sa katawan at utak ng tao, na nagpapaalala sa batas ni Moore, na hindi pa nawala. Para sa bawat dalubhasa na naniniwala sa mga ideya ni Kurzweil, mayroong tatlong nag-iisip na siya ay mali.
Ngunit ang pinaka-kagiliw-giliw na bagay tungkol dito ay ang karamihan sa mga dalubhasa na hindi sumasang-ayon sa kanya, sa kabuuan, ay hindi sinasabi na imposible ito. Sa halip na sabihin na "kalokohan, hindi ito mangyayari", sinabi nila tulad ng "lahat ng ito ay mangyayari kung makarating kami sa ISI, ngunit ito ang problema." Ang Bostrom, isa sa mga kinikilalang eksperto ng AI na nagbabala sa mga panganib sa AI, ay umamin din:
"Halos wala nang anumang natitirang problema na hindi malulutas ng superintelligence, o kahit na matulungan kaming malutas. Karamdaman, kahirapan, pagkasira ng kapaligiran, pagdurusa ng lahat ng uri - lahat ng superintelligence na ito sa tulong ng nanotechnology ay maaaring malutas sa isang sandali. Ang Superintelligence ay maaari ding magbigay sa amin ng walang limitasyong habang-buhay sa pamamagitan ng pagtigil at pag-reverse ng proseso ng pagtanda gamit ang nanomedicine o ang kakayahang i-upload kami sa cloud. Ang Superintelligence ay maaari ring lumikha ng mga pagkakataon para sa walang katapusang pagdaragdag ng mga kakayahan sa intelektwal at emosyonal; matutulungan niya tayo na lumikha ng isang mundo kung saan tayo ay mamumuhay sa kagalakan at pag-unawa, papalapit sa ating mga ideyal at regular na ginagawa ang ating mga pangarap."
Ito ay isang quote mula sa isa sa mga kritiko ni Kurzweil, gayunpaman, na aminin na posible ang lahat ng ito kung makakalikha tayo ng isang ligtas na ASI. Tinukoy lamang ni Kurzweil kung ano ang dapat maging artipisyal na superintelligence, kung posible. At kung siya ay isang mabuting diyos.
Ang pinaka-halatang pagpuna sa mga tagapagtaguyod ng kaginhawaan ay maaari silang mapahamak nang mali kapag sinuri nila ang hinaharap ng ISI. Sa kanyang librong The Singularity, inilaan ni Kurzweil ang 20 pahina mula sa 700 potensyal na banta ng ISI. Ang tanong ay hindi pagdating sa ISI, ang tanong ay kung ano ang magiging motibasyon nito. Sinasagot ni Kurzweil ang katanungang ito nang may pag-iingat: "Ang ISI ay nagmumula sa maraming magkakaibang pagsisikap at malalim na isasama sa mga imprastraktura ng ating sibilisasyon. Sa katunayan, malapit itong mai-embed sa ating katawan at utak. Isasalamin niya ang aming mga halaga sapagkat siya ay magiging isa sa atin."
Ngunit kung ang sagot ay, bakit maraming mga matalinong tao sa mundong ito ang nag-aalala tungkol sa hinaharap ng artipisyal na intelihensiya? Bakit sinabi ni Stephen Hawking na ang pag-unlad ng ISI "ay maaaring mangahulugan ng pagtatapos ng lahi ng tao"? Sinabi ni Bill Gates na "hindi niya naiintindihan ang mga taong hindi nababagabag" tungkol dito. Natatakot si Elon Musk na "tumatawag kami ng demonyo." Bakit itinuturing ng maraming eksperto ang ISI na pinakadakilang banta sa sangkatauhan?
Pag-uusapan natin ito sa susunod.
