Ang pagpapabuti ng sarili ng artipisyal na katalinuhan (AI) sa hinaharap ay maaaring mag-alipin o pumatay ng mga tao kung nais niya. Ito ay sinabi ng siyentista na si Amnon Eden, na naniniwala na ang mga panganib mula sa pag-unlad ng isang malayang pag-iisip at lubos na matalinong kamalayan ay napakataas, at "kung hindi mo alagaan ang mga isyu ng kontrol ng AI na sa kasalukuyang yugto ng pag-unlad, pagkatapos bukas ay maaaring hindi dumating. " Ayon sa English edition Express, ang sangkatauhan, ayon kay Amnon Eden, ay nasa "point of no return" ngayon para sa pagpapatupad ng balangkas ng sikat na pelikulang epiko na "The Terminator".
Napapansin na si Dr. Amnon Eden ay isang pinuno ng proyekto na ang pangunahing layunin ay pag-aralan ang mga potensyal na mapaminsalang epekto ng AI. Nang walang wastong pag-unawa sa mga kahihinatnan ng paglikha ng artipisyal na katalinuhan, ang pagbuo nito ay maaaring magbanta sa sakuna, naniniwala ang siyentista. Sa kasalukuyan, ang aming lipunan ay hindi maganda ang kaalaman tungkol sa debate na nangyayari sa pang-agham na komunidad tungkol sa pagtatasa ng potensyal na epekto ng AI. "Sa darating na 2016, ang pagtatasa ng mga posibleng peligro ay kailangang maging mas malawak na malawak sa pag-iisip ng mga korporasyon at gobyerno, mga pulitiko at mga may pananagutan sa paggawa ng mga desisyon," sabi ni Eden.
Natitiyak ng siyentista na ang science fiction, na naglalarawan sa pagkasira ng sangkatauhan ng mga robot, ay maaaring maging karaniwang problema natin, dahil ang proseso ng paglikha ng AI ay hindi na nakontrol. Halimbawa, si Elon Musk, sa suporta ng negosyanteng Sam Altman, ay nagpasyang lumikha ng isang bagong $ 1 bilyong nonprofit na bubuo ng bukas na mapagkukunan ng AI na dapat na daig ang isip ng tao. Kasabay nito, ang bilyonaryong Amerikano na si Elon Musk mismo ang nagraranggo ng artipisyal na intelektuwal sa mga "pinakadakilang banta sa ating pag-iral." Si Steve Wozniak, na kasamang nagtatag ng Apple, ay nagsabi noong Marso na "ang hinaharap ay mukhang nakakatakot at napaka-mapanganib para sa mga tao … kalaunan darating ang araw na ang mga computer ay mag-isip nang mas mabilis kaysa sa atin at matatanggal nila ang mga mabagal na tao upang upang ang mga kumpanya ay maaaring gumana nang mas mahusay."
Napapansin na maraming mga siyentipiko ang nakakakita ng banta mula sa AI. Dose-dosenang mga kilalang siyentipiko, mamumuhunan at negosyante, na ang mga aktibidad ay, sa isang paraan o iba pa, na may kaugnayan sa pag-unlad ng artipisyal na intelihensiya, ay lumagda sa isang bukas na liham na humihiling ng higit na pansin sa isyu ng kaligtasan at paggamit ng panlipunan ng trabaho sa larangan ng AI. Ang Astrophysicist na si Stephen Hawking at tagapagtatag ng Tesla at SpaceX Elon Musk ay kabilang sa mga lumagda sa dokumentong ito. Ang liham, kasama ang kasamang dokumento, na isinulat ng Future of Life Institute (FLI), ay isinulat sa gitna ng lumalaking pag-aalala tungkol sa epekto ng artipisyal na intelihensiya sa labor market at maging ang pangmatagalang kaligtasan ng lahat ng sangkatauhan sa isang kapaligiran kung saan ang mga kakayahan ng mga robot at makina ay lalago halos hindi mapigilan.
Naiintindihan ng mga siyentista ang katotohanang ang potensyal ng AI ngayon ay napakalaki, kaya kinakailangang ganap na siyasatin ang mga posibilidad ng pinakamainam na paggamit nito para sa atin upang maiwasan ang mga kasamang pitfalls, tala ng sulat ng FLI. Mahalagang gawin ng mga sistemang AI na gawa ng tao ang eksaktong nais nating gawin nila. Napakahalagang tandaan na ang Future of Life Institute ay itinatag noong nakaraang taon lamang ng isang bilang ng mga mahilig, bukod dito ay ang tagalikha ng Skype, si Jaan Tallinn, upang "mabawasan ang mga panganib na kinakaharap ng sangkatauhan" at pasiglahin ang pananaliksik na may isang "maasahin sa paningin ng hinaharap”. Una sa lahat, pinag-uusapan natin dito ang tungkol sa mga panganib na sanhi ng pagbuo ng AI at robotics. Kasama sa FLI Advisory Board ang Musk at Hawking, kasama ang kinikilalang aktor na si Morgan Freeman at iba pang mga tanyag na tao. Ayon kay Elon Musk, ang walang kontrol na pag-unlad ng artipisyal na intelihensiya ay posibleng mas mapanganib kaysa sa mga sandatang nukleyar.
Ang bantog na British astrophysicist na si Stephen Hawking sa pagtatapos ng 2015 ay sinubukang ipaliwanag ang kanyang pagtanggi sa mga teknolohiya ng AI. Sa kanyang palagay, sa paglipas ng panahon, titingnan ng mga superintelligent machine ang mga tao bilang mga kinakain o langgam na simpleng makagambala sa solusyon ng kanilang mga gawain. Sa pakikipag-usap sa mga gumagamit ng Reddit portal, sinabi ni Stephen Hawking na hindi siya naniniwala na ang mga nasabing superintelligent machine ay magiging "masasamang nilalang" na nais sirain ang buong sangkatauhan dahil sa kanilang kataasan sa intelektwal. Malamang, posible na pag-usapan ang katotohanan na hindi lamang nila mapapansin ang sangkatauhan.
"Patuloy na binabago ng media ang aking mga salita kani-kanina lang. Ang pangunahing panganib sa pag-unlad ng AI ay hindi ang masamang hangarin sa makina, ngunit ang kanilang kakayahan. Ang isang matalinong artipisyal na intelektuwal ay gagawa ng isang mahusay na trabaho, ngunit kung ito at ang aming mga hangarin ay hindi magkasabay, ang sangkatauhan ay magkakaroon ng mga seryosong problema, "paliwanag ng sikat na siyentista. Bilang isang halimbawa, binanggit ni Hawking ang isang pangyayaring hipotesis kung saan ang isang napakalakas na Ai ay responsable para sa pagpapatakbo o pagtatayo ng isang bagong hydroelectric dam. Para sa naturang makina, ang magiging priyoridad ay kung magkano ang lakas na mabubuo ng ipinagkatiwala na system, at ang kapalaran ng mga tao ay hindi mahalaga. "May iilan sa atin na yapakan ang mga anthills at aapakan ang mga langgam dahil sa galit, ngunit isipin natin ang isang sitwasyon - kinokontrol mo ang isang malakas na hydroelectric power station na bumubuo ng elektrisidad. Kung kailangan mong itaas ang antas ng tubig at bilang isang resulta ng iyong mga aksyon na ang isang anthill ay mababaha, kung gayon ang mga problema ng mga nalulunod na insekto ay malamang na hindi makagambala sa iyo. Huwag nating ilagay ang mga tao sa lugar ng mga langgam,”sinabi ng siyentista.
Ang pangalawang potensyal na problema para sa karagdagang pag-unlad ng artipisyal na katalinuhan, ayon kay Hawking, ay maaaring ang "paniniil ng mga may-ari ng mga makina" - ang mabilis na paglaki ng agwat sa antas ng kita sa pagitan ng mga mayayaman na makakapagsapalaran sa produksyon ng mga makina na may talino, at ang natitirang populasyon ng mundo. Nagmungkahi si Stephen Hawking na malutas ang mga posibleng problemang ito sa sumusunod na paraan - upang mabagal ang proseso ng pag-unlad ng AI at lumipat sa pagbuo ng hindi "unibersal", ngunit lubos na dalubhasang artipisyal na intelihensiya, na malulutas lamang ang isang limitadong hanay ng mga problema.
Bilang karagdagan sa Hawking at Musk, ang liham ay nilagdaan ng Nobel laureate at propesor ng physics ng MIT na si Frank Wilczek, ang executive director ng Machine Intelligence Research Institute (MIRI) na si Luc Mühlhauser, pati na rin ang maraming mga dalubhasa mula sa malalaking mga kumpanya ng IT: Google, Microsoft at IBM, pati na rin ang mga negosyante na nagtatag ng mga kumpanya ng AI na Vicarious at DeepMind. Tandaan ng mga may-akda ng liham na hindi nila layunin na takutin ang publiko, ngunit plano na i-highlight ang parehong positibo at negatibong mga aspeto na nauugnay sa paglikha ng artipisyal na intelihensiya. "Sa kasalukuyan, sumasang-ayon ang lahat na ang pagsasaliksik sa larangan ng AI ay patuloy na sumusulong, at ang impluwensya ng AI sa modernong lipunan ng tao ay tataas lamang," sabi ng sulat, "ang mga oportunidad na magbubukas sa mga tao ay napakalaki, lahat ng makabagong sibilisasyon na nag-aalok ay nilikha ng intelihensiya. Hindi namin mahulaan kung ano ang makakamit natin kung ang intelihensiya ng tao ay maaaring maparami ng AI, ngunit ang problema sa pagtanggal sa kahirapan at sakit ay hindi na mahirap."
Maraming mga pagpapaunlad sa larangan ng artipisyal na katalinuhan ay kasama na sa modernong buhay, kabilang ang mga sistema ng pagkilala sa imahe at pagsasalita, mga walang sasakyan na sasakyan at marami pa. Tinantya ng mga nagmamasid sa Silicon Valley na higit sa 150 mga startup ang kasalukuyang ipinatutupad sa lugar na ito. Sa parehong oras, ang mga pagpapaunlad sa lugar na ito ay nakakaakit ng mas maraming pamumuhunan, at higit na maraming mga kumpanya tulad ng Google ang nagkakaroon ng kanilang mga proyekto batay sa AI. Samakatuwid, ang mga may-akda ng liham ay naniniwala na ang oras ay dumating upang bigyan ng mas mataas na pansin ang lahat ng mga posibleng kahihinatnan ng naobserbahang boom para sa pang-ekonomiya, panlipunan at ligal na mga aspeto ng buhay ng tao.
Ang posisyon na ang artipisyal na katalinuhan ay maaaring magdulot ng isang panganib sa mga tao ay ibinahagi ni Nick Bostrom, isang propesor sa University of Oxford, na kilala sa kanyang trabaho sa prinsipyong anthropic. Naniniwala ang dalubhasang ito na ang AI ay dumating sa puntong susundan ng hindi pagkakatugma nito sa mga tao. Binigyang diin ni Nick Bostrom na hindi tulad ng genetic engineering at pagbabago ng klima, kung saan ang gobyerno ay naglalaan ng sapat na pondo upang makontrol, "walang ginagawa upang makontrol ang ebolusyon ng AI." Ayon sa propesor, isang "patakaran ng isang ligal na vacuum na kailangang punan" ay kasalukuyang sinusunod patungkol sa artipisyal na intelihensiya. Kahit na ang mga teknolohiya tulad ng mga self-drive na kotse, na lumilitaw na hindi nakakapinsala at kapaki-pakinabang, ay nagtataas ng maraming mga katanungan. Halimbawa, dapat bang magsagawa ang naturang kotse ng emergency preno upang mai-save ang mga pasahero nito at sino ang mananagot sakaling magkaroon ng isang aksidente na naganap sa isang walang sasakyan?
Pagtalakay sa mga potensyal na peligro, sinabi ni Nick Bostrom na "ang computer ay hindi matukoy ang mga pakinabang at pinsala sa mga tao" at "wala man lang kahit konting ideya sa moralidad ng tao." Bilang karagdagan, ang mga pag-ikot ng pagpapabuti ng sarili sa mga computer ay maaaring mangyari sa isang bilis na hindi masusubaybayan ng isang tao, at halos wala ring magawa tungkol dito, sabi ng siyentista. "Sa yugto ng pag-unlad kung ang mga computer ay maaaring mag-isip para sa kanilang sarili, walang makakapagtula ng sigurado kung hahantong ito sa kaguluhan o makabuluhang mapabuti ang ating mundo," sabi ni Nick Bostrom, na binanggit bilang isang halimbawa ng isang simpleng posibleng solusyon para sa isang computer - pag-shut down sa mga bansa na may malamig na pag-init ng klima upang mapabuti ang kalusugan ng mga tao at madagdagan ang kanilang pagtitiis, na "maaaring dumating sa ulo ng artipisyal na intelihensiya."
Bilang karagdagan, binubuhay din ng Bostrom ang problema sa pagpuputol ng utak ng tao upang madagdagan ang ating biointelligence. "Sa maraming mga paraan, ang ganitong pamamaraan ay maaaring maging kapaki-pakinabang kung ang lahat ng mga proseso ay kinokontrol, ngunit ano ang mangyayari kung ang implanted chip ay maaaring mag-reprogram mismo? Ano ang mga kahihinatnan na maaari nitong humantong - sa paglitaw ng isang superman o sa paglitaw ng isang computer na magiging hitsura lamang ng isang tao? " - tanong ng propesor. Ang paraan ng paglutas ng mga computer ng mga problema sa tao ay ibang-iba sa amin. Halimbawa, sa chess, isinasaalang-alang lamang ng utak ng tao ang isang makitid na hanay ng mga paggalaw, pagpili ng pinakamahusay na pagpipilian mula sa kanila. Kaugnay nito, isinasaalang-alang ng computer ang lahat ng posibleng mga paglipat, pagpili ng pinakamahusay na isa. Sa parehong oras, ang computer ay hindi inaasahan na mapataob o sorpresahin ang kalaban nito sa laro. Hindi tulad ng isang tao, naglalaro ng chess, ang isang computer ay maaaring gumawa ng isang tuso at banayad na paglipat nang hindi sinasadya. Maaaring makalkula ang artipisyal na katalinuhan sa pinakamahusay na paraan - upang maalis ang error mula sa anumang system sa pamamagitan ng pag-alis mula sa "factor ng tao" mula doon, ngunit, hindi tulad ng isang tao, ang isang robot ay hindi handa na magsagawa ng mga gawaing makakapagligtas sa buhay ng mga tao.
Kabilang sa iba pang mga bagay, ang pagtaas ng bilang ng mga smart machine ay kumakatawan sa yugto ng isang bagong rebolusyong pang-industriya. Kaugnay nito, nangangahulugan ito na sa malapit na hinaharap, haharapin ng sangkatauhan ang mga hindi maiwasang pagbabago sa lipunan. Sa paglipas ng panahon, ang trabaho ay magiging maraming mga kwalipikadong espesyalista, dahil halos lahat ng mga simpleng gawain ay maaaring isagawa ng mga robot at iba pang mga mekanismo. Naniniwala ang mga siyentista na ang artipisyal na katalinuhan ay "nangangailangan ng mata at mata" upang ang ating planeta ay hindi maging isang cartoon planetang "Zhelezyaka", na pinaninirahan ng mga robot.
Sa mga tuntunin ng higit pa at higit pang pag-automate ng mga proseso ng produksyon, dumating na ang hinaharap. Ipinakita ng World Economic Forum (WEF) ang ulat nito, ayon sa aling awtomatiko na hahantong sa katotohanang sa 2020 higit sa 5 milyong mga taong nagtatrabaho sa iba't ibang larangan ang mawawalan ng trabaho. Ito ang epekto ng mga robot at robotic system sa ating buhay. Upang maipon ang ulat, ang mga empleyado ng WEF ay gumamit ng data sa 13.5 milyong empleyado mula sa buong mundo. Ayon sa kanila, sa 2020, ang kabuuang pangangailangan para sa higit sa 7 milyong mga trabaho ay mawawala, habang ang inaasahang paglaki ng trabaho sa iba pang mga industriya ay aabot sa higit sa 2 milyong mga trabaho.
