Ang mga eksperto sa militar ay tumatawag sa mga autonomous na sandata o mga autonomous na sandata system (AWS) na mga uri ng sandata na ginagawa ang lahat sa kanilang sarili: nakakahanap sila ng isang target at nakumpleto ang isang gawain nang walang interbensyon ng tao. Ang isa sa pinakatanyag, hanggang ngayon sa mga science fiction films at AWS book lamang, ay ang tinatawag na "killer robot".
Si Elon Musk at higit sa isang daang iba pang mga eksperto sa robot ay nagsulat tungkol sa nakamamatay na banta mula sa mga killer robot sa isang bukas na liham ng babala sa UN. Si Musk, Mustafa Suleiman, ang lumikha ng kumpanya ng AI na DeepMind Technologies, na pag-aari ngayon ng Google, at 114 na dalubhasa mula sa 26 na bansa ang nagbabala sa UN na ang karerang armas sa AWS ay maaaring magbukas ng kahon ng Pandora, na maaaring maging sanhi ng hindi mahulaan at napaka malaking pinsala sa sangkatauhan. Hinihiling nila ang pagbabawal sa pagbuo at pagpapatupad ng mga autonomous na sistema ng sandata.
Ang lahat ng mga lumagda ay bihasa sa usapin dahil nagtatrabaho sila sa larangan ng artipisyal na intelektuwal (AI). Tiwala sila na ang pagpapakilala ng mga robot ng killer sa armament ng mga hukbo ng mga maunlad na bansa ay magkakaroon ng parehong kahalagahan para sa mga gawain sa militar tulad ng pag-imbento ng pulbura at mga sandatang nukleyar, na tinawag nilang una at pangalawang rebolusyon sa mga usaping militar. Naniniwala ang AWS na magiging pangatlong rebolusyon.
"Kapag dinala sa isang mataas na antas, ang mga sistemang autonomous na sandata ay magdadala ng mga hidwaan ng militar sa antas ng lakas na hindi pa nakikita ng sangkatauhan dati," sabi ng kolektibong liham. - Bukod dito, ito ay mangyayari nang may matulin na bilis. Ang AWS ay maaaring maging sandata ng teror, isang sandata na gagamitin ng mga tampalasan at terorista laban sa mga sibilyan …"
Nagbabala ang mga may-akda ng liham tungkol sa isang pang-hipothetikal na sandata na maaaring makasira sa mga tao nang walang interbensyon ng tao. Malapit na ang araw kung saan ito ay magiging isang mabagsik na katotohanan mula sa kategorya ng kathang-isip at pipilitin kaming maghanap ng mga sagot sa maraming mahirap na katanungan, mula sa ligtas na pamamahala ng mga naturang sistema hanggang sa mga problemang moral at etikal na sanhi ng "iron" na kalupitan at hindi mahulaan ng nakamamatay na machine.
Si Musk, kasama ang mga tagasuporta na nagbabahagi ng kanyang paninindigan sa mga panganib ng AWS sa sangkatauhan, binibigyang diin na walang oras para sa pagmuni-muni at talakayan at kinakailangang kumilos kaagad. "Napakaliit natin ng oras," sumulat sila sa UN. "Kapag ang kahon ng Pandora ay bukas, napakahirap upang isara ito."
Ang oras para sa pagsulat ng isang bukas na liham ay hindi pinili nang hindi sinasadya. Nais ng mga dalubhasa na sumabay sa pagsisimula ng International Conference on Arthetic Intelligence (IJCAI) sa Melbourne. Bubuksan sana ito sa Lunes ng Agosto 21, ngunit nagpasya ang UN na ipagpaliban ito hanggang Nobyembre.
Sa pagtatapos ng isang bukas na liham, nanawagan si Elon Musk at ang kanyang mga kasamahan sa UN na doblehin ang pagsisikap na lumikha ng isang diskarte sa Nobyembre upang protektahan ang planeta mula sa mga killer robot.
Mas maaga, si Musk mismo ang nagbabala tungkol sa mga panganib ng pagtatrabaho sa artipisyal na intelektuwal tulad nito, dahil ang mga system na batay dito ay maaaring makalayo sa kontrol ng tao. Sa parehong oras, ang mga kotse na may Tesla electric motors ay nagmamaneho na sa mga kalsada ng Estados Unidos sa isang walang mode na tao, na kung saan ay walang mga insidente.
