Više od 20 zemalja je pozvalo na potpunu zabranu robota ubojica uoči sastanka UN-a

siječanj 29, 2023

10148

‘Roboti ubojice’: stručnjaci za umjetnu inteligenciju pozivaju na bojkot laboratorija na južnokorejskom sveučilišta

mr.sc. Arna Šebalj - znanstvene vijesti — mr.sc. Arna Šebalj – znanstvene vijesti

Više od 20 zemalja već je pozvalo na potpunu zabranu robota ubojica uoči sastanka UN-a sljedećeg tjedna o autonomnom oružju. Fotografija: Stephen Curry/The Guardian

Još prije četiri godine theguardian.com je objavio članak koji nikoga nije zanimao. A danas?

Danas smo mnogi svjesni kako je ovo već stvarnost.

https://www.theguardian.com/technology/2018/apr/05/killer-robots-south-korea-university-boycott-artifical-intelligence-hanwha

Akademici diljem svijeta izražavaju ‘veliku zabrinutost’ zbog suradnje KAIST-a s obrambenom tvrtkom na autonomnom oružju

Istraživači umjetne inteligencije iz gotovo 30 zemalja bojkotiraju južnokorejsko sveučilište zbog zabrinutosti da bi novi laboratorij u partnerstvu s vodećom obrambenom tvrtkom mogao dovesti do “robota ubojica”.

Više od 50 vodećih akademika potpisalo je pismo pozivajući na bojkot Korejskog naprednog instituta za znanost i tehnologiju (KAIST) i njegovog partnera, proizvođača obrane Hanwha Systems. Istraživači su rekli da neće surađivati sa sveučilištem niti ugostiti posjetitelje iz KAIST-a zbog straha da želi “ubrzati utrku u naoružanju za razvoj” autonomnog oružja.

“Postoji mnogo sjajnih stvari koje možete učiniti s umjetnom inteligencijom koje spašavaju živote, uključujući i vojni kontekst, ali otvoreno izjaviti da je cilj razvoj autonomnog oružja i imati ovakvog partnera izaziva veliku zabrinutost”, rekao je Toby Walsh, organizator bojkota i profesor na Sveučilištu New South Wales. “Ovo je vrlo cijenjeno sveučilište koje surađuje s vrlo etički sumnjivim partnerom koji nastavlja kršiti međunarodne norme.”

Razvoj autonomnog oružja pogoršao bi sigurnosnu situaciju na Korejskom poluotoku.

Bojkot dolazi uoči sastanka Ujedinjenih naroda u Ženevi sljedećeg tjedna o autonomnom oružju, a više od 20 zemalja već je pozvalo na potpunu zabranu robota ubojica. Korištenje umjetne inteligencije u vojskama diljem svijeta izazvalo je strahove od situacije poput Terminatorove i postavila su se pitanja o točnosti takvog oružja i njihovoj sposobnosti da razlikuje prijatelja od neprijatelja.

Hanwha je jedan od najvećih proizvođača oružja u Južnoj Koreji i proizvodi kazetnu municiju koja je prema međunarodnom sporazumu zabranjena u 120 zemalja. Južna Koreja, uz SAD, Rusiju i Kinu, nisu potpisnice konvencije.

Walsh je isprva bio zabrinut kada je članak u Korea Timesu opisao KAIST kao “pridruživanje globalnom natjecanju za razvoj autonomnog oružja” i odmah je pisao sveučilištu postavljajući pitanja, ali nije dobio odgovor.

Predsjednik KAIST-a, Sung-Chul Shin, rekao je da je tužan kada je čuo za bojkot. “Želio bih ponovno potvrditi da KAIST nema namjeru sudjelovati u razvoju smrtonosnih autonomnih sustava oružja i robota ubojica”, rekao je Shin u izjavi.

“Kao akademska institucija, cijenimo ljudska prava i etičke standarde na vrlo visokom stupnju”, dodao je. “Još jednom potvrđujem da KAIST neće provoditi nikakve istraživačke aktivnosti protivne ljudskom dostojanstvu, uključujući autonomna oružja kojima nedostaje značajna ljudska kontrola.”

KAIST je 20. veljače otvorio istraživački centar za konvergenciju nacionalne obrane i umjetne inteligencije, a Shin je tada rekao da će to “osigurati snažne temelje za razvoj nacionalne obrambene tehnologije”.

Centar će se usredotočiti na “sustave zapovijedanja i odlučivanja temeljene na umjetnoj inteligenciji, kompozitne navigacijske algoritme za bespilotna podmorska vozila velikih razmjera, sustave za obuku pametnih zrakoplova temeljene na umjetnoj inteligenciji i tehnologiju praćenja i prepoznavanja pametnih objekata temeljenu na umjetnoj inteligenciji”, u međuvremenu obrisana najava rekao je.

Južnokorejski Dodaam Systems već proizvodi potpuno autonomnog “borbenog robota” , stacionarnu kupolu, sposobnu detektirati ciljeve do 3 km udaljenosti. Kupci uključuju Ujedinjene Arapske Emirate i Katar, a testiran je na visoko militariziranoj granici sa Sjevernom Korejom, ali čelnici tvrtke rekli su BBC-u 2015. da postoje “samonametnuta ograničenja” koja zahtijevaju da čovjek izvede smrtonosni napad.

Vojni dron Taranis koji je izradio britanski BAE Systems može tehnički raditi potpuno autonomno, prema Walshu, koji je rekao da roboti ubojice čine sve manje sigurnima, čak i u opasnom susjedstvu.

“Razvoj autonomnog oružja pogoršao bi sigurnosnu situaciju na Korejskom poluotoku, a ne poboljšao”, rekao je. “Ako se to oružje bilo gdje napravi, na kraju bi se sigurno pojavilo u Sjevernoj Koreji i ne bi ga nimalo dvojili koristiti protiv Juga.”

I nije to sve. Rekla bih ludosti koja je oko nas nema kraja. Pisala sam o tome u knjizi Mediji i medijske manipulacije, izdanje 2020., nakladnik Tkanica.

Danas, kad smo globalno povezani u svakom selu internetom, Telegramom, Facebookom, Twitterom, Instagramom i ostalim mrežama, stvorili smo novu kulturu. Kulturu narcisoidnog prikaza taštine, od svih tih društvenih mreža do portala, gdje se kreirajući svoje profile sasvim svjesno izlaže sve informacije o vlastitom životu.

Stoga, tehnologija da, ali kontrola u radu s njom svakako, a sve nepotrebno odbaciti.

Pitanje je samo kako? Kako, kad znanstvenici svijeta stvaraju GMO blizance, kreće proizvodnja zomboida pod izgovorom uzgoja organa za ljude, umjetna inteligencija hoda ulicama svijeta, roboti kao radnici uposleni u industriji, cvjeta industrija djece u umjetnim maternicama. Sofia, humanoidni robot, prvi u povijesti koji je dobio(la) državljanstvo jedne zemlje – Saudijske Arabije.

Potom, tu je i torzo još inteligentnijeg humanoidnog robota, točnije njenog torza, prikazan u emisiji Morgana Frimana na HTV….

I nije to sve, tehnologija nezaustavljivo napreduje. Krajem rujna 2019. stigle su objave novih tehnoloških, zastrašujućih čuda. Najfleksibilnijeg humanoidnog robota Atlas. Danas, u siječnju 2023. čudima nema kraja. Najnoviji humanoidni robot Alter 3, dirigirao je sinfonijskim orkestrom i k tome još i pjevao. Riječ je o jedinstvenoj androidskoj operi naziva “Scary Beauty” ili “Zastrašujuća ili Jeziva ljepota”.