Umjetna inteligencija: Svijet nije spreman za napredak

Umjetna inteligencija (AI) nezaustavljivo napreduje, donoseći sa sobom obećanja o revolucionarnim promjenama u raznim sektorima poput zdravstva, transporta i financija. No, dok se svijet divi ovim naprecima, mnogi vodeći stručnjaci upozoravaju da globalna zajednica nije dovoljno spremna za izazove i rizike koje autonomni AI sustavi donose.

Nedavno su se na AI summitu okupili vodeći umovi iz područja umjetne inteligencije. Uključujući dobitnike Turingove nagrade Geoffreya Hintona i Yoshue Bengioa. Njihova poruka bila je jasna: bez adekvatne regulacije i sigurnosnih okvira, potencijalne opasnosti koje dolaze s AI-jem mogle bi nadmašiti njegove koristi.

Nedostatak Regulacije

Jedan od glavnih problema koje stručnjaci ističu je spor napredak vlada u uspostavljanju jasnih i učinkovitih regulacijskih okvira za AI. Trenutno, mnoge zemlje nemaju sveobuhvatne zakone koji bi se bavili specifičnostima i složenostima autonomnih sustava. Ova pravna praznina može dovesti do zloupotrebe AI tehnologija. Od kojih neke mogu imati ozbiljne posljedice po privatnost, sigurnost i ekonomske stabilnosti.

Svijet nije spreman za proboje u umjetnoj inteligenciji, prema skupini senior stručnjaka, uključujući dva “kumova” AI-a, koji upozoravaju da su vlade postigle nedovoljan napredak u regulaciji tehnologije.

Dan Milmo, urednik globalne tehnologije

Potencijalni Rizici

Stručnjaci su također upozorili na brojne rizike koje umjetna inteligencija donosi. Primjerice, autonomni sustavi u vojsci mogu povećati opasnost od sukoba, dok bi AI u financijama mogao destabilizirati tržišta. Također, postoji i zabrinutost zbog etičkih pitanja, poput pristranosti u algoritmima i gubitka radnih mjesta zbog automatizacije.

Geoffrey Hinton, često nazivan “kumom dubokog učenja”, naglasio je da postoji hitna potreba za međunarodnom suradnjom u istraživanju sigurnosnih aspekata AI-ja. “Bez koordiniranih napora na globalnoj razini, riskiramo da izgubimo kontrolu nad tehnologijama koje stvaramo,” rekao je Hinton.

Preporuke za Budućnost

Akademski rad pod nazivom “upravljanje ekstremnim rizicima AI-a usred brzog napretka” preporučuje vladine sigurnosne okvire koji uvode strože zahtjeve ako tehnologija brzo napreduje.

Također poziva na povećano financiranje novoosnovanih tijela poput instituta za sigurnost AI-a u Velikoj Britaniji i SAD-u. Prisiljavanje tehnoloških tvrtki na rigoroznije provjere rizika; i ograničavanje korištenja autonomnih AI sustava u ključnim društvenim ulogama.

“Odgovor društva, unatoč obećavajućim prvim koracima, nije srazmjeran mogućnosti brzog, transformativnog napretka koji očekuju mnogi stručnjaci. Istraživanje sigurnosti AI-a zaostaje. Sadašnje inicijative upravljanja nemaju mehanizme i institucije za sprječavanje zlouporabe i nepromišljenosti te jedva adresiraju autonomne sustave.”

Stoji u radu objavljenom u časopisu Science.

Globalni samit o sigurnosti AI-a u Bletchley Parku u Velikoj Britaniji prošle godine postigao je dobrovoljni sporazum o testiranju s tehnološkim tvrtkama. Uključujući Google, Microsoft i Metu Marka Zuckerberga. Dok je EU uvela zakon o AI, a Bijela kuća u SAD-u izdala izvršnu naredbu koja postavlja nove zahtjeve za sigurnost AI-a.

Rad kaže da napredni AI sustavi – tehnologija koja obavlja zadatke tipično povezane s inteligentnim bićima. Mogu pomoći u liječenju bolesti i podizanju životnog standarda, ali također nose prijetnju erozije društvene stabilnosti i omogućavanja automatiziranog ratovanja. Međutim, upozorava da pomak tehnološke industrije prema razvoju autonomnih sustava predstavlja još veću prijetnju.

“Tvrtke preusmjeravaju svoj fokus na razvoj generalističkih AI sustava koji mogu autonomno djelovati i ostvarivati ciljeve. Povećanje sposobnosti i autonomije moglo bi uskoro masivno pojačati utjecaj AI-a, s rizicima koji uključuju velike društvene štete. Zlonamjerne uporabe i nepovratni gubitak ljudske kontrole nad autonomnim AI sustavima”, rekli su stručnjaci. Dodajući da nekontrolirani napredak AI-a može dovesti do “marginalizacije ili izumiranja čovječanstva”.

Sljedeća faza razvoja komercijalnog AI-a je “agenski” AI, pojam za sustave koji mogu djelovati autonomno i, teoretski, obavljati i završavati zadatke poput rezervacije odmora.

Dvije tehnološke tvrtke pružile su uvid u tu budućnost s OpenAI-ovim GPT-4o, koji može voditi razgovore u stvarnom vremenu, i Googleovim Project Astrom, koji je mogao koristiti kameru pametnog telefona za identifikaciju lokacija, čitanje i objašnjavanje računalnog koda te stvaranje aliterativnih rečenica.

Da bi se adresirali ovi izazovi, stručnjaci predlažu nekoliko ključnih koraka

1. Razvoj Globalnih Standarda: Potrebno je uspostaviti međunarodne standarde i smjernice koje će osigurati sigurnu i etičnu upotrebu AI tehnologija.
2. Jačanje Istraživanja Sigurnosti: Povećanje financiranja i podrške za istraživanja koja se fokusiraju na sigurnosne aspekte AI-ja.
3. Edukacija i Svijest: Poboljšanje javne svijesti i edukacije o potencijalima i rizicima AI tehnologija, kako bi se osigurala odgovorna upotreba.
4. Suradnja između Sektora: Poticanje suradnje između vlada, akademskih institucija i industrije kako bi se osigurala sveobuhvatna i učinkovita regulacija.

Je li svijest umjetne inteligencije moguća

Pitanje može li umjetna inteligencija postati svjesna intrigira filozofe i znanstvenike već godinama.

Kako tehnologija napreduje, rasprave o tome može li AI razviti pravu svijest – umjesto da samo oponaša ljudsko ponašanje – postaju sve intenzivnije.

U svojoj srži, ovo pitanje se bavi “teškim problemom svijesti,” koji postavlja pitanje kako subjektivna iskustva nastaju iz fizičkih procesa.

Mogu li AI sustavi zaista doživjeti svijest, ili samo simuliraju inteligentno ponašanje?

Kako to možemo testirati? Turingov test sugerira da bi se stroj mogao smatrati umnim ako može voditi razgovor neodvojiv od onog s ljudima.

Međutim, kritičari poput Johna Searlea tvrde da to procjenjuje ponašanje, a ne pravu svijest.

Searleov misaoni eksperiment Kineska soba ilustrira da koherentni odgovori ne znače nužno i razumijevanje.

Istraživači žele mjeriti svijest i kod ljudi i kod AI, fokusirajući se na samosvijest i kognitivnu kontrolu.

Ipak, definiranje svijesti ostaje neuhvatljivo.

Neki vjeruju da bi napredna AI mogla razviti svijest, dok drugi tvrde da će to uvijek biti samo simulacija.

Zaključak

Napredak u umjetnoj inteligenciji donosi brojne prilike, ali i značajne izazove. Stručnjaci poput Geoffreya Hintona i Yoshue Bengioa ističu da je hitno potrebna akcija na globalnoj razini kako bi se osigurala sigurnost i etičnost AI tehnologija. Bez adekvatnih regulacija i sigurnosnih mjera, riskiramo da se suočimo s neželjenim posljedicama koje bi mogle nadmašiti koristi koje AI donosi.

Pratite što se događa u GOOGL-u, koje su novosti vezane uz umjetnu inteligenciju.

Dok uživamo u prednostima koje AI donosi, moramo biti svjesni odgovornosti koju nosimo. Samo kroz zajednički napor možemo osigurati da umjetna inteligencija služi čovječanstvu na siguran i koristan način.