Bivši istraživač Antropika: Veštačka inteligencija bez kontrole mogla bi da ugrozi budućnost čovečanstva

Bivši istraživač američke kompanije Antropik, koja se bavi veštačkom inteligencijom (AI), Džejkob Kokson izjavio je da su naučnici koji se bave AI iskreno uplašeni zbog brzog napretka te tehnologije koja je, upozorav – bez kontrole i mogla bi da ugrozi budućnost čovečanstva.

Kokson je za BBC govorio o svojoj objavi o ostavci koja je postala viralna, a u kojoj je izrazio zabrinutost zbog veštačke inteligencije koja se otima kontroli.

„Smatram da, ako ne usporimo trenutni tempo napretka, postoji velika verovatnoća da bismo svi mogli da nastradamo u bliskoj budućnosti”, rekao je Kokson.

Kokson je podneo ostavku usred rastućih bezbednosnih zabrinutosti u industriji AI, koju je izrazio i suosnivač i izvršni direktor Antropika Dario Amodei, založivši se za usporavanje razvoja veštačke inteligencije.

Čelni ljudi dve rivalske kompanije za veštačku inteligenciju, Sem Altman iz (OpenAI) i Ilon Mask iz (xAI), izjavili su da podržavaju Amodejev predlog o usporavanju razvoja i uvođenju regulative na nivou cele industrije, kao i o nezavisnom nadzoru nad razvojem modela veštačke inteligencije.

Amodei je istakao da razvoj ove tehnologije nije sporan, ali da su rizici povezani s njom „ozbiljni”, te da kompanijama i vladama treba dati vremena da se njima pozabave.

Kokson, koji je radio u OpenAI pre nego što se pridružio Antropiku, pozdravio je predlog Amodeija o usporavanju razvoja AI, ali je rekao da bi to trebalo koordinisati sa Kinom.

„Ljudi koji rade u ovim kompanijama su sasvim ozbiljni kada traže regulaciju jer se nalaze zarobljeni u trci. I plaše se ishoda te trke“, kazao je Kokson.

On je naveo da bi najveću opasnost predstavljao „roj botova koji se ponašaju kao superračunar i koji bi mogli da preuzmu internet“, tvrdeći da bi ovaj scenario mogao da postane realan za šest meseci do godinu dana.

Amodei je u tekstu pod nazivom „Moramo da pređemo granicu“ predložio plan od tri tačke za kontrolu veštačke inteligencije koji uključuje nezavisno praćenje modela AI kako se razvijaju, regulaciju na nivou cele industrije i globalnu regulaciju.

Vodeće ličnosti u oblasti veštačke inteligencije godinama upozoravaju na bezbednosnu pretnju koju ova tehnologija predstavlja, a rukovodioci kompanija OpenAI, Google Deepmind i Antropik su na to ukazali još 2023. godine.