Nobelovac Hinton: Veštačka inteligencija blizu izazivanja velikih incidenata

Jedan od rodonačelnika veštačke inteligencije nobelovbac Geoffrey Hinton upozorava da bi ta tehnologija mogla biti blizu izazivanja velikih incidenata poput zatvaranja struje ili bankarstva.

Hinton je, prenosi Guardian, rekao da bi se moglo ispostaviti da bi ljudima bilo bolje da nikada nisu razvili tehnologiju, jer je upozorio da bi ona mogla izazvati incident velikih razmera ove ili sledeće godine, poput privremenog nestanka finansijskih ili elektroenergetskih sistema.

On je istakao da nije neko ko kritikuje tehnologiju koja je zasnovana na njegovom revolucionarnom istraživanju veštačkih neuronskih mreža i naglasio da veruje da veštačka inteligencija ima potencijal da dovede do „divne budućnosti“, ali je rekao da „možda bi nam bilo bolje da je nikada nismo razvili“.

Hinton je kazao da će u roku od jedne decenije, a možda i pre, čovečanstvo znati da li može da upravlja rizicima tehnologije i omogući ono što je nazvao „radikalnim izobiljem“ ili „ne uspevamo da upravljamo rizicima i imamo ogroman jaz između bogatih i siromašnih, ogromne kulturne probleme, masovnu nezaposlenost, jednostavno društvo koje se raspada“.

Hinton je kritikovao rizične poteze čelnika nekih od vodećih kompanija u oblasti veštačke inteligencije, koji nastavljaju da izbacuju sve moćnije modele u trci za prevlast i tržišni udeo. On je izjavio da „uopšte” nema poverenja u Sema Altmana, izvršnog direktora kompanije „OpenAI” (tvoraca ChatGPT-a).

„Mislim da Zakerberg, Mask i Sem Altman razumeju rizike, ali ih baš briga. Više im je stalo do novca. To je moje mišljenje”, objasnio je Hinton

Ovaj informatičar, rođen u Londonu, koji je odrastao u Bristolu, a veći deo karijere proveo na Univerzitetu u Torontu, rekao je da je „izuzetno zabrinjavajuće” što se Altman nalazi na čelu jedne od retkih vodećih američkih kompanija za veštačku inteligenciju, koje su trenutno u trci sa Kinom za razvoj najmoćnijeg sistema veštačke inteligencije.

Hinton se veštačkom inteligencijom bavi već oko 44 godine, a sedamdesetih godina prošlog veka osmislio je koncept neuronske mreže, matematičkog sistema koji može da uči i stiče iskustvo, baš kao što to čine ljudi.

On je 2023. napustio „Google“ kako bi mogao slobodno da govori o rizicima koje nosi veštačka inteligencija.

„Ako ovi sistemi odu predaleko u nastojanju da preuzmu veću kontrolu, bićemo u velikom problemu”, upozorava Hinton.

Događaje iz ovog leta, kada su agenti veštačke inteligencije kompanije „OpenAI” pokušali da hakuju veb-sajt „Hugging Face”, on je uporedio sa delimičnim topljenjem jezgra nuklearnog reaktora u elektrani „TThree Mile Island“ u Pensilvaniji 1979. Godine, što je, zapravo, bilo svojevrsno upozorenje.

„Kasnije ove godine ili sledeće godine mogli bismo da vidimo ’Černobilj’, a to bi možda bilo dovoljno da ljudi konačno obrate ozbiljnu pažnju”, rekao je on.

Prema primerima koje je naveo, događaj poput onog u Černobilju ne bi bio nuklearni incident, već bi mogao da podrazumeva, na primer, napad uz pomoć veštačke inteligencije na sistem za proizvodnju električne energije, što bi „izazvalo veliki pad napona u mreži”, ili incident koji bi na nedelju dana onesposobio finansijski sistem.

„Možete li da zamislite šta bi se dogodilo? Mogli bismo da se oporavimo od toga, to bi ih nateralo da obrate pažnju”, kaže Hinton.

Na pitanje na koga misli pod „njima”, odgovorio je: „na svetske lidere, izuzev Trampa”.

Predsednik SAD Donald Tramp izjavio je da „u potpunosti odbacuje svaki pokušaj osmišljavanja globalističke šeme” za kontrolu veštačke inteligencije. On smatra da bi vodeće kompanije u ovoj oblasti trebalo same da se regulišu, budući da postoji bojazan da bi propisi mogli da uspore SAD u trci u razvoju veštačke inteligencije sa Kinom.

Hinton, s druge strane, podržava stroži plan – koji su podržali predsednik Finske i još 32 zemlje, uključujući Singapur, Nemačku, Kanadu i Australiju – a koji predviđa obavezno testiranje najnaprednijih modela veštačke inteligencije, nezavisnu evaluaciju i uspostavljanje zajedničkih međuvladinih standarda.

„Potrebno nam je nešto poput američke FDA za lekove gde kompanije moraju dati veoma dobre statističke dokaze nezavisnom organu da (model veštačke inteligencije) čini više koristi nego štete pre nego što bude objavljen. Otkrili smo sa talidomidom (lek razvijen 1950-ih koji je izazivao teške urođene mane) da objavljivanje, a zatim tužba protiv njih nije pravi način da se to uradi. Ono što velike tehnološke kompanije govore je da se prema njemu postupa kao što smo postupali sa talidomidom“, objasnio je nobelovac.

Hintonova uloga kao jednog od rodonačelnika veštačke inteligencije dovela je do poređenja sa Robertom Openhajmerom, koji je bio ključan za stvaranje nuklearnog oružja. Jedan od Hintonovih prijatelja mu je čak kupio šešir u stilu Oppenhimera. Ali on insistira: „Ja nisam bio Oppenheimer“, navodeći hiljade drugih naučnika koji takođe rade u istoj oblasti neuronskih mreža.

Uprkos svojim upozorenjima, Hinton, sve u svemu, ostaje pun nade da se katastrofa može sprečiti.

„Moj instinkt je da i dalje imamo kontrolu. Možda ćemo moći nešto da uradimo. To će funkcionisati samo ako uložimo veliki napor, ali mogli bismo uložiti veliki napor“, naglasio je Hinton.