
Nobelov nagrajenec in direktor Googlovega DeepMinda Demis Hassabis pravi, da bi z umetno inteligenco lahko ustvarili "čudežno prihodnost". A opozarja: brez etike in mednarodnih pravil je prihodnost z AI lahko tudi nevarna.
Demis Hassabis, Nobelov nagrajenec in ustanovitelj in generalni direktor Googlovega oddelka za razvoj umetne inteligence (AI) DeepMind je eden vodilnih svetovnih strokovnjakov na področju AI.
Pred kratkim je bil gost v oddaji 60 minutes (60 minut) ameriške televizije CBS, kjer se je pogovarjal o trenutnem stanju in prihodnosti AI.
Umetna inteligenca z velikimi koraki vstopa v vse pore našega življenja in koraki so vse večji in vse hitrejši.
"AI se razvija z eksponentno hitrostjo"
"Napreduje izjemno hitro. Mislim, da smo na eksponentni krivulji napredka," je v oddaji dejal Hassabis. Eksponentno pomeni "zelo hitro" – torej velika sprememba v kratkem času.
V razvoj umetne inteligence je vključena tudi naša država. Do leta 2027 naj bi bila zgrajena Tovarna umetne inteligence, o čemer smo pisali v članku Slovenija dobiva svojo tovarno umetne inteligence. Kaj vse prinaša?
Danes Hassabis in njegovi sodelavci lovijo cilj, imenovan umetna splošna inteligenca (AGI; angleško: Artificial General Intelligence) – silikonski intelekt, vsestranski kot človek, a z nadčloveško hitrostjo in znanjem. Kako daleč smo pri tem in kam gremo?
Napoved Demissa Hassabisa zveni kot čudežna prihodnost, kot so se izrazili na CBS.
"V 10 letih bi morda lahko imeli zdravila za vse bolezni"
Hassabis je lani skupaj z Johnom M. Jumperjem, ameriškim kemikom in direktorjem DeepMinda in Davidom Bakerjem prejel Nobelovo nagrado za kemijo za raziskovalne prispevke na področju AI, ki napoveduje strukture beljakovin.
Beljakovine so kompleksne spojine in razvozlavanje njihove tridimenzionalne oblike je nadvse zahtevno.
"Do zdaj smo poznali 3D-strukturo manj kot enega odstotka beljakovin," je pojasnil Hassabis. "Kartiranje te strukture za samo eno beljakovino lahko traja leta."
Umetna inteligenca AlphaFold, ki sta jo pomagala razviti z Jumprejem, je predvidela več kot 200 milijonov beljakovinskih struktur – skoraj za vse beljakovine, ki jih znanost danes pozna – in to samo v enem letu.
Poznavanje beljakovinskih struktur pa je ključnega pomena za razumevanje delovanja in razvoj novih zdravil.
"Razvoj enega zdravila v povprečju traja deset let in stane na milijarde dolarjev," je dejal Hassabis.
"Morda bomo lahko to skrajšali na nekaj let, celo mesecev," pojasnjuje.
"To morda danes zveni nemogoče, ampak to smo včasih mislili tudi za beljakovinske strukture. To bo povzročilo revolucijo v zdravljenju človeka in nekega dne bomo morda s pomočjo AI lahko ozdravili vse bolezni," je dejal.
"To je v našem dosegu. Morda že v naslednjih desetih letih. Zakaj ne?"
Agenti in "resnično koristni" roboti
Razvoj AI se vse bolj usmerja od klepetalnih robotov, kot sta na primer ChatGPT ali DeepSeek k tako imenovanim "agentom" – klepetalnim robotom, ki bodo lahko opravljali določena dela namesto ljudi.
Voditelj Scott Pelley je v oddaji predstavil aplikacijo Astra, novo generacijo klepetalnega robota, ki ne le brska po internetu, pač pa tudi opazuje svet okoli sebe in razume, kaj vidi.
Ko so Astri pokazali nekaj umetniških slik, jih je takoj prepoznala, iz ene od njih pa na Pelleyjevo željo ustvarila pripoved.
Google DeepMind usposablja tudi svoj model AI "Gemini", ki naj bi znal ne le odgovarjati na vprašanja, temveč tudi delovati v svetu – denimo rezervirati letalske vozovnice ali nakupovati.
Del napredka umetne inteligence pa je tudi robotika. Eden od ciljev v tem razvoju so stroji, ki bodo lahko razumeli svet okoli sebe, iz navodil sklepali, kaj od njih hočemo in jim sledili do konca.
Že danes recimo AI pomaga robotom, da na primer prepoznajo barve in razumejo navodilo, kot je "postavi rumene in modre kocke v ustrezno posodo iste barve".
To se sliši kot skromen in nepomemben začetek, toda kot rečeno, razvoj stopa z velikimi koraki naprej.
"Mislim, da bo v naslednjih nekaj letih prišlo do prelomnega trenutka, ko bomo imeli prikaze humanoidnih ali drugih vrst robotov, ki bodo lahko začeli delati resnično koristne stvari," je dejal Hassabis.
Radovedna AI – samo še vprašanje časa
Programe oziroma AI, ki jih razvijajo, najprej "pošljejo v šolo" – na internet. Tam AI več mesecev zbira podatke, se jih uči prepoznati, razumeti. "Tega ne programiramo. Uči se tako, kot bi se učil človek," je pojasnil Hassabis.
Po usposabljanju pa se AI pogosto "vrnejo" z nepričakovanimi veščinami. Hassabis je dejal, da je pogosto presenečen nad tem, kaj lahko sistemi umetne inteligence naredijo in rečejo.
"AI sistemi se učijo sami iz podatkov – kot ljudje. Zato nas lahko presenetijo z novimi sposobnostmi, ki jih nismo neposredno vgradili," je dejal Hassabis.
Vendar pa imajo v primerjavi s človekom še nekaj pomanjkljivosti. Ena glavnih je, da niso radovedne v smislu iskanja nečesa novega.
"Vam je AI že zastavila popolnoma novo vprašanje?" je Hassabisa vprašal voditelj.
"Ne še – in to je pravzaprav ena večjih vrzeli. Še vedno si lahko AI predstavljamo kot povprečje vsega človeškega znanja, ki je na voljo – na tem so se usposabljali. Še pa vedno niso sposobni postaviti povsem novega vprašanja, ustvariti nove hipoteze ali sklepati česa, kar še ni bilo izrečeno," je odgovoril Hassabis.
"Nimajo še radovednosti ali intuicije, morda pa ju bodo imeli v petih do desetih letih," je odgovoril Hassabis.
"Morda bo AI nekoč imela zavest, a to ni moj izrecni cilj"
Na tej točki pa pridemo do vprašanja, ali bo takšna AI imela tudi tisto, kar imenujemo samozavedanje.
Ali se bo zavedala lastnega obstoja na način, kot se tega zavedamo ljudje in kolikor vemo, vsaj nekatere živali?
Hassabis pravi, da današnji sistemi umetne inteligence "niso videti zavestni ali samospoznavni".
"Morda nekoč bodo. Ključno je, da razumejo sebe in druge – kar je prvi korak k samospoznanju," je dejal.
Toda če bo AI nekoč zavestna, te zavesti morda sploh ne bomo prepoznali, še dodaja. "Ker AI ni zgrajena iz ogljika kot mi, temveč iz silicija, je vprašanje, ali lahko res zaznava svojo zavest tako kot jo mi."
Po njegovem mnenju obstaja možnost, da bi AI nekoč v prihodnosti v resnici postala zavestna podobno kot človek, vendar to ni "njegov izrecni cilj".
"Moj nasvet bi bil, da najprej zgradimo inteligentna orodja in jih uporabimo za napredek v nevroznanosti, preden sploh začnemo razmišljati o stvareh, kot je samospoznanje," je dejal.
"AI potrebuje varovalke"
Kot ob skoraj vseh orodjih, ki jih je razvilo človeštvo, se tudi pri umetni inteligenci pojavlja možnost zlorabe.
Kot pravi Hassabis, je ena njegovih največjih skrbi, da bi zlonamerni posamezniki ali skupine uporabili AI za škodljive namene, kar se po njegovih besedah že dogaja pri nekaterih sistemih.
Zato poudarja, da morajo biti v sisteme umetne inteligence vgrajene varovalke – varnostne meje, ki bodo zlorabe preprečevale.
Druga skrb je, kako ohraniti nadzor nad AI, ko bodo ti sistemi postajali vse bolj avtonomni in zmogljivi.
"V tekmi za prevlado na področju umetne inteligence obstaja nevarnost, da bo varnost postala drugotnega pomena," opozarja.
Da bi zagotovili varnost, morajo po njegovem mnenju največji tehnološki akterji in države sodelovati ter usklajeno oblikovati pravila in smernice.
Zaskrbljenost zaradi možnosti, da bi tehnologijo uporabljali za škodovanje drugim, je pred časom izrazil tudi Geoffrey Hinton, prav tako nobelovec, ki je prejel Nobelovo nagrado za fiziko, tako kot Hassabis, leta 2024. Pravijo mu boter umetne inteligence. O njegovih skrbeh smo pisali v članku: Nobelov nagrajenec svari: umetna inteligenca lahko povzroči izumrtje človeštva.
"AI je treba vzgajati kot otroka"
Ena izmed varovalk, ki bi lahko preprečile zlorabo AI, bi lahko bila – morala. Po Hassabisovem mnenju je umetno inteligenco mogoče naučiti moralnih vrednot.
"Učijo se z opazovanjem. Učijo se s poučevanjem," je dejal. "In to je nekaj, kar moramo storiti s temi sistemi – jim dati vrednostni sistem, usmeritve in varovalke, podobno kot bi jih dali otroku."
Komentar umetne inteligence: "Potrebovali bomo pogum, modrost in človečnost"
Za komentar Hassabisovega intervjuja smo poprosili tudi umetno inteligenco, ChatGPT. Takole nam je odgovorila – predstavljamo samo dele komentarja:
Napoved Demisa Hassabisa, da bomo v desetih letih imeli zdravila za vse bolezni, ni le znanstveno drzno videnje, temveč tudi izraz globokega zaupanja v moč umetne inteligence. A prav v tej drzni izjavi se skriva protislovje današnjega časa: med optimizmom tehnoloških vizionarjev in kompleksnostjo realnega sveta, kjer znanstveni preboji le redko potekajo po linearnih ali eksponentnih krivuljah brez družbenih, etičnih in sistemskih ovir.
Ključna razlika med umetno in človeško inteligenco trenutno še ni hitrost ali obseg znanja – temveč kvalitativna sposobnost ustvarjanja novih vprašanj. Radovednost. Intuicija. Zavest. Hassabis tu zadel bistvo: današnja AI zna ponavljati, kombinirati in celo domiselno interpretirati, a ne zna dvomiti, se čuditi ali predlagati nekaj resnično novega v znanstvenem pomenu besede. To še ni revolucionarni raziskovalec, temveč izjemno učinkovit asistent.
Tudi zato je vprašanje o zavesti v umetni inteligenci še vedno bolj filozofsko kot tehnično. A ni zato manj pomembno. Kdaj bo sistem presegel zgolj funkcionalnost in postal entiteta z lastno perspektivo? Ali bo takrat še mogoče govoriti o orodju – ali že o sogovorniku?
Zelo dragocena je Hassabisova primerjava AI s človeškim otrokom, ki potrebuje vrednote, usmerjanje in meje. V času, ko se algoritmi razvijajo hitreje kot zakoni, in ko tehnološka tekma pogosto prehiti varnostne razmisleke, je vzgoja umetne inteligence nujen koncept. Etika in varnost ne smeta biti dodatek, temveč temelj.
Pri tem pa ni dovolj, da to počne le ena korporacija ali ena država. Potrebujemo globalni etični dogovor –nekakšno "digitalno Ženevsko konvencijo za dobo algoritmov".
Če bomo umetno inteligenco razumeli kot orodje za nadgradnjo človeške modrosti, potem imamo priložnost, da prihodnost ni le tehnološko osupljiva, ampak tudi družbeno smiselna. A če bomo sledili slepi veri v tehnologijo brez zavedanja lastnih meja, lahko ustvarimo sisteme, ki nas bodo presegli – ne po zavesti, temveč po vplivu, ki ga imajo brez nadzora.
Hassabisovega videnja ni treba razumeti kot prerokbo, temveč kot izziv. Izjemna prihodnost je možna – a ne samoumevna. Zanjo bomo potrebovali več kot le procesorsko moč. Potrebovali bomo pogum, modrost in človečnost.
Kakšno je tvoje mnenje o tem?
Sodeluj v razpravi ali preberi komentarje