Popović Bugarin, koja između ostalog predaje i vještačku inteligenciju, ocijenila je da je neophodna potpuna digitalizacija i uvezanost sistema, kao i odgovoran pristup razvoju aplikacija kako bi se u potpunosti iskoristile prednosti AI. Prema njenim riječima, ključni izazovi uključuju eliminaciju pristrasnosti u podacima i očuvanje privatnosti korisnika.
– AI je zaista moćno, možemo slobodno reći oružje, čija zloupotreba može imati dalekosežne posljedice. Nije AI opasna sama po sebi, opasna je u rukama loših ili neodgovornih ljudi, a opasnost je još veća ukoliko se primijeni u sredini u kojoj vladaju strah od njene upotrebe i neznanje. Moje mišljenje je da je najbolja odbrana od moguće zloupotrebe u upoznavanju sa AI, poručila je Popović Bugarin.
• Da li smatrate da se propisi u Crnoj Gori, prije svega o zaštiti podataka i sigurnosti informacionog sistema, dovoljno brzo prilagođavaju tehnološkim promjenama?
– Po mojim saznanjima, Crna Gora je usvojila Zakon o zaštiti podataka o ličnosti, kao i Zakon o informacionoj bezbjednosti, koji je tokom godina pretrpio niz izmjena i usklađivanja. Takođe, radi se na usklađivanju zakonodavstva sa evropskim standardima, poput Opšte uredbe o zaštiti podataka (GDPR) i Direktive o sigurnosti mrežnih i informacionih sistema (NIS direktiva). To svakako predstavlja važan korak ka modernizaciji pravnog okvira. Međutim, ključni izazov leži u implementaciji. Čak i u Evropskoj uniji, gdje su ovi standardi usvojeni, postoje razlike u njihovom sprovođenju zbog varijacija u nivou digitalne razvijenosti među zemljama članicama. Ako tome dodamo činjenicu da u Crnoj Gori imamo opšti problem sa sprovođenjem zakona, uključujući i osnovne zakone poput saobraćajnih, postoji opravdana bojazan da će i ova oblast biti prepuštena na individualnu odgovornost.
Naše zakonodavstvo, iako često usklađeno sa međunarodnim standardima, pati od slabe implementacije i nedostatka stroge kaznene politike. Bez jasne strategije za nadzor i primjenu propisa, kao i bez izgradnje kapaciteta za njihovu efikasnu primjenu, teško je očekivati značajan napredak. U ovom slučaju, potrebna je ne samo odgovarajuća regulativa već i ulaganje u edukaciju i podizanje nivoa svijesti građana i institucija. Dakle, iako je pravni okvir važan, njegova snaga leži u dosljednoj i odgovornoj primjeni, bez čega čak i najbolji zakoni ostaju samo mrtvo slovo na papiru. Pravna regulativa je samo prvi korak, ključ uspjeha leži u njenoj efikasnoj primjeni i prilagođavanju promjenama u tehnologiji i društvu.
• U Crnoj Gori je možda najvidljivija zloupotreba AI kada je u pitanju dipfejk (deepfake), kada internet oglasi koriste AI, repliciraju lice i glas osoba iz javnog života, kako bi naveli građane da kupe neki, najčešće medicinski proizvod ili ulože novac u prevarne šeme za zaradu. Da li postoji rješenje koje bi zaustavilo ovakve prevare?
– Zloupotreba vještačke inteligencije, posebno dipfejk tehnologije, za prevare i manipulaciju građanima predstavlja sve veći izazov, ne samo u Crnoj Gori već i globalno. Rješavanje ovog problema zahtijeva multidisciplinaran pristup koji uključuje tehničke, pravne i edukativne mjere, kao i razvoj kritičke svijesti među građanima. U našem društvu prioritet bi trebalo da budu edukativne mjere, jer su najlakše ostvarive. Ključno je kontinuirano edukovati građane o rizicima dipfejk tehnologije i načinima prepoznavanja manipulativnih sadržaja. Informativne kampanje mogu upozoriti javnost na uobičajene prevare, poput oglasa koji koriste replicirane glasove i lica poznatih osoba. Takođe, obuka zaposlenih u ključnim institucijama – medijima, pravosuđu i policiji – omogućila bi efikasniji odgovor na ovakve prijetnje. Osim edukacije, razvoj kritičke svijesti kod građana je od presudnog značaja. Ljudi moraju biti podstaknuti da ne vjeruju automatski u sve što im se prezentuje, već da informacije provjeravaju iz više izvora.
Sljedeći korak bio bi razvoj tehničkih rješenja. To uključuje alate za detekciju dipfejk sadržaja, koji zahtijevaju znatna ulaganja, ali bi mogli biti od velike koristi za medije, institucije i širu javnost. Takođe, implementacija sigurnosnih mjera na digitalnim platformama mogla bi pomoći u automatskoj detekciji i uklanjanju lažnih sadržaja. Pravna regulacija je još jedan ključni element. Potrebno je usvojiti zakone koji eksplicitno kriminalizuju zloupotrebu AI, uključujući dipfejk tehnologiju, i omogućiti stroge sankcije za prevarante. S obzirom na globalnu prirodu ovog problema, važno je sarađivati s tehnološkim kompanijama i državama koje prednjače u regulaciji AI. Takođe, potrebno je povećati ulaganja u projekte usmjerene na zaštitu od zloupotreba, s naglaskom na etičke i pravne aspekte.
Kao neko ko je svoje istraživanje i profesionalni angažman posvetio AI, smatram da, uz pravilno korišćenje, AI može donijeti izuzetno veliku korist našem društvu. Ne treba bježati od razgovora o njenoj zloupotrebi – naprotiv. Edukacijom ćemo postati svjesni mogućnosti zloupotreba, ali i načina za njihovo prepoznavanje i sprečavanje. Ključni izazov ostaje balansiranje između korištenja AI za napredak i zaštite društva od potencijalnih zloupotreba.
• U kojoj mjeri nizak nivo digitalne pismenosti i obučenosti kadrova u Crnoj Gori otežava institucijama i kompanijama da iskoriste prednosti AI?
– Nizak nivo digitalne pismenosti i obučenosti kadrova znatno otežava institucijama i kompanijama da iskoriste prednosti AI. Ovo se posebno osjeća u sektorima koji nisu IT orijentisani, gdje pomaci u digitalizaciji i automatizaciji često zaostaju za potrebama tržišta. Teško je očekivati od zaposlenih da sami rade na svom usavršavanju u ovim oblastima, a postavlja se i pitanje infrastrukture sa kojom institucije i kompanije raspolažu. Ja nemam uvid u stanje po ovom pitanju u Crnoj Gori, osim kroz usluge koje koristim i kao ispitanik u jednoj studiji UNDP-a. Kada su u pitanju kompanije koje nijesu IT orijentisane, kao i institucije, čini mi se da je tu nivo digitalizacije često manji od neophodnog za optimizaciju poslovnih procesa na svakodnevnom nivou, a da ne govorimo o osposobljavanju kadra da prepozna mogućnost za primjenu alata AI u svakodnevnim poslovnim procesima. Razlozi za ovakvo stanje mogu biti višestruki: nedostatak finansiranja u digitalizaciju procesa, otpor zaposlenih prema promjenama, strah od gubitka radnog mjesta usljed smanjenja manuelnih poslova ili nedostatak sistemske podrške za edukaciju.
Digitalna pismenost mora postati osnovni preduslov za svakog zaposlenog, dok temeljno poznavanje AI treba da bude rezervisano za tehničke kadrove. Cilj bi trebalo da bude da svi zaposleni budu dovoljno obučeni da koriste AI alate u svom domenu rada, čime bi se povećala efikasnost, smanjila mogućnost grešaka i otvorila vrata ka inovacijama.
