{"id":4650,"date":"2024-07-31T08:03:52","date_gmt":"2024-07-31T08:03:52","guid":{"rendered":"https:\/\/citajizmedjuredova.me\/?p=4650"},"modified":"2025-01-22T14:17:09","modified_gmt":"2025-01-22T14:17:09","slug":"crna-gora-pred-izazovom-kako-se-zastititi-od-ai-generisanih-laznih-informacija","status":"publish","type":"post","link":"https:\/\/citajizmedjuredova.me\/?p=4650","title":{"rendered":"Crna Gora pred izazovom \u2013 Kako se za\u0161tititi od AI generisanih la\u017enih informacija?"},"content":{"rendered":"\n

Pi\u0161e: Jelena Nelevi\u0107 Martinovi\u0107<\/strong><\/p>\n\n\n\n

\u0160ta povezuje intervju iskusnog crnogorskog ljekara koji preporu\u010duje neki lijek koji vodi novinarka nacionalnog emitera i \u0111ake koji su masovno na maturskom ispitu ispisivali istovjetan esej?  Pa, vje\u0161ta\u010dka inteligencija (AI).<\/p>\n\n\n\n

Prvobirno kreirana kao alat kojim se olak\u0161ava pristup informacijama, a mo\u017ee da bude i metod za u\u010denje i napredovanje, da se koristi za ure\u0111ivanje, redakturu, pomo\u0107nik je u sakupljanju informacija koje korisnik na kraju, ipak treba da filtrira i koristi.<\/p>\n\n\n\n

S druge strane, donijela je i \u017eestoke manipulacije i doprinijela stvaranju osje\u0107aja nesigurnosti jer vi\u0161e nismo sigurni da li je ta\u010dno ono \u0161to vidimo sopstvenim o\u010dima. Postala je mo\u0107no zloupotrijebljeno oru\u0111e za kreiranje i distribuciju la\u017enih informacija.<\/p>\n\n\n\n

Sadr\u017eaji koje je kreirala AI su realisti\u010dne fotografije, video snimci, a korisnici dru\u0161tvenih mre\u017ea ih bez razmi\u0161ljanja usvajaju kao istinu. Taj la\u017eni sadr\u017eaj je toliko realisti\u010dan da je i ekspertima postalo te\u0161ko da ga do kraja izanaliziraju i proglase neistinitim.<\/p>\n\n\n\n

Prosje\u010dnom korisniku dru\u0161tvenih mre\u017ea i medija je to gotovo nemogu\u0107e, pa \u010dak i ukoliko su medijski pismeni. Za redakcije koje dalje distribuiraju navodno ta\u010dan sad\u017eaj je sli\u010dno \u2013 veliki broj medija nema kapacitete, ekspertizu da sadr\u017eaj analizira.<\/p>\n\n\n\n

Zloupotrebe AI ve\u0107 u Crnoj Gori ima. Tako je pozicija i zvanje biv\u0161eg direktora Doma zdravlja Podgorica dr Danila Joki\u0107a<\/strong> iskori\u0161tena za marketin\u0161ke svrhe, ali i nik\u0161i\u0107kog kardiolog dr Radovan Mijanovi\u0107 <\/strong>koji su navodno davali preporuke za ljekove protiv hipertenzije, \u010di\u0161\u0107enje krvnih sudova, pro\u0161irenih vena ili za pobolj\u0161anje erekcije. Na meti marketin\u0161kih magova i kreatora la\u017enih informacija dr Joki\u0107 je jednom bio i uz kompromitaciju i Javnog Servisa RTCG kada je izmanipulisan intervju iz septembra pro\u0161le godine koji je dao za tu medijsku ku\u0107u.<\/p>\n\n\n\n

Na la\u017enoj stranici<\/a> sa logom RTCG, ali bez prave adrese tog medija,  je objavljena vijest da je dr Joki\u0107 uhap\u0161en jer je navodno kazao da postoji lijek za hipertenziju koji ljekari ne daju pacijentima, te da zbog toga, a ne zbog virusa umire desetine hiljada ljudi. On je u tom tekstu predstavljen i kao glavni specijalista u Centru za bolesti srca i vaskularni hirurg. U tom trenutku, on je bio direktor Doma zdravlja Podgorica, a subspecijalista je za bolesti zavisnosti. Zloupotrijebljena je i novinarka RTCG Julijana \u017dugi\u0107 koja je vodila originalni intervju. Ovaj navodni intervju i tekst i dalje postoje na stranici, sa datumom od 23. jula ove godine.<\/p>\n\n\n\n

Dr Joki\u0107 je nakon \u0161to je iskori\u0161ten nekoliko puta u svrhe la\u017enog marketinga prijavio NN lice Upravi policije, odnosno odjeljenju za borbu protiv sajber kriminala. On je medijima nakon toga kazao da su mu rekli da \u0107e biti te\u0161ko otkriti po\u010dinioce. Od te prijave u novembru 2023. godine do danas, policija nije otkrila prevarante.<\/p>\n\n\n\n

Malo prije toga se pojavio na dru\u0161tvenim mre\u017eama i la\u017eni intervju sa navodnim \u201cdoktorom Du\u0161anom Ze\u010devi\u0107em\u201d koji je \u201crazvio preparat za lije\u010denje pro\u0161irenih vena\u201d, a u okviru kojeg se gra\u0111anima Crne Gore nudi \u201cspecijalni popust\u201d od 50 odsto za kupovinu jednog preparata.<\/p>\n\n\n\n

Dr Mijanovi\u0107 je tako\u0111e, prije osam mjeseci, razgovarao sa novinarima Javnog servisa RTCG, ali ne o problemima sa erekcijom ve\u0107 o svom pozivu i hobijima, \u0161to se mo\u017ee \u010duti u njegovom originalnom gostovanju<\/a> koje postoji na Youtube kanalu RTCG, kada on u emisiji \u201cNa\u0161a ba\u0161tina\u201d govori u studiju. Njegov govor je izmijenjen preko originalnog video zapisa i \u201cpretvoren\u201d u reklamu za preparate. I dr Miljanovi\u0107 je podnio prijavu protiv NN lica. Iako je prijava podne\u0161ena, ta \u201creklama\u201d jo\u0161 uvijek, od 8. marta ove godine postoji na fb stranici \u201cSoft land\u201d<\/a> te on i dalje slu\u017ei za potencijalnu zaradu prevarantima.<\/p>\n\n\n\n

Ukoliko se uporedi originalno gostovanje dr Miljanovi\u0107a i deepfake reklame, mo\u017ee se primijetiti da je glas pro\u0161ao kroz filtere AI, sa druga\u010dijim na\u010dinom govora te postoji na\u010din, za medijski pismene, da shvate o \u010demu je rije\u010d. Me\u0111utim, najve\u0107i dio gledalaca nema vje\u0161tine da prepozna prevaru.<\/p>\n\n\n\n

Takav na\u010din zloupotrebe AI se naziva deepfake. Video zapisi kreirni pomo\u0107u vje\u0161ta\u010dke inteligencije vje\u0161to simuliraju ne\u010diju pojavu ili glas, jer je potrebno svega nekoliko sekundi istinitog audio ili video snimka osobe, na osnovu kojih se konstrui\u0161e la\u017eni iskaz.<\/p>\n\n\n\n

Evropska unija je donijela Zakon o digitalnim uslugama da se bori protiv dezinformacija. Prema tom zakonu, platforme moraju da ubla\u017ee rizik od \u0161irenja dezinformacija i mogu da odgovaraju i da budu nov\u010dano ka\u017enjene.<\/p>\n\n\n\n

Done\u0161en je u EU i Zakon o vje\u0161ta\u010dkoj inteligenciji, koji obuhvata i zahtjev da se ozna\u010de manipulisani video snimci. Me\u0111utim, on jo\u0161 nije stupio na snagu.<\/p>\n\n\n\n

Pitanje upotrebe vje\u0161ta\u010dke inteligencije (AI) u medijima i na dru\u0161tvenim mre\u017eama je odavno problematizovano, ali se \u010dini da je u Crnoj Gori i dalje ta tema daleka.<\/p>\n\n\n\n

Iz Ministarstva kulture i medija (MKM) su kazali da je Akcionim planom za sprovo\u0111enje Medijske strategije predvi\u0111ena priprema Analize o uspostavljanju komunikacije sa globalnim internetskim kompanijama i dru\u0161tvenim mre\u017eama u cilju borbe protiv dezinformacija i govora mr\u017enje.<\/p>\n\n\n\n

\u201eS obzirom da Crna Gora jo\u0161 nije \u010dlanica EU, Digital Service Act Evropske unije, Uredba EU koja ove godine stupa na snagu, a koja se odnosi na obaveze osniva\u010da dru\u0161tvenih mre\u017ea prema dr\u017eavama \u010dlanicama EU, ne va\u017ei i za Crnu Goru. S obzirom na veli\u010dinu na\u0161eg tr\u017ei\u0161ta jedini na\u010din da se u ovoj fazi defini\u0161e odgovornost vlasnika Facebooka i ostalih dru\u0161tvenih mre\u017ea prema na\u0161oj dr\u017eavi je da sa njima tim povodom, za po\u010detak, po\u010dnemo komunikaciju. Isto va\u017ei i za globalne streaming platforme, me\u0111u kojima su i striming platforme videa na zahtjev, poput Netfliksa i HBO-a \u201e, kazali su iz MKM.<\/p>\n\n\n\n

Na to da ima sve manje vremena da Crna Gora uhvati globalni zamajac upozorava Marko Banovi\u0107,<\/strong> analiti\u010dar u Digitalnom forezni\u010dkom centru.<\/p>\n\n\n\n

On smatra da je u pore\u0111enju sa EU, Crna Gora zakasnila sa usvajanjem medijske strategije i novih medijskh zakona minimum \u010detiri, pet godina.<\/p>\n\n\n\n

\u201eSa novom tehnologijom i inovacijom koju donosi AI, Strategija i novi zakoni ne\u0107e dati adekvatan odgovor na novonastale okolnosti u cilju za\u0161titete od zloupotrebe vje\u0161ta\u010dke inteligencije. Ovi dokumenti treba da se a\u017euriraju kako bi se prilagodili realnostima modernog medijskog okru\u017eenja. Tako\u0111e, Crnoj Gori je neophodna posebna strategija za borbu protiv stranog mije\u0161anja i manipulacija informacijama\u201c, kazao je on.<\/p>\n\n\n\n

Ova tema se u Crnoj Gori jo\u0161 uvijek razvija, a postoje\u0107i zakonodavni okvir i Medijska strategija ne adresiraju specifi\u010dne izazove koje AI donosi u pogledu \u0161irenja dezinformacija.<\/p>\n\n\n\n

\u201eRapidni napredak ove tehnologije ne ostavlja puno prostora za \u010dekanje. Donosioci oduka u Crnoj Gori moraj biti svjesni da ne smijemo do\u0107i u situaciju da kasnimo sa uspostavljanjem strate\u0161kog i zakonodavnog okvira vezanog za AI kao \u0161to je to bio slu\u010daj sa borbom protiv dezinformacija i stranog mije\u0161anja\u201c,  naglasio je Banovi\u0107.<\/p>\n\n\n\n

Banovi\u0107 nagla\u0161ava da su u EU i ostatku svijeta, regulacije upotrebe AI-a u medijima i \u0161irenje la\u017enog sadr\u017eaja u razli\u010ditim fazama razvoja. Evropska unija radi na zakonodavstvu koje se bavi AI-om, kao \u0161to je Akt o vje\u0161ta\u010dkoj inteligenciji (AI Act), ali regulisanje \u0161irenja la\u017enih informacija ostaje izazov zbog brzine razvoja tehnologije i na\u010dina na koji se koristi.<\/p>\n\n\n\n

Psiholog i komukolog Radoje Cerovi\u0107<\/strong> isti\u010de va\u017enost medijske pismenosti i ozbiljnom pristupu tom problemu.<\/p>\n\n\n\n

\u201eVeliko je pitanje do koje mjere \u0107emo raznim (za sada smije\u0161no povr\u0161nim) edukacijama o \u201cmedijskoj pismenosti\u201d ikada mo\u0107i da ozbiljno smanjimo prostor za manupilaciju na\u0161im \u010dulima, a time i emocijama, stavovima i pona\u0161anjem\u201e, upozorava Cerovi\u0107.<\/p>\n\n\n\n

Da bi crnogorski mediji bili spremni da se suo\u010de s izazovima koje donosi AI, potrebno je vi\u0161e edukacije, obuke i prilago\u0111avanja zakonodavnog okvira. Kroz medijsku pismenost i odgovaraju\u0107e strategije, mediji mogu pomo\u0107i u borbi protiv \u0161irenja la\u017enih informacija i dezinformacija.<\/p>\n\n\n\n

Marko Banovi\u0107 tako\u0111e isti\u010de da, na\u017ealost, crnogorska medijska scena trenutno nije spremna da se suo\u010di sa izazovom prilago\u0111avanja novim okolnostima.<\/p>\n\n\n\n

 \u201ePitanje spremnosti i obuke medijskih profesionalaca za upotrebu AI kao alata, kao i za borbu protiv zloupotrebe, postaje klju\u010dno. Ova situacija mo\u017ee se vidjeti i kao prilika da mediji postanu edukatori javnosti o rizicima koji proizlaze iz nepravilne upotrebe AI-a i \u0161irenja dezinformacija\u201c, ka\u017ee Banovi\u0107.<\/p>\n\n\n\n

Crnogorski tradicionalni mediji i dalje nijesu preponati kao oni koji \u0161ire la\u017ene vijesti, govor mr\u017enje, misinformacije i sli\u010dno, ali se \u010dini da dru\u0161tvene mre\u017ee sve vi\u0161e zauzimaju prostor koji pripada medijima.<\/p>\n\n\n\n

Na pitanje da li bi mediji zapravo trebalo da budu ti koji \u0107e medijski opismenjavati publiku, prije svega svojom medijskom pismeno\u0161\u0107u, odnosno sposobno\u0161\u0107u da kontro\u0161u AI, da nau\u010de da je koriste kao alat, da je prepoznaju i na neki na\u010din predo\u010de javnosti opasnost, Banovi\u0107 je odgovorio da pove\u0107ana upotreba vje\u0161ta\u010dke inteligencije definitivno predstavlja razlog za zabrinutost.<\/p>\n\n\n\n

\u201eOna omogu\u0107ava manipulaciju informacijama na sofisticiran i te\u0161ko detektibilan na\u010din. Me\u0111utim, vje\u0161ta\u010dka inteligencija istovremeno mo\u017ee biti klju\u010dni alat za borbu protiv dezinformacija. Crnogorski mediji mogu odigrati klju\u010dnu ulogu u obrazovanju javnosti o rizicima koji proizlaze iz AI-a. Tako\u0111e,  mediji mogu koristiti AI kao alat za pobolj\u0161anje svojih sadr\u017eaja i kao pomo\u0107 u detekciji la\u017enog sadr\u017eaja, ali je va\u017eno da budu obu\u010deni i da imaju odgovaraju\u0107e mehanizme za spre\u010davanje zloupotrebe\u201c, ka\u017ee na\u0161 sagovornik.<\/p>\n\n\n\n

On podsje\u0107a da se AI odavno koristi za kreiranje i \u0161irenje manipulacija informacijama, prije svega kroz generisanje la\u017enih vijesti, slika, videa, i audio zapisa.<\/p>\n\n\n\n

\u201eMe\u0111utim, sa dolaskom takozvanih \u201egenerativnih modela\u201c tipa ChatGPT, u\u0161li smo u novu eru vje\u0161ta\u010dke inteligencije koja omogu\u0107ava proizvodnju ogromne koli\u010dine sadr\u017eaja, i vizuelnih i tekstua\u010dnih, koji je veoma te\u0161ko detektovati kao sinteti\u010dki, a samim tim se i izboriti protiv kampanja dezinformacija. Dva dokumentovana slu\u010daja zloupotrebe AI-a u pokazuju koliko je va\u017eno uspostaviti mehanizme za spre\u010davanje \u0161irenja la\u017enih informacija. S obzirom na to da AI mo\u017ee generisati vrlo uvjerljiv sadr\u017eaj, prosje\u010dan korisni \u010desto ne mo\u017ee uo\u010diti razliku izme\u0111u stvarnih i la\u017enih informacija. Ova situacija nagla\u0161ava zna\u010daj digitalne medijske pismenosti i obrazovanja\u201c,  istakao je Banovi\u0107.<\/p>\n\n\n\n

Komunikolog i psiholog Radoje Cerovi\u0107 podsje\u0107a da su ljudi uspjeli da prevare ili hakuju biolo\u0161ke mehanizme i da ih tako zloupotrijebe.<\/p>\n\n\n\n

\u201eNa primjer, kada smo izmislili hemijske droge njima smo \u201chakovali\u201d prirodne motivacione mehanizme u mozgu, a kasnije smo uspjeli da ih zloupotrijebimo za profit. Na\u0161 uro\u0111eni motivacioni mehanizam (tzv \u201cdopaminski put\u201d)  je time \u201cprevaren\u201d. Prirodni mehanizmi kontrole pona\u0161anja nisu napravljeni za heroin ili metamfetamin i njihovim izlaskom na scenu smo dobili mo\u0107ne alate za kontrolu, pa i zlonamjernu, ne\u010dijeg pona\u0161anja\u201c, poja\u0161njava on, prave\u0107i paralelu sa povjerenjem u la\u017ene vijesti koje nijesmo u stanju da prepoznamo.<\/p>\n\n\n\n

Cerovi\u0107 ka\u017ee da na sli\u010dan na\u010din napredni mehanizmi vje\u0161ta\u010dke inteligencije, od kreiranja slika do oblikovanja informacija efikasno \u201chakuju\u201d na\u0161u percepciju realnosti.<\/p>\n\n\n\n

\u201eMi uostalom ka\u017eemo \u201cvidio sam svojim o\u010dima\u201d, \u0161to je do skoro mo\u017eda i imalo smisla. Kako sada da nau\u010dimo da je \u201cvjerovati sopstvenim o\u010dima\u201d neadekvatan sistem kontrole realnosti? Ako oblikujete ulazne podatke na dovoljno uvjerljiv na\u010din i ako pritom koristite emocionale sadr\u017eaje, taj mehanizam je mo\u0107niji od svake hipnoze. Uvjerljiva slika na kojoj je neka scena nasilja, mo\u017ee da pokrene rat. Kreirana realnost mo\u017ee da obri\u0161e iz javnog \u017eivota (ili cancel-uje kako je to danas moderno re\u0107i) neku osobu i njen javni diskurs. U krajnjem sada mo\u017eemo i da u potpunosti \u201ckreiramo\u201d nepostoje\u0107u osobu, koja \u0107e svojom dirigovanom komunikacijom uticati na na\u0161u percepciju realnosti ili na na\u0161e pona\u0161anje\u201c, isti\u010de Cerovi\u0107.<\/p>\n\n\n\n

On nagla\u0161ava da \u0107e svi ovakvi slu\u010dajevi zaobi\u0107i na\u0161e mehanizme \u201ckontrole realnosti\u201d i direktno izazvati predvi\u0111enu reakciju, onu koju \u017eele oni koji imaju namjeru i alate da manipuli\u0161u na\u0161im pona\u0161anjem.<\/p>\n\n\n\n

Ovaj tekst ura\u0111en je uz finansijsku podr\u0161ku Nacionalne zadu\u017ebine za demokratiju. Sadr\u017eaj je isklju\u010divo odgovornost autora i izdava\u010da Instituta za medije Crne Gore i nu\u017eno ne odra\u017eava stavove donatora.<\/em><\/strong><\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Pi\u0161e: Jelena Nelevi\u0107 Martinovi\u0107 \u0160ta povezuje intervju iskusnog crnogorskog ljekara koji preporu\u010duje neki lijek koji vodi novinarka nacionalnog emitera i \u0111ake koji su masovno na maturskom ispitu ispisivali istovjetan esej?  Pa, vje\u0161ta\u010dka inteligencija (AI). Prvobirno kreirana kao alat kojim se olak\u0161ava pristup informacijama, a mo\u017ee da bude i metod za u\u010denje i napredovanje, da se<\/p>\n","protected":false},"author":1,"featured_media":4554,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[59,149,141],"tags":[],"class_list":{"0":"post-4650","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-aktuelnosti","8":"category-blog","9":"category-medijska-pismenost"},"_links":{"self":[{"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/posts\/4650","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=4650"}],"version-history":[{"count":1,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/posts\/4650\/revisions"}],"predecessor-version":[{"id":4651,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/posts\/4650\/revisions\/4651"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/media\/4554"}],"wp:attachment":[{"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=4650"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=4650"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=4650"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}