{"id":4618,"date":"2024-07-19T11:14:53","date_gmt":"2024-07-19T11:14:53","guid":{"rendered":"https:\/\/citajizmedjuredova.me\/?p=4618"},"modified":"2024-09-26T11:36:48","modified_gmt":"2024-09-26T11:36:48","slug":"eticki-izazovi-vjestacke-inteligencije","status":"publish","type":"post","link":"https:\/\/citajizmedjuredova.me\/?p=4618","title":{"rendered":"Eti\u010dki izazovi vje\u0161ta\u010dke inteligencije"},"content":{"rendered":"\n

Izvor:\u00a0Umjetna inteligencija u obrazovanju \u2013 edukativni priru\u010dnik o primjeni umjetne inteligencije u u\u010denju i pou\u010davanju za u\u010ditelje, nastavnike i stru\u010dne suradnike u \u0161kolama<\/em><\/a>\u00a0(Udruga Suradnici u u\u010denju, Agencija za elektroni\u010dke medije i Ured UNICEF-a za Hrvatsku, Zagreb, 2024.)<\/p>\n\n\n\n

Kori\u0161\u0107enje ve\u0161ta\u010dke inteligencije u obrazovanju pra\u0107eno je nizom eti\u010dkih problema, kao \u0161to su pitanja privatnosti i bezbijednosti, potencijalne pristrasnosti u algoritmima, kao i mogu\u0107nost zamjene nastavnika automatizacijom procesa podu\u010davanja. Stoga je va\u017eno obezbijediti da se vje\u0161ta\u010dka inteligencija koristi na odgovoran i eti\u010dki na\u010din u obrazovnim okru\u017eenjima.<\/p>\n\n\n\n

Ovim poglavljem [iz gore pomenutog priru\u010dnika, op. ur.] \u017eelimo podi\u0107i nivo svijesti o rizicima povezanim sa vje\u0161ta\u010dkom inteligencijom, podsta\u0107i kriti\u010dke poglede na vje\u0161ta\u010dku inteligenciju i podsta\u0107i uravnote\u017eeno razmi\u0161ljanje o konkretnim prednostima i mogu\u0107nostima koje donosi vje\u0161ta\u010dka inteligencija, kao \u0161to je predlo\u017eeno u UNICEF-ovom izvje\u0161taju \u201cPerspektive adolescenata o vje\u0161ta\u010dkoj inteligenciji\u201d<\/a> (Adolescent Perspectives on Artificial Intelligence). UNESCO u \u201cPreporukama za vje\u0161ta\u010dku inteligenciju<\/a>\u201d (UNESCO Recommendation on the Ethics of Artificial Intelligence, 2021) isti\u010de da vje\u0161ta\u010dka inteligencija pokre\u0107e nove vrste eti\u010dkih pitanja, uklju\u010duju\u0107i uticaj vje\u0161ta\u010dke inteligencije na obrazovanje, \u010dime se stvaraju novi eti\u010dki izazovi zbog potencijala algoritama vje\u0161ta\u010dke inteligencije da pogor\u0161aju ve\u0107 postoje\u0107e pristrasnosti i diskriminaciju. Prepoznavanje obrazaca i automatizacija odluka karakteristi\u010dne su aktivnosti vje\u0161ta\u010dke inteligencije koje u procesu razvoja sistema vje\u0161ta\u010dke inteligencije mogu dovesti do pristrasnosti u na\u010dinu na koji se obrasci prepoznaju i nepravednosti u na\u010dinu na koji se odluke automatizuju.<\/p>\n\n\n\n

Nekoliko primjera eti\u010dkih izazova\u00a0<\/strong><\/p>\n\n\n\n

Pojasnimo neke od eti\u010dkih izazova vje\u0161ta\u010dke inteligencije koji su ve\u0107 primije\u0107eni i dokumentovani u raznim istra\u017eivanjima i \u010dlancima, a prepoznati su i kao rizici u UNICEF-ovom izvje\u0161taju. Vje\u0161ta\u010dka inteligencija nije \u010dovjek. Iako odgovori koje dobijamo ili razgovori koje vodimo sa sistemima vje\u0161ta\u010dke inteligencije mogu stvoriti iluziju komunikacije sa \u017eivom osobom, sa druge strane je ra\u010dunar koji ne mo\u017ee da osje\u0107a, nije empati\u010dan i nema inteligenciju kao \u0161to je imaju ljudi.<\/p>\n\n\n\n

Pristrasnost (bias) je tendencija ka odre\u0111enom stavu ili mi\u0161ljenju, \u010desto bez obzira na dokaze ili argumente. Mo\u017ee biti inherentna predispozicija algoritma ili modela da donosi pogre\u0161ne ili neobjektivne zaklju\u010dke. Na primjer, odbacivanje \u017eenskih kandidatkinja za neki posao jer su prethodni zaposleni bili ve\u0107inom mu\u0161karci, pa baza podataka koja je kori\u0161\u0107ena za obu\u010davanje vje\u0161ta\u010dke inteligencije sadr\u017ei uglavnom podatke o mu\u0161kim zaposlenima. Pristrasnost je primje\u0107ena i u programima koji pomo\u0107u vje\u0161ta\u010dke inteligencije stvaraju slike \u2013 direktori su uvek prikazani kao mu\u0161ke osobe, a \u010dista\u010di kao \u017eenske osobe.<\/p>\n\n\n\n

Za\u0161tita podataka je proces obezbje\u0111ivanja da se podaci \u010duvaju na siguran na\u010din kako bi se sprije\u010dilo neovla\u0161\u0107eno pristupanje ili zloupotreba. Prilikom stvaranja programa vje\u0161ta\u010dke inteligencije koriste se velike baze podataka iz razli\u010ditih izvora, tako da postoji mogu\u0107nost zloupotrebe li\u010dnih podataka dobijenih na nelegalan na\u010din (prikupljeni su i kori\u0161\u0107eni bez znanja i saglasnosti osoba na koje se odnose). Na primjer, dijeljenjem u\u010deni\u010dkih radova ili podataka prikupljenih istra\u017eivanjem, tj. stavljanjem tu\u0111ih podataka i informacija u sisteme vje\u0161ta\u010dke inteligencije, mo\u017eemo prekr\u0161iti zakon o za\u0161titi li\u010dnih podataka. Tako\u0111e, postoji mogu\u0107nost da bez dozvole dijelimo podatke koje sistem vje\u0161ta\u010dke inteligencije mo\u017ee iskoristiti za dalji razvoj, pa se tako ti sadr\u017eaji mogu pojaviti u odgovorima koje sistem daje potpuno nevezano za na\u0161 rad. Uspje\u0161nost sistema vje\u0161ta\u010dke inteligencije u analiziranju i vizualizaciji podataka mo\u017ee nas podsta\u0107i da nesmotreno u sistem unesemo podatke koje ne bismo smjeli, na primer prepoznatljive karakteristike na\u0161ih u\u010denika, poslovne tajne ili podatke koje smo prikupili uz dozvolu koja ne obuhvata kori\u0161\u0107enje vje\u0161ta\u010dke inteligencije.<\/p>\n\n\n\n

Podatkovizacija (datification) se odnosi na na\u010din na koji se sve vi\u0161e aspekata na\u0161ih \u017eivota, aktivnosti i okru\u017eenja pretvara u digitalne podatke, te na proces preoblikovanja podataka u format pogodan za dalju analizu. Ra\u010dunarski sistemi rade sa podacima u digitalnom obliku, pa je pitanje mogu li se svi aspekti na\u0161ih \u017eivota preoblikovati u podatke i na koji na\u010din se ti podaci dalje koriste za dono\u0161enje odluka u sistemima vje\u0161ta\u010dke inteligencije. Na primjer, na\u010din na koji vje\u0161ta\u010dka inteligencija prepoznaje emocije.<\/p>\n\n\n\n

Sistemi vje\u0161ta\u010dke inteligencije \u010desto se koriste za predvi\u0111anja (predictions) budu\u0107ih rezultata ili doga\u0111aja, kao \u0161to su uspjeh na ispitima, napu\u0161tanje \u0161kolovanja, rizik od oboljenja, itd. Pouzdanost i ta\u010dnost takvih predvi\u0111anja zavisi od algoritama i skupova podataka na kojima su sistemi vje\u0161ta\u010dke inteligencije trenirani. Na primjer, ako su predvi\u0111anja osmi\u0161ljena na osnovu podataka o u\u010denicima iz ameri\u010dkih \u0161kola, vjerovatno taj sistem ne\u0107e davati dobra predvi\u0111anja za u\u010denike iz \u0161kola u Srbiji ili Hrvatskoj.<\/p>\n\n\n\n

Personalizacija i prilago\u0111avanje (adaptivity) su u\u010destali pojmovi kojima se opisuju mogu\u0107nosti sistema vje\u0161ta\u010dke inteligencije, a odnose se na sposobnost sistema da prati korisni\u010dke podatke i postupke (npr. izbor sadr\u017eaja, ta\u010dnost re\u0161avanja zadataka i sl.) i na osnovu prikupljenih podataka predla\u017ee obrazovne sadr\u017eaje i prilago\u0111ava nivo slo\u017eenosti zadataka. Na taj na\u010din se stvara rizik zatvaranja u informacijski balon, gdje nam sistem servira samo one sadr\u017eaje koji su u skladu sa na\u0161im dotada\u0161njim postupcima, \u0161to ograni\u010dava slobodan izbor i istra\u017eivanje. Prilago\u0111avanje slo\u017eenosti zadataka koje u\u010denici dobijaju mo\u017ee dovesti do blokade napredovanja, jer u\u010denici ne dobijaju priliku da rje\u0161avaju te\u017ee zadatke koji su van okvira koji sistem vje\u0161ta\u010dke inteligencije prepoznaje.<\/p>\n\n\n\n

Vje\u0161ta\u010dka inteligencija grije\u0161i (halucinira). Sistemi vje\u0161ta\u010dke inteligencije su osmi\u0161ljeni na modelima vjerovatno\u0107e i statistike, pa kao takvi daju odgovore koji su najvjerovatniji za dati kontekst. Stoga se mo\u017ee desiti da, u nedostatku ta\u010dnog odgovora, sistem ponudi potpuno neta\u010dan odgovor, \u010dak tvrde\u0107i da je upravo taj odgovor ta\u010dan. Na primjer, \u010desto se de\u0161avaju gre\u0161ke u matematici, srpskoj ili hrvatskoj istoriji, itd. Ako neko podru\u010dje nije pokriveno skupom podataka na kojem je sistem treniran, gre\u0161ke \u0107e biti u\u010destalije. Treba imati na umu da je ve\u0107ina dana\u0161njih sistema vje\u0161ta\u010dke inteligencije trenirana na sadr\u017eajima sa engleskog govornog podru\u010dja, pa sistemi \u010de\u0161\u0107e grije\u0161e kada je re\u010d o sadr\u017eajima dostupnim na drugim jezicima.<\/p>\n\n\n\n

Vje\u0161ta\u010dki stvorene la\u017ene slike i videozapisi su digitalno manipulirani medijski sadr\u017eaji koji su namjerno stvoreni kako bi prevarili ili obmanuli gledaoce da vjeruju kako su stvarni. Vje\u0161ta\u010dka inteligencija se pokazala kao dobar alat za stvaranje uvjerljivih falsifikata, koji se sve \u010de\u0161\u0107e koriste za dovo\u0111enje ljudi u zabludu. Na primjer, kori\u0161\u0107enje slika sa dru\u0161tvenih mre\u017ea za kreiranje slika razodene osobe ili seksualno eksplicitnih sadr\u017eaja, koji se koriste za elektronsko nasilje i ucjenjivanje. Sistemi vje\u0161ta\u010dke inteligencije vrlo brzo su na\u0161li primjenu u stvaranju la\u017enih profila i objava na dru\u0161tvenim mre\u017eama, sa ciljem zavo\u0111enja i iskori\u0161\u0107avanja djece i mladih.<\/p>\n\n\n\n

Ve\u0107ina sistema vje\u0161ta\u010dke inteligencije koji su trenutno dostupni nije osmi\u0161ljena za djecu i mlade. Starosna granica za njihovo kori\u0161\u0107enje je naj\u010de\u0161\u0107e 18 godina, u nekim zemljama 16, a u posebnim slu\u010dajevima, uz pisanu saglasnost roditelja, 13 godina. Me\u0111utim, sigurnosni mehanizmi tih programa nisu dovoljno dobro postavljeni, tako da maloljetnici \u010desto imaju pristup sistemima vje\u0161ta\u010dke inteligencije bez adekvatne za\u0161tite ili informacija, izla\u017eu\u0107i se tako raznim rizicima i neprimjerenim sadr\u017eajima. Jo\u0161 uvijek nisu postavljene jasne granice i ograni\u010denja koja bi omogu\u0107ila sigurno kori\u0161\u0107enje sistema vje\u0161ta\u010dke inteligencije od strane djece i mladih.<\/p>\n\n\n\n

Izvor: Medijskapismenost.hr<\/a><\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Izvor:\u00a0Umjetna inteligencija u obrazovanju \u2013 edukativni priru\u010dnik o primjeni umjetne inteligencije u u\u010denju i pou\u010davanju za u\u010ditelje, nastavnike i stru\u010dne suradnike u \u0161kolama\u00a0(Udruga Suradnici u u\u010denju, Agencija za elektroni\u010dke medije i Ured UNICEF-a za Hrvatsku, Zagreb, 2024.) Kori\u0161\u0107enje ve\u0161ta\u010dke inteligencije u obrazovanju pra\u0107eno je nizom eti\u010dkih problema, kao \u0161to su pitanja privatnosti i bezbijednosti, potencijalne<\/p>\n","protected":false},"author":1,"featured_media":4619,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[149,141],"tags":[],"class_list":{"0":"post-4618","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-blog","8":"category-medijska-pismenost"},"_links":{"self":[{"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/posts\/4618","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=4618"}],"version-history":[{"count":1,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/posts\/4618\/revisions"}],"predecessor-version":[{"id":4620,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/posts\/4618\/revisions\/4620"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=\/wp\/v2\/media\/4619"}],"wp:attachment":[{"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=4618"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=4618"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/citajizmedjuredova.me\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=4618"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}