Odgovornost u razvoju i korišćenju AI

Regulisanje veštačke inteligencije

Ovaj tekst nije napisala veštačka inteligencija

Kroz svaki broj časopisa Business & IT trudimo se da vas upoznamo sa najnovijim trendovima i novostima iz oblasti tehnologije. Kako se nalazimo usred IV tehnološke revolucije, u čijem centru je veštačka inteligencija, u ovom broju osvrnućemo se na temu regulisanja ove oblasti. Regulacija je sporiji pratilac svakog razvoja, pa ipak, sada je uobičajeno da postoje standardi za proizvodnju i upotrebu skoro svakog uređaja. Regulisano je, na primer, kako treba da se ponašamo dok vozimo automobil, kako kontrolišemo odlaganje otpada koji je nusproizvod industrijske proizvodnje i još bezbroj oblasti i pitanja, što se potrebnim nametnulo kada smo počeli da koristimo plodove prethodnih tehnoloških revolucija i osetili probleme i rizike koje njihova upotreba nosi. Više nego ikada ranije, sada posebno dolazi do izražaja nemogućnost da se pravilima i regulativama ide u korak sa razvojem tehnologije, pa se procene uticaja i postavljanje ograničenja ostavljaju za kasnije. Kako regulišemo veštačku inteligenciju, tehnologuju koja će, po svemu sudeći, promeniti svet iz korena i dosegnuti svuda gde doseže i ljudski um?

Zakon posmatra sisteme veštačke inteligencije u odnosu na procenjeni rizik po pojedinca i društvo u celini, te u odnosu na visinu rizika predviđa i pravila za njih

Evropski zakon o veštačkoj inteligenciji

Iako je kompanija koja proizvodi hardver za veštačku inteligenciju trenutno najvrednija kompanija na svetu, a tehnološki giganti koji je prate na listi najvrednijih ogromne resurse okreću upravo razvoju modela i sistema veštačke inteligencije, propisi koji se tiču ove oblasti su i dalje retki. Po broju donetih svakako prednjači Evropska unija. Zakon o veštačkoj inteligenciji EU, prvi sveobuhvatni propis koji se tiče ove oblasti, stupio je na snagu 1. avgusta 2024, sa punom primenom svih odredbi predviđenom do 2. avgusta 2027. godine. Zakon posmatra sisteme veštačke inteligencije u odnosu na procenjeni rizik po pojedinca i društvo u celini, te u odnosu na visinu rizika predviđa i pravila za njih. Sistemi čija upotreba nosi rizik koji se smatra neprihvatljivim, zbog toga što utiču na osnovna ljudska prava, zabranjeni su. Primeri takvih sistema su oni koji koriste manipulativne tehnike za donošenje odluka, koji utiču na svest osoba i usmeravaju ih na donošenje određenih odluka (npr. praćenje navika potrošača, da bi se prepoznao momenat za impulsivnu kupovinu), sistemi koji koriste određene ranjivosti pojedinaca, sistemi koji vrše socijalno bodovanje sa negitivnim ishodom po pojedinca i dr. Osim zabrane navedenih sistema, ovaj zakon se većim delom fokusira na regulisanje sistema visokog rizika. Ovi sistemi će morati da ispunjavaju stroge zahteve, kao što su upravljanje rizikom, korišćenje skupova podataka visokog kvaliteta, evidentiranje aktivnosti, detaljna dokumentacija, transparentnost, ljudski nadzor i visoki standardi za sajber-bezbednost. Uopšteno, bili bi to sistemi koji upotrebu imaju u obrazovanju, zapošljavanju, Regulisanje veštačke inteligencije Ovaj tekst nije napisala veštačka inteligencija Odgovornost u razvoju i korišćenju AI Zakon posmatra sisteme veštačke inteligencije u odnosu na procenjeni rizik po pojedinca i društvo u celini, te u odnosu na visinu rizika predviđa i pravila za njih 23 kritičnim sistemima (npr. vodosnabdevanju, upravljanju saobraćajem), sprovođenju zakona i sličnim oblastima života za koje je procenjeno da bi upotreba veštačke inteligencije mogla imati štetan uticaj na pojedince i društvo.

Poseban fokus propis stavlja na modele veštačke inteligencije opšte namene, tj. modele predviđene za izvršavanje velikog broja različitih zadataka u raznim oblastima, kao što su ChatGPT, DeepSeek, Claude i sl. Na takve modele, koji poseduju određene tehničke karakteristike (više od 1025 operacija sa pokretnim zarezom), primenjuju se striktna pravila, pošto se smatra da sa sobom nose rizik koji je sistemski, tj. da mogu negativno i dalekosežno uticati na više sfera društva. Svi modeli opšte namene, bilo da podrazumevaju sistemski rizik ili ne, moraju da poštuju propise Evropske unije koji se tiču intelektualne svojine, da jasno predstave na kojim podacima je model treniran itd. Ova posebna pravila počela su da važe od 2. avgusta 2025. Sistemi koji nose ograničen rizik moraju da na transparentan način upoznaju korisnike sa činjenicom da komuniciraju sa alatom veštačke inteligencije (npr. četbotom), da je određeni sadržaj nastao upotrebom AI alata i sl. Najveći broj sistema koji će u privredi imati svakodnevnu upotrebu najverovatnije će pripadati grupi proizvoda minimalnog rizika, gde neće postojati obaveza usklađivanja (npr. filteri elektronske pošte, razni pomoćni alati). Slično GDPR-u, za Zakon o veštačkoj inteligenciji predviđena je ekstrateritorijalna primena, tj. važenje i za lica koja nemaju prebivalište ili sedište u EU, ukoliko sisteme veštačke inteligencije stavljaju na tržište ili u upotrebu u Evropskoj uniji. Dakle, ukoliko kompanija iz Srbije pravi softver zasnovan na veštačkoj inteligenciji koji će plasirati korisnicima u EU, njeno poslovanje mora biti usaglašeno sa odredbama ovog zakona. Uz određene izuzetke, koji se odnose na oblast bezbednosti, istraživačkog rada i sl., kao i upotrebu od strane fizičkih lica za lične, neprofesionalne svrhe, ovi propisi se odnose na sve aktere uključene u životni ciklus ovih sistema, od isporučilaca, uvoznika i distributera, do krajnjih korisnika na koje tehnologija utiče. Kršenje obaveza može dovesti do kazni koje se, u zavisnosti od vrste prekršaja, kreću i do 35 miliona evra ili 7% ukupnog godišnjeg prihoda na globalnom nivou. Početak primene ovog propisa nije prošao bez protivljenja, koja su najviše dolazila iz pravca startap zajednice, velikih tehnoloških kompanija iz SAD i američke administracije.

Srbija je jedna od 44 članice, a trenutno i predsedavajuća, Globalnog partnerstva za veštačku inteligenciju, osnovanog sa ciljem odgovornog razvoja i upotrebe ove tehnologije

Propisi o AI van granica EU

Sjedinjene Američke Države trenutno zauzimaju pristup izbegavanja opsežne regulacije ove oblasti, iz straha od ograničavanja inovativnosti i gubljenja trke u tehnološkom razvoju, najviše od Kine, svog najvećeg takmaca. U Kini takođe nije na snazi jedinstvena regulativa, ali postoji više propisa koji se odnose na primenu u određenim sektorima i za specifične namene, kao i propisi koji pretežno vode računa o informacionoj bezbednosti sistema i podataka. U Srbiji je usvojena Strategija razvoja veštačke inteligencije za period 2025-2030, a radi se na donošenju zakona koji reguliše ovu oblast, koji će pretežno pratiti propise EU, u skladu sa obavezama Srbije u procesu pridruživanja. Srbija je i jedna od 44 članice, a trenutno i predsedavajuća, Globalnog partnerstva za veštačku inteligenciju, osnovanog pod okriljem Organizacije za ekonomsku saradnju i razvoj, sa ciljem odgovornog razvoja i upotrebe ove tehnologije. Za kompanije iz Srbije biće izazov da se prilagode propisima EU, koja je i dalje naše najveće izvozno tržište, ali i šarolikom pravnom okviru i mnoštvu različitih propisa u SAD i na svim ostalim ciljanim tržištima. Takođe, sve kompanije imaće obavezu da sagledaju upotrebu alata veštačke inteligencije u svakodnevnom poslovanju, ne samo da bi osigurale usaglašenost sa propisima koji regulišu ovu oblast, već i da bi predvidele i sprečile moguće posledice na ostale segmente poslovanja i života – radne odnose, poštovanje propisa u vezi sa intelektualnom svojinom, poverljivost podataka, zaštitu podataka o ličnosti i sl. Trenutno je nepoznanica koliko će upotreba veštačke inteligencije promeniti tržište rada i da li će biti potrebe za intervencijama država i međunarodnih organizacija na tom polju, ali je sigurno da se društva upotrebom ove tehnologije menjaju brže nego ikad pre.

Višnja Crnogorac, COMING