Kratak odgovor
Upravni odbor Advokatske komore Srbije usvojio je na 74. redovnoj sednici, 21. decembra 2024. godine u Nišu, Smernice Međunarodne unije advokata (MUA) za upotrebu sistema veštačke inteligencije od strane advokata. Dokument ima dvanaest tačaka i kaže šta mora da važi: da advokat zna šta alat radi sa unetim podacima, da bira alate koji unos ne zadržavaju, da svaki rezultat proveri pre upotrebe, da klijenta obavesti i da ostane jedini odgovoran za ono što potpiše. Da bi to zaista važilo u kancelariji, treba pet stvari: popis alata koji se već koriste, test ugovora za svaki od njih, jedan korak provere pre nego što rezultat uđe u predmet, rečenica u ugovoru sa klijentom i politika na jednoj strani. Sve se uradi za jedno popodne. Obrazac politike je na kraju teksta.
Smernice stoje na sajtu Komore, na strani Smernice za upotrebu sistema veštačke inteligencije od strane advokata (MUA), gde je okačen i prevod na srpski, PDF od četiri strane. Tekst je sastavila Radna grupa za veštačku inteligenciju MUA, pa dokument na samom početku kaže da u slučaju neslaganja sa domaćim propisima „lokalni propisi, naravno, preovlađuju”. Zakon o advokaturi i Kodeks profesionalne etike advokata ostaju iznad njega, a obaveza čuvanja advokatske tajne postoji i bez njega. Ono što Smernice dodaju jeste merilo. Kad se jednog dana postavi pitanje da li je advokat sa veštačkom inteligencijom postupao pažljivo, ovo je dokument koji će neko prvi uzeti u ruke, i zato vredi znati šta u njemu piše i šta se od toga u kancelariji zaista može pokazati.
Šta Smernice zapravo traže?
Od dvanaest tačaka, polovina govori o stvarima koje advokat ionako zna: da prihvata samo poslove koje ume da radi (tačka 4), da poštuje propise (tačka 9), da naknadu odmeri pošteno (tačka 10). Pet tačaka nosi obaveze koje se ne ispunjavaju same od sebe, i na njima se ovaj tekst zadržava. Navodi su iz prevoda objavljenog na aks.org.rs.
| Tačka | Šta piše | Šta to traži od kancelarije |
|---|---|---|
| 2 | Advokat pre upotrebe treba da zna „kako će se svaki podatak koji korisnik unosi u sistem upotrebljavati u budućnosti (npr. da li razvojni programer VI može zadržati te podatke i koristiti ih za obučavanje modela VI tog programera)”. | Za svaki alat, pročitani uslovi i zapisan odgovor na dva pitanja: da li se na unosu uči i koliko dugo se unos čuva. |
| 3 | Advokati „kada god je to moguće, odlučuju se za sisteme VI koji ne zadržavaju informacije koje unosi advokat”, a kad to nije moguće, „anonimiziraju sve podatke i informacije kojima se na bilo koji način mogu identifikovati klijenti i/ili konkretni predmeti”. | Izbor alata koji unos ne zadržava, i to ugovorom. Na svakom drugom alatu, samo sadržaj iz koga je uklonjeno sve što prepoznaje klijenta ili predmet. |
| 5 | Advokati obaveštavaju klijente „o tome da upotrebljavaju sisteme VI, o ciljevima te upotrebe, kao i o preduzetim merama predostrožnosti”. Ako bi se podaci klijenta koristili za obučavanje, „klijenta treba obavestiti i dobiti njegov pristanak”. | Jedna rečenica u ugovoru o zastupanju ili u prvom dopisu. Pristanak za obučavanje se ne traži, jer se podaci klijenta za obučavanje ne daju. |
| 8 | Advokati su „uvek dužni da verifikuju (i) da svaki zakon, sudska praksa ili pravna literatura koje identifikuje VI zapravo postoje i ispravno su navedeni”, i nikada ne koriste izlaze „bez prethodnog pregleda i verifikacije tih izlaza”. | Jedan korak provere pre nego što rezultat uđe u predmet, sa imenom onoga ko je proverio. |
| 12 | Advokati se staraju da se „aktivnosti koje sprovodi svaki sistem VI mogu pratiti, uključujući kroz registraciju logova i, gde je to moguće, evidentiranje ulaznih podataka/korisničkih upita”. | Evidencija: ko je, kad, u kom predmetu i u kom alatu nešto uneo. Za malu kancelariju, jedna tabela. |
Ostale tačke traže još tri stvari koje se lako preskoče i o kojima je reč niže: pristanak svih učesnika pre nego što alat snima ili prepisuje sastanak (tačka 6), da profesionalno osiguranje pokriva upotrebu veštačke inteligencije (tačka 7) i da bot na sajtu jasno kaže da nije čovek (tačka 11).
Koje alate kancelarija već koristi?
Prvi korak ne zahteva nikakvu odluku, samo iskrenost. Na jedan list se ispišu svi alati sa veštačkom inteligencijom koji se u kancelariji koriste, uključujući lične naloge na telefonima i one koje niko nije zvanično uveo. Popis je skoro uvek duži nego što se očekuje. U kancelariji sa tri advokata tipično se nađe između pet i osam stavki, i to tek kad se broje sve vrste:
- Pomoćnici za razgovor na ličnim i poslovnim nalozima (ChatGPT, Claude, Gemini, Copilot i slični), na računaru i na telefonu.
- Veštačka inteligencija ugrađena u programe koji se već plaćaju: u Word, u poštu, u pravne baze i u program za vođenje predmeta, često uključena bez ičije odluke.
- Alati za prepis i prevod sastanaka i poziva, uključujući one koji se sami uključe na video sastanku.
- Dodaci za pregledač koji „sažimaju stranu” ili „pišu odgovor”, a čitaju sve što je na ekranu.
- Alati za prepoznavanje teksta sa skeniranih dokumenata koji obradu rade na tuđem serveru.
Za svaku stavku se upišu četiri podatka: ko je koristi, na kom nalogu (lični ili kancelarijski), da li u nju ulazi sadržaj predmeta i da li postoji bilo kakav papir sa ponuđačem. Sama ta tabela već odgovara na tačku 2 Smernica, a bez nje se nijedan od sledećih koraka ne može uraditi, jer se ne zna na šta se primenjuje.
Kako se testira ugovor o podacima?
Za svaki alat sa popisa u koji ulazi sadržaj predmeta, traže se odgovori na tri pitanja, i traže se napismeno, u dokumentu koji ponuđač sam objavljuje ili potpisuje. Na sastanku i u prodajnom razgovoru odgovor ne vredi, jer se ne može pokazati.
| Pitanje | Gde se traži odgovor | Prolazi | Ne prolazi |
|---|---|---|---|
| Da li se na našem unosu uči model? | Uslovi za poslovne korisnike ili ugovor o obradi podataka. Kod potrošačkih naloga: politika privatnosti i podešavanja naloga. | Napismeno ne, kao obaveza ponuđača. | „Možete da isključite u podešavanjima.” Podešavanje nije ugovor, i ponuđač ga može promeniti. |
| Koliko dugo se unos čuva? | Ugovor o obradi podataka, deo o roku čuvanja. | Broj. Nula, ili konkretan broj dana upisan u ugovor. | „Ne duže nego što je potrebno.” To nije rok. |
| Ko ima pristup dok se čuva? | Isti ugovor, deo o podobrađivačima i nadzoru nad zloupotrebama. | Imenovani podobrađivači, opisan nadzor, obaveza obaveštenja o promeni. | „Provereni partneri.” Bez imena, bez zemlje, bez obaveštenja. |
Ishod testa ima tri vrednosti. Alat prolazi, pa u njega može da uđe sadržaj predmeta. Alat prolazi uz anonimizaciju, pa u njega ulazi samo sadržaj iz koga je uklonjeno sve što prepoznaje klijenta i predmet, tačno kako tačka 3 Smernica kaže. Ili alat ne prolazi, pa od tog dana ne vidi ništa iz predmeta, bez obzira koliko je zgodan. Rezultat se upiše pored svake stavke na popisu.
Jedna razlika se ovde stalno gubi. Isključeno učenje i nečuvanje unosa nisu ista stvar. Kod većine poslovnih naloga učenje je isključeno po pravilu, ali se unos i dalje zadržava određeno vreme radi nadzora nad zloupotrebama, najčešće tridesetak dana, i u tom roku ga zaposleni kod ponuđača mogu pregledati. Za dopisivanje o rasporedu to nije važno. Za sadržaj predmeta jeste. O tome kako se nečuvanje ugovara i čime se dokazuje pisali smo odvojeno.
Koje tri postavke su prihvatljive i koliko koštaju?
Kad se test primeni na sve što je danas na tržištu, ostaju tri postavke koje kancelarija može da odbrani. Svaka ima svoju cenu i svoju granicu, i vredi ih znati pre nego što se bilo šta potpiše. Cene su red veličine po javnim cenovnicima ponuđača u avgustu 2026. i proveravaju se pre kupovine, jer se menjaju.
Potrošački nalog: ne za poverljivo
Besplatan, ili oko dvadeset dolara mesečno po korisniku. Unos se po pravilu čuva, učenje na unosu je često uključeno kao podrazumevana postavka, a i kad se isključi, to ostaje podešavanje na koje ponuđač ne daje ugovornu obavezu. Zato ovakav nalog ne prolazi test za sadržaj predmeta. Prolazi za opšta pravna pitanja, za nacrte bez imena i za sve iz čega je uklonjeno sve što prepoznaje klijenta i predmet. To je legitimna upotreba, tačka 3 Smernica je izričito predviđa, ali granicu mora da povuče kancelarija, ne svaki advokat za sebe.
Poslovni plan sa ugovorom bez učenja i bez čuvanja
Timski planovi velikih ponuđača (OpenAI, Anthropic, Google, Microsoft) koštaju red veličine dvadeset pet do trideset dolara mesečno po korisniku i po pravilu isključuju učenje na unosu, napismeno. Nečuvanje unosa sa rokom nula obično se ne dobija na timskom planu, nego tek na ugovoru za preduzeća ili preko programskog pristupa modelu (API), i ne važi za baš svaki model kod svakog ponuđača. Cena tog nivoa se ugovara i često traži najmanji broj korisnika. Ovo je postavka koju bira većina kancelarija kojima treba najbolji model, i prolazi test samo ako su oba uslova napismeno: bez učenja i sa rokom čuvanja upisanim brojem.
Jedno se ovde ne sme prećutati. Model je video sadržaj. Ugovoreno nečuvanje znači da obrada ne ostavlja trag koji neko kasnije može pročitati. Ne znači da se obrada nije dogodila, ni da sadržaj nije napustio kancelariju. Rečenica koja se može odbraniti pred klijentom glasi: podatak je izašao, obrađen je, i nije sačuvan ni kod koga, a to stoji u ugovoru.
Lokalni model u kancelariji
Model instaliran na serveru ili na jačem računaru u mreži kancelarije. Oprema je jednokratni trošak od nekoliko hiljada evra naviše, zavisno od toga koliki model treba da radi, plus vreme onoga ko sistem održava i ažurira. Modeli koji staju na takvu opremu slabiji su od najboljih dostupnih, i to se primeti na zadacima koji traže rasuđivanje. Za pretragu i sažimanje sopstvenih dokumenata, prepoznavanje teksta sa skeniranih papira i sređivanje arhive često su sasvim dovoljni. Ovo je jedina od tri postavke kod koje je rečenica „podaci ne napuštaju kancelariju” tačna, i jedina kod koje tačka 3 Smernica ne traži nikakav ugovor, jer nema kome da se šalje.
Kako se proverava rezultat pre upotrebe?
Tačka 8 je najkonkretnija u celom dokumentu i najčešće se krši, jer se krši iz udobnosti. Traži da se svaki propis, presuda i izvor koje alat navede provere da li postoje i da li su tačno navedeni, i da se svaki sadržaj proveri prema činjenicama konkretnog predmeta. Traži i da se alat nikada ne koristi „bez prethodnog pregleda i verifikacije”. Da bi to bilo izvodljivo svaki put, a ne samo kad ima vremena, provera mora da bude kratka i uvek ista.
- Izvori postoje. Svaki član zakona, broj presude i naziv izvora koji je alat naveo otvori se u pravnoj bazi ili u zvaničnom registru. Ono što se ne nađe, briše se. Izmišljen broj presude izgleda potpuno uverljivo, i to je ceo problem.
- Izvori kažu ono što alat tvrdi. Postojanje presude ne znači da ona podržava tezu. Pročita se deo na koji se alat poziva.
- Činjenice su iz predmeta. Imena, datumi, iznosi i rokovi uporede se sa spisom. Alat rado dopuni ono što mu nedostaje.
- Potpisuje advokat. Onaj ko rezultat koristi upisuje svoje ime u evidenciju kao onaj ko ga je proverio. Tačka 7 kaže da advokat ostaje „u potpunosti i jedini odgovoran” za sve što je nastalo uz pomoć alata, pa ime u evidenciji samo beleži ono što ionako važi.
Za dopis od jedne strane ovo traje dva minuta. Za podnesak sa desetak izvora, dvadeset. To je manje od vremena koje je alat uštedeo, i to je jedini razlog što se provera ne preskače kad se uvede kao pravilo, a preskače kad ostane stvar procene.
Isti član Smernica kaže još nešto što se tiče sajtova kancelarija: advokati ne treba da puštaju nenadgledane pravne botove koji sami odgovaraju na pravna pitanja klijenata, a da nije jasno rečeno da je odgovor generisala veštačka inteligencija, a ne advokat. Ako na sajtu postoji bot koji odgovara na pitanja, ta rečenica mora da stoji pre prvog odgovora.
Kako se obaveštava klijent?
Tačka 5 ne traži poseban dokument, traži transparentnost. Najjednostavnije je da rečenica uđe u ugovor o zastupanju ili u punomoćje, a za postojeće klijente u prvi sledeći dopis. Primer koji ispunjava sva tri elementa iz Smernica (da se alat koristi, za šta i uz koje mere):
Primer rečenice za ugovor sa klijentom
Kancelarija u radu koristi alate zasnovane na veštačkoj inteligenciji za pretragu, sažimanje dokumenata i pripremu nacrta. Alati se koriste isključivo pod ugovorom koji isključuje učenje na unetim podacima i zadržavanje unetog sadržaja. Svaki rezultat pre upotrebe pregleda i proverava advokat, koji ostaje jedini odgovoran za svaki podnesak i savet. Podaci klijenta se ne koriste za obučavanje bilo kog sistema.
Ako klijent kaže da ne želi da se alati koriste na njegovom predmetu, to se upiše u predmet i poštuje. Pristanak za obučavanje, koji tačka 5 pominje, u praksi se nikad ne traži, jer kancelarija koja je prošla test ugovora podatke klijenta za obučavanje ne daje nikome.
Dve srodne obaveze idu uz ovu. Tačka 6 kaže da se sastanci i pozivi mogu snimati, prepisivati ili prevoditi alatom samo uz pristanak svih učesnika, i da takav prepis nije zvaničan dokument dok ga svi ne odobre. Rečenica na početku sastanka rešava to. Tačka 11 kaže da bot koji na sajtu odgovara na pitanja o kancelariji mora jasno da kaže da korisnik ne razgovara sa čovekom.
Šta se još lako zaboravi?
Tačka 7 traži da advokat proveri da li njegovo profesionalno osiguranje pokriva štetu nastalu upotrebom veštačke inteligencije. To je jedan upit osiguravaču, napismeno, i odgovor se odloži uz politiku. Tačka 10 kaže da se ušteda vremena koju alat donosi uzima u obzir pri odmeravanju naknade, što u praksi znači da se sat koji je alat uštedeo ne naplaćuje kao da nije. Tačka 6 još kaže da se obuka mladih advokata ne prepušta alatima, jer se znanje prenosi lično, i podstiče kancelarije koje rade u partnerstvu da usvoje „jasne i dogovorene politike” o upotrebi. To je ono što sledi.
Obrazac interne politike
Sve gore staje na jednu stranu. Ovaj obrazac se prekopira, popune se imena i nazivi, i pošalje svima u kancelariji. Kancelarija koja ga ima može svaku tačku Smernica da pokaže na papiru. Kancelarija koja ga nema oslanja se na to da niko neće pitati.
Politika upotrebe veštačke inteligencije, obrazac
- Odobreni alati. U radu na predmetima koriste se samo: [naziv alata, naziv plana, datum ugovora]. Svi ostali alati, uključujući lične naloge, ne vide sadržaj predmeta.
- Nalozi. Koriste se isključivo nalozi kancelarije. Lični nalozi se ne koriste za posao.
- Šta se ne unosi nigde. Podaci o zdravstvenom stanju, lozinke, poslovne tajne klijenata, podaci iz predmeta pod merom tajnosti, kao i sve što klijent izričito izuzme.
- Šta sme u neodobren alat. Samo sadržaj iz koga su uklonjeni imena, brojevi predmeta, iznosi i sve po čemu se klijent ili predmet mogu prepoznati.
- Provera pre upotrebe. Svaki rezultat proverava advokat po četiri koraka: izvori postoje, izvori kažu to što se tvrdi, činjenice su iz spisa, ime onoga ko je proverio je upisano.
- Evidencija. Vodi se u [mesto: tabela, program za vođenje predmeta] i sadrži datum, broj predmeta, alat, vrstu unosa i ime onoga ko je proverio rezultat.
- Obaveštenje klijentu. Rečenica iz ovog obrasca ulazi u svaki novi ugovor o zastupanju; postojeći klijenti se obaveštavaju u prvom sledećem dopisu. Prigovor klijenta se upisuje u predmet i poštuje.
- Sastanci i pozivi. Ne snimaju se i ne prepisuju alatom bez pristanka svih učesnika, izrečenog na početku.
- Sajt. Ako na sajtu postoji bot, pre prvog odgovora kaže da je bot, i ne daje pravne savete.
- Osiguranje. Potvrda osiguravača da polisa pokriva upotrebu veštačke inteligencije čuva se uz ovu politiku.
- Odgovorno lice. Za politiku odgovara [ime]. Politika se ponovo pregleda [na šest meseci] i pri svakoj promeni alata ili uslova ponuđača.
Popis alata, test ugovora, četiri koraka provere, rečenica za klijenta i ovaj obrazac su jedno popodne posla. Posle toga svaka tačka Smernica ima dokument koji se može pokazati, a svaki advokat u kancelariji zna gde je granica bez pitanja.
Zašto ovo pišemo
Razvijamo softver za advokatske kancelarije i redovno nas pitaju da li smeju da koriste određeni alat. Odgovor je skoro uvek isti: zavisi od uslova pod kojima se koristi, a uslovi se mogu proveriti za jedno popodne ako se zna šta se traži. Smernice AKS su dobar razlog da se to popodne odvoji, jer prvi put postoji dokument koji je usvojila sopstvena komora i koji imenuje šta se očekuje.
Ako kancelariji ne treba pomoćnik za pisanje nego pristup sopstvenim predmetima, rokovima i dokumentima pod uslovima koje sama postavlja, to se ne kupuje kao pretplata nego se razvija. Ako vam treba mišljenje o postavci koju već imate, zakažite razgovor. Kancelariji kojoj je dovoljno da traži jedan papir od ponuđača i napiše ovu jednu stranu nemamo šta da prodamo, i to ćemo reći ako je tako.