Ckvens’ AI-manifest
Retsplejen er menneskelig i sin kerne. Retsanvendelse kræver viden, men også erfaring, skøn og forståelse for de mennesker og interesser, der berøres. Advokaten skal kunne rådgive og støtte en klient, anklageren foretage en selvstændig og objektiv vurdering, og dommeren lede en retfærdig proces og stå til ansvar for afgørelsen. AI ændrer arbejdsformerne, men gør ikke disse menneskelige roller overflødige.
AI giver store muligheder og betydelige farer. Hvordan teknologien udvikles og bruges, vil afgøre, hvad den betyder for retssikkerheden. For os, der udvikler og tilbyder sådanne værktøjer, medfører det et stort ansvar. Ckvens forpligter sig derfor til at følge disse principper:
1.AI skal styrke grundlaget for juridisk arbejde.
De store gevinster ved AI ligger i arbejdskrævende opgaver som dokumentgennemgang, udtræk, sammenstilling og kontrol. AI kan bidrage til et mere fuldstændigt faktagrundlag, synliggøre huller og modstrid og gøre relevant materiale lettere tilgængeligt. Den kan også hjælpe organisationer med at følge op på vigtige begrænsninger og principper mere konsekvent.
2.Juristen skal forstå sagen og selv foretage vurderingerne.
AI kan foreslå analyser, argumenter og konklusioner. Juristen skal alligevel have tilstrækkelig indsigt i faktum og jura til at efterprøve forslagene selvstændigt. Menneskelig kontrol skal altid indebære en reel faglig vurdering. En godkendelse af et svar, man ikke har forudsætninger for at bedømme, giver ringe beskyttelse.
3.Værktøjerne skal gøre kontrol mulig.
Brugeren skal kunne undersøge, hvilke kilder en oplysning bygger på, om kilderne understøtter fremstillingen, og hvilket materiale der er gennemgået. Usikkerhed, manglende dækning og modstrid skal komme frem. Et velformuleret svar må aldrig i sig selv fremstå som en garanti for rigtighed eller fuldstændighed.
4.Effektivitet må aldrig ske på bekostning af kvalitet.
Sparet tid kan give hurtigere sagsbehandling og lavere omkostninger, men bør også frigøre kapacitet til grundigere vurderinger, bedre forberedelse og mere kontakt med klienter og parter. Vi skal være særligt opmærksomme på brug, der reducerer juristens kendskab til sagen eller gør arbejdet mere overfladisk. Vi skal arbejde for at holde den lokale juridiske sprogtradition i hævd.
5.Selvstændig og principiel tænkning skal holdes ved lige.
Juridisk arbejde omfatter at stille spørgsmål ved etablerede forståelser, afprøve grænser og se konsekvenser ud over den enkelte sag. Ukritisk brug af AI kan svække denne evne og dermed hæmme retsudviklingen. Værktøjerne bør derfor synliggøre modforestillinger, alternative fortolkninger og ubesvarede spørgsmål og give plads til, at brugeren udfordrer præmisserne.
6.Vi skal sætte grænser for, hvad der overlades til AI.
Endelige vurderinger og beslutninger skal ligge hos mennesker, der har et selvstændigt grundlag for at træffe dem og kan stå til ansvar for dem. Jo større konsekvenser brugen kan få for den enkelte, desto strengere skal kravene til kontrol være. Hvor forsvarlig kontrol ikke kan gennemføres, må vi afstå fra at bruge eller tilbyde AI.
7.Leverandørerne skal give mulighed for åbenhed og medvirken.
Som leverandør har vi ansvar for at gøre principperne bag løsningerne, deres væsentlige egenskaber og begrænsninger tilgængelige og forståelige. Brugerne skal kunne få indsigt i, hvad værktøjerne bygger på, hvordan de behandler og præsenterer information, og hvilke valg der påvirker resultaterne. Vi skal gøre det muligt for brugere, faglige miljøer og andre berørte aktører at udfordre præmisserne, foreslå forbedringer og påvirke udviklingen af Ckvens.
8.Tavshedspligt, sikkerhed og uafhængighed skal sikres.
Tavshedspligt, databeskyttelse og informationssikkerhed skal ligge til grund for, hvordan løsningerne udvikles, drives og tages i brug. Brugerne skal have kontrol over, hvem der får adgang til sagens oplysninger, og hvilke formål oplysningerne bruges til. Vi skal også arbejde for størst mulig uafhængighed af aktører, der kan blive underlagt politisk styring, så hverken oplysningerne eller værktøjerne kan kontrolleres udefra.
Vi ved endnu ikke, hvilke følger AI vil få for samfundet på længere sigt. Netop derfor må vi være tydelige om, hvilke værdier og samfundsfunktioner vi vil bevare. Vi vil ikke bidrage til et samfund, hvor retsplejen bliver fuldt automatiseret, og hvor menneskelig dømmekraft, tilstedeværelse og ansvar forsvinder. En sådan udvikling ville være en alvorlig trussel mod både den faktiske og den oplevede retssikkerhed og er derfor ikke acceptabel i en retsstat.
Som leverandør af AI-tjenester til retsplejen har vi et særligt ansvar for, hvilken retning udviklingen tager. Dette ansvar deler vi med professionerne, de virksomheder, der tager teknologien i brug, og myndighederne. Det indebærer at sætte klare grænser for automatisering og sikre, at menneskelig vurdering og kontrol forbliver reel. Ansvaret gælder både de løsninger, vi udvikler, den brug, vi lægger op til, og de forventninger, vi skaber.
Vores ambition er, at AI skal gøre juristen bedre rustet til at varetage sit ansvar. Det kræver, at både teknologien, oplæringen og organiseringen af arbejdet understøtter faglig forståelse, selvstændighed og menneskelig dømmekraft.
Klar til at se sagen klart?
Opret en konto for at komme i gang. For Enterprise, skriv til contact@ckvens.com.
Har du allerede en konto? Log ind