Ckvens’ KI-manifest
Rettspleien er grunnleggende menneskelig. Rettsanvendelse krever kunnskap, men også erfaring, skjønn og forståelse for menneskene og interessene som berøres. Advokaten skal kunne rådgi og støtte en klient, påtalejuristen foreta en selvstendig og objektiv vurdering, og dommeren lede en rettferdig prosess og stå ansvarlig for avgjørelsen. KI endrer arbeidsformene, men gjør ikke disse menneskelige rollene overflødige.
KI gir store muligheter og betydelige farer. Hvordan teknologien utvikles og brukes, vil avgjøre hva den betyr for rettssikkerheten. For oss som utvikler og tilbyr slike verktøy, medfører det et stort ansvar. Ckvens forplikter seg derfor til å følge disse prinsippene:
1.KI skal styrke grunnlaget for juridisk arbeid.
De store gevinstene for KI ligger i arbeidskrevende oppgaver som dokumentgjennomgang, uttrekk, sammenstilling og kontroll. KI kan bidra til et mer fullstendig faktagrunnlag, synliggjøre hull og motstrid og gjøre relevant materiale lettere tilgjengelig. Den kan også hjelpe organisasjoner med å følge opp viktige skranker og prinsipper mer konsekvent.
2.Juristen må forstå saken og foreta vurderingene selv.
KI kan foreslå analyser, argumenter og konklusjoner. Juristen må likevel ha tilstrekkelig innsikt i faktum og jussen til å prøve forslagene selvstendig. Menneskelig kontroll må alltid innebære en reell faglig vurdering. En godkjenning av et svar man ikke har forutsetninger for å bedømme, gir liten beskyttelse.
3.Verktøyene må legge til rette for kontroll.
Brukeren må kunne undersøke hvilke kilder en opplysning bygger på, om kildene støtter fremstillingen, og hvilket materiale som er gjennomgått. Usikkerhet, manglende dekning og motstrid må komme frem. Et velformulert svar må aldri i seg selv fremstå som en garanti for riktighet eller fullstendighet.
4.Effektivitet må aldri gå på bekostning av kvalitet.
Spart tid kan gi raskere behandling og lavere kostnader, men bør også frigjøre kapasitet til grundigere vurderinger, bedre forberedelser og mer kontakt med klienter og parter. Vi må være særlig oppmerksomme på bruk som reduserer juristens kjennskap til saken eller gjør arbeidet mer overflatisk. Vi må arbeide for å holde lokal, juridisk språktradisjon i hevd.
5.Selvstendig og prinsipiell tenkning må holdes ved like.
Juridisk arbeid omfatter å stille spørsmål ved etablerte forståelser, prøve grenser og se konsekvenser utover den enkelte saken. Ukritisk bruk av KI kan svekke denne evnen og dermed hemme rettsutviklingen. Verktøyene bør derfor gjøre motforestillinger, alternative tolkninger og ubesvarte spørsmål synlige og gi rom for at brukeren utfordrer premissene.
6.Vi må sette grenser for hva som overlates til KI.
Endelige vurderinger og beslutninger må ligge hos mennesker som har et selvstendig grunnlag for å treffe dem og kan stå ansvarlige for dem. Jo større konsekvenser bruken kan få for enkeltmennesker, desto strengere må kravene til kontroll være. Der forsvarlig kontroll ikke lar seg gjennomføre, må vi avstå fra å bruke eller tilby KI.
7.Leverandørene må legge til rette for åpenhet og medvirkning.
Som leverandør har vi ansvar for å gjøre prinsippene bak løsningene, deres vesentlige egenskaper og begrensninger tilgjengelige og forståelige. Brukerne må kunne få innsikt i hva verktøyene bygger på, hvordan de behandler og presenterer informasjon, og hvilke valg som påvirker resultatene. Vi må legge til rette for at brukere, fagmiljøer og andre berørte aktører kan utfordre premissene, foreslå forbedringer og påvirke utviklingen av Ckvens.
8.Taushetsplikt, sikkerhet og uavhengighet må ivaretas.
Taushetsplikt, personvern og informasjonssikkerhet må ligge til grunn for hvordan løsningene utvikles, driftes og tas i bruk. Brukerne må ha kontroll over hvem som får tilgang til sakens opplysninger og hvilke formål opplysningene brukes til. Vi må også arbeide for størst mulig uavhengighet av aktører som kan bli underlagt politisk styring, slik at verken opplysningene eller verktøyene kan kontrolleres utenfra.
Vi vet ennå ikke hvilke følger KI vil få for samfunnet på lengre sikt. Nettopp derfor må vi være tydelige på hvilke verdier og samfunnsfunksjoner vi vil bevare. Vi vil ikke bidra til et samfunn der rettspleien blir fullt automatisert, og menneskelig dømmekraft, tilstedeværelse og ansvar faller bort. En slik utvikling ville være en alvorlig trussel mot både den faktiske og den opplevde rettssikkerheten, og er derfor ikke akseptabel i en rettsstat.
Som leverandør av KI-tjenester til rettspleien har vi et særlig ansvar for hvilken retning utviklingen tar. Dette ansvaret deler vi med profesjonene, virksomhetene som tar teknologien i bruk, og myndighetene. Det innebærer å sette tydelige grenser for automatisering og sikre at menneskelig vurdering og kontroll forblir reelle. Ansvaret gjelder både løsningene vi utvikler, bruken vi legger til rette for, og forventningene vi skaper.
Vår ambisjon er at KI skal gjøre juristen bedre rustet til å ivareta sitt ansvar. Det krever at både teknologien, opplæringen og organiseringen av arbeidet støtter opp under faglig forståelse, selvstendighet og menneskelig dømmekraft.
Klar til å se saken klart?
Opprett en konto for å begynne. For Enterprise, send e-post til contact@ckvens.com.
Har du allerede en konto? Logg inn