Ckvens AI-manifest
Rättsväsendet är i grunden mänskligt. Rättstillämpning kräver kunskap, men också erfarenhet, omdöme och förståelse för de människor och intressen som berörs. Advokaten ska kunna ge råd och stöd till en klient, åklagaren göra en självständig och objektiv bedömning och domaren leda en rättvis process och ansvara för avgörandet. AI förändrar arbetssätten, men gör inte dessa mänskliga roller överflödiga.
AI erbjuder stora möjligheter och betydande risker. Hur tekniken utvecklas och används avgör vad den kommer att betyda för rättssäkerheten. För oss som utvecklar och tillhandahåller sådana verktyg innebär det ett stort ansvar. Ckvens förbinder sig därför att följa dessa principer:
1.AI ska stärka grunden för juridiskt arbete.
De stora vinsterna med AI finns i arbetskrävande uppgifter som dokumentgranskning, extrahering, sammanställning och kontroll. AI kan bidra till ett mer fullständigt faktaunderlag, synliggöra luckor och motsägelser och göra relevant material lättare att nå. Den kan också hjälpa organisationer att följa upp viktiga begränsningar och principer mer konsekvent.
2.Juristen måste förstå ärendet och göra bedömningarna själv.
AI kan föreslå analyser, argument och slutsatser. Juristen måste ändå ha tillräcklig insikt i sakförhållandena och juridiken för att pröva förslagen självständigt. Mänsklig kontroll måste alltid innebära en verklig fackmässig bedömning. Att godkänna ett svar man saknar förutsättningar att bedöma ger litet skydd.
3.Verktygen måste göra kontroll möjlig.
Användaren måste kunna undersöka vilka källor en uppgift bygger på, om källorna stöder framställningen och vilket material som har granskats. Osäkerhet, bristande täckning och motsägelser måste framgå. Ett välformulerat svar får aldrig i sig framstå som en garanti för riktighet eller fullständighet.
4.Effektivitet får aldrig gå ut över kvalitet.
Sparad tid kan ge snabbare handläggning och lägre kostnader, men bör också frigöra kapacitet för grundligare bedömningar, bättre förberedelser och mer kontakt med klienter och parter. Vi måste vara särskilt uppmärksamma på användning som minskar juristens kännedom om ärendet eller gör arbetet mer ytligt. Vi måste verka för att hålla den lokala juridiska språktraditionen i hävd.
5.Självständigt och principiellt tänkande måste upprätthållas.
Juridiskt arbete innefattar att ifrågasätta etablerade uppfattningar, pröva gränser och se konsekvenser bortom det enskilda ärendet. Okritisk användning av AI kan försvaga denna förmåga och därmed hämma rättsutvecklingen. Verktygen bör därför synliggöra invändningar, alternativa tolkningar och obesvarade frågor och ge utrymme för användaren att utmana premisserna.
6.Vi måste sätta gränser för vad som överlåts åt AI.
Slutliga bedömningar och beslut måste ligga hos människor som har ett självständigt underlag för att fatta dem och kan ta ansvar för dem. Ju större konsekvenser användningen kan få för enskilda människor, desto strängare måste kraven på kontroll vara. Där betryggande kontroll inte går att genomföra måste vi avstå från att använda eller erbjuda AI.
7.Leverantörerna måste möjliggöra öppenhet och delaktighet.
Som leverantör har vi ansvar för att göra principerna bakom lösningarna, deras väsentliga egenskaper och begränsningar tillgängliga och begripliga. Användarna måste kunna få insyn i vad verktygen bygger på, hur de behandlar och presenterar information och vilka val som påverkar resultaten. Vi måste göra det möjligt för användare, fackmiljöer och andra berörda aktörer att utmana premisserna, föreslå förbättringar och påverka utvecklingen av Ckvens.
8.Tystnadsplikt, säkerhet och oberoende måste värnas.
Tystnadsplikt, dataskydd och informationssäkerhet måste ligga till grund för hur lösningarna utvecklas, drivs och används. Användarna måste ha kontroll över vem som får tillgång till ärendets uppgifter och för vilka ändamål uppgifterna används. Vi måste också verka för största möjliga oberoende av aktörer som kan komma att bli föremål för politisk styrning, så att varken uppgifterna eller verktygen kan kontrolleras utifrån.
Vi vet ännu inte vilka följder AI kommer att få för samhället på längre sikt. Just därför måste vi vara tydliga med vilka värden och samhällsfunktioner vi vill bevara. Vi vill inte bidra till ett samhälle där rättsväsendet blir helt automatiserat och mänskligt omdöme, närvaro och ansvar försvinner. En sådan utveckling vore ett allvarligt hot mot både den faktiska och den upplevda rättssäkerheten och är därför inte acceptabel i en rättsstat.
Som leverantör av AI-tjänster till rättsväsendet har vi ett särskilt ansvar för vilken riktning utvecklingen tar. Detta ansvar delar vi med professionerna, de verksamheter som tar tekniken i bruk och myndigheterna. Det innebär att sätta tydliga gränser för automatisering och säkerställa att mänsklig bedömning och kontroll förblir verklig. Ansvaret gäller både lösningarna vi utvecklar, användningen vi möjliggör och förväntningarna vi skapar.
Vår ambition är att AI ska göra juristen bättre rustad att ta sitt ansvar. Det kräver att både tekniken, utbildningen och organiseringen av arbetet stöder fackmässig förståelse, självständighet och mänskligt omdöme.
Redo att se ärendet tydligt?
Skapa ett konto för att komma igång. För Enterprise, mejla contact@ckvens.com.
Har du redan ett konto? Logga in