| SF, LA og R: Manglende åbenhed om det offentliges brug af algoritmer truer retssikkerheden. Information, 17. juli 2024. (Link) |
IT-ordførerne fra de tre partier kommenterer på det ikke-transparente i algoritmiske afgørelser. Digitaliseringsministeren mener, at principperne er dækket i Forvaltningsloven, men Lisbeth Bech-Nielsen (SF), Alexander Ryle (LA) og Stinus Lindgreen (R) mener ikke, at dens ret generelle principper er tilstrækkelige – så de foreslår en opdatering af den.
Jeg er et stykke ad vejen enig med ministeren om, at forvaltningsloven og de generelle forvaltningsmæssige principper taget ud i sin konsekvens besvarer spørgsmålene. Men de er ikke specielt nemme at omsætte til maskinafgørelser. De tre skribenter nævner eksempelvis saglighed, lighed og proportionalitet. Men de her ting virker altså kun på det allermest banalt basale – man kunne vælge at give boligstøtte automatisk, for eksempel, ud fra relativt få konkrete parametre – men i de fleste af de situationer, der er arbejdskrævende i en grad, der giver et behov for at få beslutningsstøtte, er det mere komplekst end som så.
Jeg har svært ved at se, hvordan man meningsfyldt kan gøre den algoritmiske side af processerne alment tilgængeligt for de mennesker, som afgørelsen omhandler, og for dem, der skal beslutte noget om algoritmisk afgørelse på lovgivningsplan såvel som i den praktiske udførelse.
Selv hvis man kommer med en opgørelse af, hvordan ting vægtes i forhold til hinanden som i tilfældet med ASTA, er det en vanskelig opgave at vurdere rimeligheden i det.
Peger vi imod et peak af, hvor meget der kan lade sig gøre uden specialistviden?
Politik bliver i forvejen forberedt af specialister og i et eller andet diffust omgang forstået af de politikere, der arbejder på at klemme den igennem. Er vi nået grænsen for det – eller gjorde vi det for længe siden, og nu bliver det bare synligt?
@mj-j Dansk politik har jo i mange år behandlet IT meget som kasser med magisk røg i. Og det var det måske godt at komme væk fra.
Hvad angår gennemsigtighed af beslutnings algoritmer, vil jeg genbruge det en af mine vejledere på uni sagde om en del af vores rapport: "forstår i hvordan det virker?" Ja "men i kan ikke bryde det ned i små nok bidder til at kunne forklare det?" Nej? "Så forstår i det ikke"
@mj-j og jeg hælder til at sige at samme princip gør sig gældende her: hvordan kan man garantere borgeren at man har styr på det hvis ikke man kan nedfælde en forståelig forklaring af hvad der foregår og hvordan
Komplet enig – de retsgarantier kan det tælles på få hænder, hvor mange i landet der har forståelse nok til reelt at kunne stille (hvis det overhovedet er berettiget at gøre det) – og det er ikke dem, der tager beslutningerne om det.