’Dybt uansvarligt’: Snapchats chatbot fortæller gerne, hvilke partier du bør stemme på
Snapchats kunstige intelligens, My AI, kommer gerne med politiske anbefalinger, hvis du beder den om det. Det er problematisk, mener eksperter.
Det tænker jeg ikke kan overraske os? Hvis de store sprogmodeller er skabt på basis af en masse udvekslinger, så må der jo være en del holdninger, der kommer ind. Jeg ville forvente, at den store opgave snarere er at rense input og output. Men det er jo det samme som at sige “nogen på nettet siger” – at et system emulerer nogen, der har en holdning, giver det jo ingen sandhedsværdi. Ikke mindst fra systemer, der er kendt for at fabrikere kilder ved at lave tekstbidder, der ligner kildereferencer…
Men det er selvfølgelig problematisk, at dette her er noget, der ligger i lommen på ganske unge mennesker, som er i gang med at forme deres holdninger. Og et sted, som et menneske, der kunne føle sig ensom, ville tale med. Det føles, som om det kunne stikke af i mange retninger, når folk i alle aldre kan have store udsving i pålideligheden af deres bullshit-o-meter.