Gætter store sprogmodeller dine dybeste hemmeligheder?

Ny forskning afslører, at generative chatbots som ChatGPT kan udlede en masse følsomme oplysninger om os, selv ud fra fuldstændig hverdagsagtige samtaler.

På baggrund af hvad der kan virke som ‘uskyldige’ informationer, kan de f.eks. gætte hvor vi bor og hvad vi arbejder med. Og de kan gøre det langt hurtigere end mennesker. Den viden som kan sammenstykkes om os, kan måske indvarsle en ny æra af annoncering, hvor virksomheder bruger information indsamlet fra chatbots til at opbygge detaljerede profiler af brugere.

Hvordan kan det overhovedet lade sig gøre at sammenstykke så privat information om os? 
Og findes der noget forsvar mod denne invasive snushane, så vi kan beskytte vores privatliv?  

Podcasten ’Blinde Vinkler’ er produceret af Ingeniørforeningen IDA og IT-Branchen og udviklet i samarbejde med Tina Ryoon Andersen og Rune Fick Hansen. Den er tilrettelagt, redigeret og beværtet af Marie Høst.

Gæst
Sune Lehman, professor i netværks- og kompleksitetsvidenskab ved DTU Compute og professor i Social Data Science ved Københavns Universitet.

Links
Forskningsartikel:Beyond Memorization: Violating Privacy Via Inference with Large Language Models
https://llm-privacy.org/
https://arxiv.org/abs/2310.07298v1
21 Lessons for the 21st Century by Yuval Noah Harari | Yuval on Data
https://www.youtube.com/watch?v=wmxEYWEGYOI&t=144s
Wired: AI Chatbots Can Guess Your Personal Information From What You Type
https://www.wired.com/story/ai-chatbots-can-guess-your-personal-information/
Race to intimacy: How AI threatens global culture, Dr Waku
https://www.youtube.com/watch?v=ANUz53doMWw&t=15s