Episode 33: Hvordan tester man AI?

Selv om kunstig intelligens kryber ind overalt, så sender vi AI-produkter på gaden, uden at de er blevet gennemtestet og uden at vide, om de kan løbe løbsk.

Den 1. januar 2023 åbnede 4 nye EU-finansierede testcentre - eller TEF’s, som de kaldes - hvor virksomheder og myndigheder kan afprøve AI-produkter i virkelige scenarier, inden de rammer brugerne. Det er en stor satsning til samlet set 1,65 mia. kr., som skal accelerere udviklingen af ansvarlig kunstig intelligens i Europa - og DTU i Danmark leder den ene TEF.

Eftersom kunstig intelligens fortsætter med at udvikle sig og integreres i flere og flere aspekter af vores liv, virker det rigtigt at sikre at systemerne er sikre og ansvarlige. 
Men hvordan tester man AI, som konstant udvikler sig og lærer? Og hvornår er teknologien ansvarlig nok?
 
Blinde Vinkler er produceret af Ingeniørforeningen IDA og IT-Branchen. Vært er techjournalist, Marie Høst

Gæst: 
Martin Brynskov, seniorforsker på DTU Compute og leder og koordinator af CitCom.ai

 

Links:
EU pressemeddelelse om udrulning af TEF's
https://digital-strategy.ec.europa.eu/en/activities/testing-and-experimentation-facilities

 

Lydklip:
PBS News Hour
https://www.youtube.com/watch?v=OgOLjAVxsJc

Rollercoaster Try Guys
https://www.youtube.com/watch?v=IbgPYS3RnTA&t=28s
2 Test Dummies Fall Off Roller Coaster and Crash Into Hotel Roof | NBC10 Philadelphia
https://www.youtube.com/watch?v=cPaoOOIl1oM&t=15s

Why we need responsible ai
https://www.youtube.com/watch?v=9pph0fpvdCQ&t=42s

What is Responsible AI? | Research Bytes, Google Research
https://www.youtube.com/watch?v=fHgJVpro094&t=24s