De validatiecrisis (hackerhotel2025)

De opkomst van geavanceerde technologie en kunstmatige intelligentie heeft ongekende mogelijkheden gecreëerd, maar ook een sluimerend probleem blootgelegd: de validatiecrisis. In deze lezing neemt Brenno de Winter, gerenommeerd cybersecurity-expert en auteur van De Validatiecrisis, u mee in de wereld van misleidende aannames, ongeteste technologie, en de gevaren van een gebrek aan kritische evaluatie. Hij toont aan hoe deze crisis niet alleen technologie, maar ook maatschappelijke besluitvorming ondermijnt. Een belangrijk deel van de lezing is gewijd aan de MIAUW-methodiek (Methodiek voor Informatiebeveiligingsonderzoek met Auditwaarde). Dit gestructureerde framework biedt een oplossing voor de validatiecrisis in informatiebeveiliging door de nadruk te leggen op reproduceerbaarheid, transparantie en auditwaarde. MIAUW stelt organisaties in staat om kwetsbaarheden niet alleen te identificeren, maar ook te documenteren op een manier die zowel controleerbaar als bruikbaar is voor bredere compliance- en risicomanagementstrategieën. Tijdens de lezing bespreekt Brenno de Winter praktische voorbeelden, biedt hij concrete handvatten om kritisch denken te bevorderen, en illustreert hij hoe MIAUW organisaties kan helpen de kloof tussen complexe technologie en verantwoorde toepassing te overbruggen. Technologie en kunstmatige intelligentie hebben onze samenleving fundamenteel veranderd, maar brengen ook een diepe uitdaging met zich mee: de validatiecrisis. In deze lezing onthult Brenno de Winter, cybersecurity-expert en auteur van De Validatiecrisis, hoe een gebrek aan kritische controle en grondige evaluatie van data en technologieën leidt tot risico’s op het gebied van veiligheid, ethiek en besluitvorming. De validatiecrisis is een fenomeen dat zich niet alleen in de echte wereld afspeelt, maar zelfs in fictieve experimenten fascinerende en leerzame inzichten biedt. De Validatiecrisis: Wat Gaat Er Mis? De validatiecrisis is een fundamenteel probleem waarbij aannames en technologieën zonder grondige controle worden geaccepteerd. Dit leidt tot mislukte projecten, gebrekkige AI-systemen en besluitvorming gebaseerd op onjuiste gegevens. De Winter illustreert dit met praktijkvoorbeelden, waaronder AI-modellen die falen in het herkennen van nuance, en situaties waarin vertrouwen in onbewezen technologie desastreuze gevolgen heeft. Hij legt de nadruk op het belang van kritische evaluatie en hoe een gebrek daaraan leidt tot blinde vlekken in onze technologische ontwikkeling. Een Lessenpakket van de Maan Een belangrijk onderdeel van de lezing zijn de fictieve experimenten op de maan, waarin menselijke en technologische interacties werden onderzocht in een context waar katten een sleutelrol spelen. In deze hypothetische samenleving, waar katten niet alleen huisdieren maar politieke actoren zijn, faalden AI-systemen in het begrijpen van de complexe hiërarchieën en sociale dynamiek. Dit leidde tot een fictieve oorlog met de planeet Bananie, die volledig had kunnen worden voorkomen als technologie op een grondigere manier gevalideerd was. De experimenten fungeren als een metafoor voor de gevaren van slecht gevalideerde technologieën. Ze tonen hoe kleine fouten in de basis van systemen kunnen leiden tot grote gevolgen, of het nu gaat om ethische kwesties, veiligheid of zelfs internationale relaties. Dit fictieve voorbeeld onderstreept de bredere boodschap: technologie moet niet blind worden vertrouwd, maar moet voortdurend worden getest en gecontroleerd. De MIAUW-methodiek: Een Gestructureerde Aanpak Als antwoord op de validatiecrisis presenteert De Winter de MIAUW-methodiek (Methodiek voor Informatiebeveiligingsonderzoek met Auditwaarde). Dit framework biedt een gestructureerde aanpak voor penetratietesten die niet alleen technische kwetsbaarheden identificeert, maar deze ook documenteert op een manier die reproduceerbaar en controleerbaar is. MIAUW stelt organisaties in staat om niet alleen inzicht te krijgen in risico’s, maar ook om deze te verbinden aan bredere compliance- en risicomanagementstrategieën. Met concrete voorbeelden laat De Winter zien hoe MIAUW organisaties helpt om niet alleen veiliger te worden, maar ook om transparant en verantwoord om te gaan met hun technologie. Door reproduceerbare resultaten en sterke auditwaarde mogelijk te maken, biedt MIAUW een praktische oplossing voor de uitdagingen van moderne technologie. Licensed to the public under http://creativecommons.org/licenses/by/4.0 about this event: https://pretalx.hackerhotel.nl/2025/talk/7VXSPZ/