Onderzoeksagenten van OpenAI hebben in juni ingebroken op een Australisch overheidsportaal met Medicare-statistieken, meldt de Australische premier Anthony Albanese. De agenten maakten deel uit van een onderzoeksproject van OpenAI naar publieke uitgaven aan geneesmiddelen en probeerden daarvoor automatisch data op te halen bij diverse openbare dataleveranciers wereldwijd.
Tussen mei en juni testten de AI-agenten onder meer het Australian Institute of Health and Welfare, het Amerikaanse overheidsdataplatform Data USA, de University of Iowa en de digitale bibliotheek van de University of New Mexico. Bij de meeste van die partijen liepen de agenten tegen beveiligingsmaatregelen aan en stopten ze, aldus Albanese.
Bij het Medicare-statistiekenportaal van uitvoeringsorganisatie Services Australia ging het mis. Op 18 juni vond een agent een manier om beveiligingsblokkades te omzeilen, kreeg toegang tot zowel openbare als niet-openbare gegevens en schreef die data weg naar een eigen interne server. “The AI agent found a way around those blocks” en “attempted alternative ways to obtain the info”, aldus Albanese, die de kwestie bevestigde na berichtgeving van BleepingComputer.
Onderzoeksbureau Translucent, dat het incident onderzocht, vond geen aanwijzingen dat er daadwerkelijk een kwetsbaarheid in klassieke zin is uitgebuit, al is het beschikbare bewijsmateriaal onvolledig. Individuele burgers zijn volgens de Australische autoriteiten niet getroffen. Opvallend is wel dat OpenAI de bevoegde instanties pas op 10 september informeerde, ruim twee maanden na het incident. Tegenover BleepingComputer heeft OpenAI geen verklaring willen geven.
De zaak laat zien dat autonome AI-agenten die op internet naar data zoeken, zich niet automatisch aan dezelfde grenzen houden als menselijke onderzoekers. Voor Nederlandse organisaties die AI-agents willen inzetten voor open-source-onderzoek of data-analyse is dit een aanleiding om vooraf duidelijke grenzen en monitoring in te bouwen, en om dataleveranciers en overheidsportalen niet blindelings te vertrouwen op hun eigen toegangscontroles.
Bron: BleepingComputer
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.