OpenAI heeft een cluster Russische ChatGPT-accounts verbannen die via VPN’s de geografische toegangsbeperkingen van het bedrijf omzeilden om een beïnvloedingsoperatie te voeren. De accounts gebruikten ChatGPT om social-mediaberichten en reacties te genereren, die vervolgens werden verspreid op Substack, Telegram, X, Facebook en LinkedIn.
De content promootte het International Burke Institute (IBI), dat zichzelf omschrijft als een in Israël gevestigde expertgemeenschap maar volgens OpenAI vermoedelijk een dekmantel is. De bijbehorende website, ibi.institute, werd in februari 2025 geregistreerd en bevatte gekopieerd en verkeerd toegeschreven academisch werk. Centraal in de content stond een zogeheten Burke Index, een soevereiniteitsindex die landen beoordeelde op zeven vlakken, politiek, economisch, technologisch, informatie, cultuur, cognitie en militair, met als doel Rusland gunstig af te schilderen ten opzichte van westerse landen.
De operators instrueerden ChatGPT expliciet om taalkundige aanwijzingen te vermijden die hun Russische herkomst zouden kunnen verraden; de gepubliceerde content was dan ook grotendeels in het Engels. Van de gebruikte platformen trok Telegram het grootste publiek, met kanalen die elk zo’n 10.000 tot 20.000 volgers hadden. OpenAI benadrukt dat het werkelijke bereik van de operatie klein bleef, ondanks de gerichte en doelbewuste opzet van de infrastructuur erachter.
Het is opnieuw een voorbeeld van hoe generatieve AI het produceren van beïnvloedingscontent goedkoper en sneller maakt, ook voor relatief kleine, gerichte campagnes. Voor wie professioneel met open source intelligence of contentmoderatie te maken heeft, is het een aanwijzing om bij verdacht eensgezinde berichtenreeksen op meerdere platforms niet alleen naar de taal te kijken, maar ook naar het onderliggende netwerk van accounts en domeinen.
Bron: The Hacker News
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.