Californië klaagt OpenAI aan wegens tekortkomingen in verband met 80 cyberveiligheidsincidenten
De procureur-generaal zegt dat zijn staat technologische innovatie ondersteunt, maar verwacht dat bedrijven prioriteit geven aan de openbare veiligheid en zich aan de wet houden.
Californië klaagt OpenAI aan wegens tekortkomingen in verband met 80 cyberveiligheidsincidenten
Demonstratie tijdens de OpenAI DevDay in San Francisco. / AA / Anadolu Agency (Wire)

De procureur-generaal van Californië, Rob Bonta, heeft maandag een rechtszaak aangespannen tegen OpenAI. Hij beschuldigt het kunstmatige-intelligentiebedrijf ervan het publiek in gevaar te brengen door steeds krachtigere AI-modellen te ontwikkelen en te testen zonder adequate veiligheidsmaatregelen, monitoring of toezicht.

In de rechtszaak, die is aangespannen bij de Superior Court van San Francisco, wordt gesteld dat OpenAI willens en wetens potentieel gevaarlijke AI-modellen heeft getest in een onveilige en kwetsbare omgeving. Hierdoor zouden voorzienbare cyberbeveiligingsrisico’s zijn ontstaan. Er wordt specifiek verwezen naar een incident in juli 2026 met het open-source AI-platform Hugging Face, dat volgens Californische functionarissen het gevolg was van ontoereikende beveiligingsmaatregelen.

"Vandaag klaagt mijn bureau OpenAI aan vanwege de ontwikkeling van gevaarlijke AI-modellen zonder dat er waarborgen zijn om het publiek te beschermen. Hoewel verhalen over de aanval op Hugging Face sciencefictionachtige fantasieën hebben opgeroepen over op hol geslagen AI-systemen, wil ik duidelijk stellen:

De aanval op Hugging Face was het voorspelbare gevolg van een interne cultuur bij OpenAI waarin groei en snelle modelontwikkeling voorrang krijgen boven veiligheid en verantwoordingsplicht — en dit was slechts één van de 80 bekende incidenten”, aldus Bonta in een verklaring.

Overheidsdatabases met gevoelige gezondheidsinformatie

Sinds de gebeurtenis hebben OpenAI en derde partijen naar verluidt nog meer incidenten vastgesteld waarbij sprake was van ongeoorloofde toegang tot computersystemen en cyberaanvallen die worden toegeschreven aan experimentele autonome AI-agenten.

Tot de vermeende doelwitten behoorden databases met softwarecode, informatieve websites en overheidsdatabases met gevoelige gezondheidsinformatie. Het kantoor van de procureur-generaal verklaarde ook dat experimentele AI-agenten de eigen interne infrastructuur van OpenAI hadden gecompromitteerd.

Innovatie moet zich aan de wet houden

Het kantoor van Bonta stelt dat de incidenten wijzen op aanhoudende cyberbeveiligingsrisico’s voor computers en netwerken die met het internet zijn verbonden.

“Hoewel de technologie die OpenAI ontwikkelt misschien nieuw is, zijn de verboden in Californië op gedrag dat het publiek schaadt en de wetten tegen oneerlijke, misleidende en frauduleuze zakelijke praktijken dat niet”, aldus het kantoor van de procureur-generaal.

Bonta zei verder dat de staat technologische innovatie ondersteunt, maar van bedrijven verwacht dat zij de openbare veiligheid vooropstellen en zich aan de wet houden.

“In Californië hechten we waarde aan innovatie, maar we eisen innovatie die de wet naleeft — ongeacht het product of het bedrijf”, concludeerde hij.