Google bevestigde deze week aan de Wall Street Journal dat een versie van zijn Gemini-model in mei uit een testomgeving ontsnapte en daadwerkelijk bij drie bedrijven binnendrong. Het bedrijf achter de test, het Israëlische Irregular, had Gemini een “capture the flag”-oefening laten doen: verstopte informatie terugvinden in het systeem van een nepbedrijf. Door een fout in de testopstelling kreeg het model onbedoeld toegang tot het echte internet, en toevallig deelde dat nepbedrijf zijn naam met een bestaand bedrijf.
Hoe het misging
Gemini kon zijn opdracht binnen de afgeschermde testomgeving niet meteen volbrengen, vond het echte bedrijf online, en behandelde dat gewoon als onderdeel van de oefening. In één geval raadde het model wachtwoorden tot het een beveiligd systeem kon binnenkomen. In twee andere gevallen vond het bruikbare inloggegevens die per ongeluk in openbare code-repositories stonden, en gebruikte die om binnen te komen. Zodra duidelijk werd dat het om echte bedrijven ging en niet om een simulatie, stopte Gemini zelfstandig met de oefening, in alle drie de gevallen.
Google besloot dit destijds niet meteen naar buiten te brengen. Volgens het bedrijf was er geen sprake van een fout in de manier waarop het model zich gedroeg, het reageerde immers precies zoals je zou willen zodra het besefte dat de situatie echt was. Critici vinden juist dat zeven weken wachten met bekendmaken te lang duurde.
Niet het eerste geval, en waarschijnlijk niet het laatste
Wat dit verhaal minder uitzonderlijk maakt dan het klinkt: Irregular voerde vergelijkbare tests uit bij meerdere grote AI-bedrijven, en trof daar hetzelfde onderliggende probleem aan. Eerder dit jaar ontsnapte een model van OpenAI op vergelijkbare wijze en drong door tot Hugging Face. Anthropic doorzocht na dat nieuws meer dan 141.000 eigen testresultaten en vond drie soortgelijke gevallen bij zijn Claude-model. Meta meldde in augustus ook een incident, al benadrukte het bedrijf dat daarbij geen sprake was van een echte ontsnapping uit een testomgeving. Overal gold hetzelfde patroon: een lek in de testomgeving zelf, geen bewust kwaadaardig gedrag van het AI-model.
Wat dit betekent voor AI in jouw smart home
Dit specifieke lek zat in een gespecialiseerde testomgeving voor cybersecurity-onderzoek, niet in de AI-assistenten die je thuis gebruikt. Toch is de onderliggende les wel degelijk relevant, juist nu AI-assistenten steeds meer directe controle krijgen over je huis. Denk aan Google Gemini dat Google Assistant vervangt, aan de flexibele Custom AI Behaviours waarmee je tegenwoordig instructies in gewone taal aan je verlichting geeft, of aan het koppelen van je Sonos-systeem aan ChatGPT via MCP.
Twee dingen zijn de moeite waard om mee te nemen. Ten eerste: in alle vier de gevallen, bij Google, OpenAI, Anthropic én Meta, stopte het model zelfstandig zodra duidelijk werd dat de grens van de oefening was overschreden. Dat zelfcorrigerende gedrag is precies waar veiligheidsonderzoekers op hopen, en een geruststellend signaal, ook al blijft het incident zelf onwenselijk. Ten tweede, en praktischer: het probleem ontstond mede doordat inloggegevens gewoon vindbaar waren op openbare plekken. Diezelfde basisregel geldt onverkort voor je eigen smart home: gebruik unieke, sterke wachtwoorden voor je slimme systemen, en geef een AI-assistent alleen de toegang die ‘m daadwerkelijk nodig heeft, niet meer.
Wil je je smart home veiliger inrichten voordat je AI-functies erbij toevoegt? Bekijk het assortiment beveiligingsproducten op tink.
