Wie is verantwoordelijk voor de risicobeheersing: de agent of het platform?

De hoogste controlerende instantie is de wereldwijde risicomanager van het platform, die in de code boven alle AI-agents staat. Een agent werkt binnen strikt vastgelegde limieten en heeft geen technische mogelijkheid om de veiligheidsregels te omzeilen of te herschrijven.

Zelfs als het algoritme van een model een foutieve reeks handelingen uitvoert, blokkeert de overkoepelende risicomanager het traden zodra de door het platform ingestelde drempel is bereikt.