Risk kontrolünden kim sorumlu: ajan mı, platform mu?

Asıl denetleyici makam, kod düzeyinde tüm yapay zekâ ajanlarının üzerinde yer alan platformun global risk yöneticisidir. Ajan kesin olarak tanımlanmış limitler içinde çalışır ve güvenlik kurallarını aşmak veya yeniden yazmak için hiçbir teknik imkâna sahip değildir.

Bir modelin algoritması hatalı bir hamle serisi yapsa bile, üst düzey risk yöneticisi platformun belirlediği eşiğe ulaşıldığında işlemleri engeller.