Wat is de sandboxing van de agent en waar is het voor nodig?

Het sandboxen van een agent is een geïsoleerde omgeving waarin de agent (bijvoorbeeld een LLM-agent) werkt, om de toegang tot systeembronnen te beperken en ongewenste of gevaarlijke acties te voorkomen.

Waarvoor dient sandboxing:

• Veiligheid: voorkomt het uitvoeren van kwaadaardige code of toegang tot vertrouwelijke gegevens.
• Broncontrole: beperkt het gebruik van geheugen, CPU, netwerk.
• Foutisolatie: fouten van de agent beïnvloeden het hoofd systeem niet.

Bijvoorbeeld, als een agent willekeurige code kan uitvoeren of externe API's kan aanroepen, garandeert sandboxing dat hij het systeem niet kan beschadigen of toegang krijgt tot verboden gegevens.