Agenters styrning och säkerhetsgränser – avgränsning slår bred autonomi
Agenters värde kommer från tydligt avgränsade uppgifter, verktyg och kontrollpunkter – inte från bred autonomi. Harnesset hanterar behörighet, loggning och stoppvägar.
Tagg
9 onepagers med denna tagg.
Agenters värde kommer från tydligt avgränsade uppgifter, verktyg och kontrollpunkter – inte från bred autonomi. Harnesset hanterar behörighet, loggning och stoppvägar.
Ett agent-harness med profiler, lokal modell, röst, HUD, subagenter och cronjobb ökar tillgänglighet. Varje ny yta kräver tydligt ansvar, minsta behörighet och stoppvägar.
Låt agenten producera granskningsbara resultat i en kö istället för att kräva ständig mänsklig uppmärksamhet. Människan fattar go/no-go på tydliga artefakter.
Modellen föreslår. Harnesset bestämmer vad som får hända via verktyg, behörigheter, loggning, budget och stoppvägar. Det är den viktigaste designfrågan.
Låt inte agenter klicka via skärm. Exponera smala funktioner med schema, validering och läs/skriv-separation istället.
Bygg smala verktyg och verifierbara flöden där agenten är en komponent – inte en generell 'allt-ag ent'.
Ett projektspecifikt AGENTS.md fungerar som kontrakt: syfte, stack, stilregler och kända fallgropar. Det minskar kontextglapp mellan agent-sessioner.
Flytta från långa prompter till maskinellt verifierbara grindar: tester, statisk analys, täckning och reproducerbara checks.
Agenter som använder skrivbord och verktyg behöver minsta behörighet, sandbox, kontrollpunkter och mänsklig godkännande före externa effekter.