Kapacitetspåståenden vs verifierbara resultat

Kort sagt

En matematisk essä om ett påstått Claude-resultat relaterat till Riemannhypotesen visar: förbättrad andel nollställen är inte ett bevis för hypotesen. Det finns alltid logiskt utrymme för undantag.

Det återgivna arbetsmönstret – hypoteser, oberoende motbevis, mänsklig fackgranskning och formalisering – är mer värdefullt för agentdesign än det enskilda resultatet.

När är detta användbart?

• När du utvärderar påståenden om agenters eller modellers kapacitet.
• När du bygger system där felaktiga antaganden om vad “modellen kan” leder till risk.
• För att skilja bevakning och hype från granskningsbara, reproducerbara resultat i Nodi/Hermes.

Gör så här

1. Behandla kapacitetspåståenden som hypoteser

   • En förbättring på en andel eller ett benchmark är inte ett bevis för bred förmåga.
   • Låt alltid utrymme för undantag med låg densitet.

2. Prioritera reproducerbar kontroll utanför modellen

   • Många hypoteser + oberoende försök att motbevisa.
   • Mänsklig fackgranskning och formella verktyg (t.ex. Lean) där det är möjligt.

3. Skilj bevakning från beslut

   • Paneldiskussioner och demo-videor ger perspektiv, inte faktabaserade prognoser.
   • Använd dem för idéer, aldrig som underlag för produktval eller arkitektur utan egna tester.

4. Bygg in verifiering i harnesset

   • Externa eller irreversibla effekter passerar alltid en mänsklig eller formell gate.
   • Logga vad som föreslogs vs vad som faktiskt utfördes (t.ex. “proposed tool call X” före “executed” i Hermes harness).

5. Testa på verkliga arbetslaster

   • Mät prestanda, kostnad och fel på dina egna uppgifter.
   • Låt inte generella påståenden styra modell- eller harness-val.

Vanliga fallgropar

• Att tro att en polerad berättelse om agentkapacitet motsvarar ett granskat resultat.
• Att låta optimistiska eller pessimistiska narrativ ersätta hotmodell, verifiering och operativa kontroller.
• Att använda benchmark-siffror som sanning utan att förstå begränsningarna (t.ex. asymptotiska andelar lämnar utrymme för undantag).

Lisemark-vinkel

I Nodi och agentiska system är detta centralt: vi bygger inte på vad en modell “sägs kunna” utan på vad harnesset kan göra säkert och granskningsbart.

Detta kompletterar “Harnesset är kontrollplanet” och “Verifierbara kvalitetsspärrar”. Starka claims behöver reproducerbar kontroll utanför modellen.

För fastigheter, automation och research-flöden gäller samma princip: avgränsa, verifiera och låt mänsklig eller deterministisk kontroll stå mellan förslag och effekt.

Relaterat

• Harnesset är kontrollplanet – modell vs runtime i agentiska system
• Verifierbara kvalitetsspärrar i agentisk kodning
• Agentroller, minne och styrning
• Agentisk datoranvändning: behörigheter, sandbox och mänsklig godkännande
• Smala strukturerade modeller för triage och routing – när en liten modell slår en stor LLM