Billig frontier-AI genom smarta modellkombinationer
Kombinera stark dyr modell med billig öppen modell för nära frontier-kvalitet till låg kostnad på specifika uppgifter.
Data & AI
Beslutsstöd, visualisering, automation och AI med praktisk nytta.
Kombinera stark dyr modell med billig öppen modell för nära frontier-kvalitet till låg kostnad på specifika uppgifter.
Välj agent efter uppgift, verktyg, kostnad och verifierbarhet – inte efter 'bästa modell'.
En agent med verktyg och minne kan sortera och hantera repetitiv e-post, med tydliga regler och mänsklig godkännande.
Bygg smala verktyg och verifierbara flöden där agenten är en komponent – inte en generell 'allt-ag ent'.
Ett projektspecifikt AGENTS.md fungerar som kontrakt: syfte, stack, stilregler och kända fallgropar. Det minskar kontextglapp mellan agent-sessioner.
Börja med intuition, bygg en reproducerbar kedja: problem → data → baslinje → utvärdering utan läckage → deployment.
Små leveranser + återkommande arkitekturrevision ger bättre riskkontroll än stora förhandsplaner när AI gör ändringar billiga.
Håll röstsamtalet snabbt medan en separat agent gör tungt arbete asynkront. Status återförs utan att blockera användaren.
Flytta från långa prompter till maskinellt verifierbara grindar: tester, statisk analys, täckning och reproducerbara checks.
Agenter som använder skrivbord och verktyg behöver minsta behörighet, sandbox, kontrollpunkter och mänsklig godkännande före externa effekter.
Ett hemmalabb har hårdvara, modell och harness. VRAM styr vad du kan köra; elförbrukning och kylning är verkliga kostnader. 80/20 local/cloud är ofta klokt.
Storskalig AI begränsas ofta av effekt, elnät, kylning och energitillgång – inte bara modeller eller GPU:er. Flexibel arbetslast och placering nära energikällor blir viktiga.
Bandbredd, VRAM och watt avgör praktisk nytta. Apple ger bra balans och låg effekt; NVIDIA ger hastighet men drar mer el. Välj efter din arbetslast.
Träna en liten modell på begränsat dataset för att förstå LLM-pipelinen: data, träning, checkpoints. Bra experiment – inte en allmän assistent.
Routing (billigare/lokal först) och minnesdesign blir värdefulla när du har tydliga trösklar, loggning och kostnadsgränser för uppgiften.
Neurala nätverk är kedjor av viktade summor och aktiveringsfunktioner. Gradient descent och backpropagation låter dem lära sig från exempel steg för steg.
Bedöm modeller efter hur snabbt du kan ta ett problem genom flera verifierbara förbättringsvarv – inte efter första utkastet.
Prefill (läsa kontext) och decode (generera) är olika flaskhalsar. Dimensionera lokal LLM efter verklig arbetslast, inte bara tokens/sekund.
När man bygger eller använder agenter är rollbeskrivningar, minnesgränser, handoffs, loggar och mänskliga stoppunkter viktigare än enskilda modellval.
Innan du går på stora neurala nätverk: bygg enkla, tolkningsbara baslinjer med träd, KNN och logistisk regression.
En standardiserad brygga som låter AI-agenter (Hermes, Nodi m.fl.) säkert söka, läsa, skapa och uppdatera noter i ditt Obsidian-vault. Tänk 'API för ditt Second Brain'.
Hugging Face är ”GitHub för maskininlärning”. Här hittar, delar och använder du färdiga AI-modeller, dataset och interaktiva appar – utan att behöva träna allt själv från början.
Fullt hanterad serverless-plattform för containrar på Google Cloud. Scale-to-zero, låg kostnad och ingen klusterhantering – perfekt för webbappar och experiment.
Privat transkribering i webbläsaren. Svensk-first med KB-Whisper, lokal fil/microfon, export till SRT/VTT och efterbearbetning – utan att ljud lämnar din dator.
Så skapar, kvalitetssäkrar och använder du en personlig AI-röst på ett säkert sätt i svenska arbetsflöden.
Praktiska färdigheter för att använda AI-verktyg på ett effektivt, etiskt och produktivt sätt i vardagsarbete.
Lokalt-först AI-agent-ramverk (Hermes av Nous) som Johan kör på Nodi med skills, delegation, minne och schemaläggning.
Lokalt, självhostat AI-assistent-system som kopplar meddelandeappar med verktyg och automation. Föregångare till Hermes hos Johan.
En teknik där en AI-modell hämtar relevant information från en kunskapsbas innan den svarar. Ger mer korrekta och uppdaterade svar än enbart modellen.
Ett peer-to-peer-nät där varje deltagare kör en egen nod och appar synkroniseras mellan peers i stället för hos en central tjänsteleverantör.
En praktisk beslutsordning för att välja diagram utifrån fråga, jämförelse och beslut — inte utifrån vad som ser snyggast ut.