Attention – hur sammanhang formar representationer
Följ banken från startembedding till kontextberoende representation. Ett litet räkneexempel visar frågor, nycklar, softmax och blandade värdevektorer.
Tagg
#machine-learning
12 onepagers med denna tagg.
Tokens – så blir text modellens byggbitar
En token är en textbit, inte alltid ett ord. Följ vägen från text till token-ID och vektor, och förstå hur modellens svar byggs en bit i taget.
Micrograd – så lär sig ett litet neuralt nätverk
Modellen gissar, mäter felet och justerar sina inställningar. Micrograd visar hur man räknar ut vilka små ändringar som kan förbättra nästa gissning.
Reproducerbar ML-pipeline och baslinjer före avancerade modeller
En reproducerbar ML-pipeline med baslinje, train/test-split och artefakter är ofta mer värdefull än att jaga den senaste modellen. Mät på verklig nytta.
Vektorer, attention och kontext i transformers – praktisk grund för LLM-förståelse
Vektorer är numeriska representationer. Attention låter tokens påverkas av kontext parallellt. Ger intuition för promptdesign och varför vissa LLM-strukturer fungerar bättre.
Praktisk ML-lärväg 2026: från intuition till utvärderad deployment
Börja med intuition, bygg en reproducerbar kedja: problem → data → baslinje → utvärdering utan läckage → deployment.
AI-hemmalabb: hårdvara, VRAM och vad det faktiskt kostar
Ett hemmalabb har hårdvara, modell och harness. VRAM styr vad du kan köra; elförbrukning och kylning är verkliga kostnader. 80/20 local/cloud är ofta klokt.
AI-infrastruktur begränsas av energi, elnät och värme – inte bara acceleratorer
Storskalig AI begränsas ofta av effekt, elnät, kylning och energitillgång – inte bara modeller eller GPU:er. Flexibel arbetslast och placering nära energikällor blir viktiga.
Lokal LLM-hårdvara: Mac, NVIDIA och dedikerade system – jämförelse
Bandbredd, VRAM och watt avgör praktisk nytta. Apple ger bra balans och låg effekt; NVIDIA ger hastighet men drar mer el. Välj efter din arbetslast.
Lokala småmodeller som lärandeexperiment – träna din egen Tiny LLM
Träna en liten modell på begränsat dataset för att förstå LLM-pipelinen: data, träning, checkpoints. Bra experiment – inte en allmän assistent.
Neurala nätverk: struktur, aktiveringar och hur de lär sig
Neurala nätverk är kedjor av viktade summor och aktiveringsfunktioner. Gradient descent och backpropagation låter dem lära sig från exempel steg för steg.
Klassiska ML-modeller som baslinjer – träd, grannar och logistisk regression
Innan du går på stora neurala nätverk: bygg enkla, tolkningsbara baslinjer med träd, KNN och logistisk regression.
Hugging Face – AI-plattformen för modeller och samarbete
Hugging Face är ”GitHub för maskininlärning”. Här hittar, delar och använder du färdiga AI-modeller, dataset och interaktiva appar – utan att behöva träna allt själv från början.