Attention – hur sammanhang formar representationer
Följ banken från startembedding till kontextberoende representation. Ett litet räkneexempel visar frågor, nycklar, softmax och blandade värdevektorer.
Tagg
#transformers
2 onepagers med denna tagg.
Vektorer, attention och kontext i transformers – praktisk grund för LLM-förståelse
Vektorer är numeriska representationer. Attention låter tokens påverkas av kontext parallellt. Ger intuition för promptdesign och varför vissa LLM-strukturer fungerar bättre.
Hugging Face – AI-plattformen för modeller och samarbete
Hugging Face är ”GitHub för maskininlärning”. Här hittar, delar och använder du färdiga AI-modeller, dataset och interaktiva appar – utan att behöva träna allt själv från början.