Hur AI faktiskt fungerar: inga modeord, bara mekaniken

Neurala nätverk, transformers, hallucinationer, energikostnader — här är vad som faktiskt händer när du pratar med en AI.

Neurala nätverk är inte magi

Låt oss börja med vad ett neuralt nätverk faktiskt är: en matematisk funktion med miljarder justerbara parametrar som tar indata (text, bilder) och producerar utdata. "Neural"-metaforen är lös — dessa nätverk inspirerades av biologiska neuroner men liknar föga verklig hjärnarkitektur. Det de delar med hjärnan är att de lär sig från exempel snarare än att programmeras med explicita regler. Träning är processen att justera parametrarna. Algoritmen kallas backpropagation, utvecklad av Rumelhart, Hinton och Williams 1986.

Vad "stor språkmodell" faktiskt betyder

En stor språkmodell (LLM) är ett neuralt nätverk tränat att förutsäga nästa token i en sekvens. GPT-4, Claude, LLaMA — alla dessa är i grunden sofistikerade nästa-token-prediktorer. Transformer-arkitekturen, introducerad av Vaswani och kollegor vid Google i "Attention Is All You Need" (2017), är grunden för nästan alla moderna LLM. Nyckelinnovationen: uppmärksamhetsmekanismer som låter modellen väga relationer mellan vilka som helst två positioner i indatasekvensen.

Inferens vs. träning

Träning och inferens är fundamentalt olika operationer. Träning justerar modellens parametrar och kräver massiva beräkningsresurser — GPT-4s träning beräknades kosta över 100 miljoner dollar. Inferens är att köra den tränade modellen för att generera svar. Modellen lär sig inte från ditt samtal. Dess kunskap är fryst vid träningsavstängningsdatumet.

Hallucinationer: varför AI konfident hittar på

Hallucinationer — när modellen producerar flytande, säkert, faktamässigt fel utdata — är inte implementationsfel utan arkitekturens egenskaper. En LLM är tränad att producera plausibel text, inte korrekt text. Den saknar en intern flagga för "jag vet inte detta." Retrieval-augmented generation (RAG) hjälper men eliminerar inte hallucinationer helt.

Energikostnaden ingen pratar om

Träningen av GPT-3 beräknades generera ungefär 552 metriska ton CO₂-ekvivalenter. En enda ChatGPT-fråga förbrukar ungefär 10 gånger energin av en Google-sökning. En Goldman Sachs-rapport 2023 uppskattade att AI-datacenter kan stå för 8 procent av USA:s elförbrukning år 2030.

Vad AI kan och inte kan göra

Nuvarande AI utmärker sig på: mönsterigenkänning, flytande textgenerering, översättning, kodgenerering, sammanfattning. Det kämpar med: tillförlitlig fakta-recall (hallucinationer), precis aritmetik, långsiktig planering, genuin kausal resonering och uppgifter som kräver kunskap om händelser efter träningsavstängningsdatumet.

Vanliga frågor

Fråga: Förstår AI som ChatGPT verkligen språk, eller är det bara mönstermatchning?

Svar: Detta är genuint omtvistat. Tekniskt sett utför LLM mycket sofistikerad mönstermatchning. Huruvida detta utgör "förståelse" beror på definitionen av förståelse — en fråga filosofer inte löst. Det ärliga svaret: vi förstår inte fullt ut vad som händer inuti dessa modeller.

Fråga: Hur skiljer sig "resonerande" modeller som o1 från standardspråkmodeller?

Svar: Resonerande modeller använder kedjeav-tankar inbyggt i träningen — de tränas att producera mellanliggande resonemangssteg, ofta med förstärkt inlärning från verifierbara utfall. Det förbättrar prestanda på problem med kontrollerbara korrekta svar avsevärt. Den underliggande arkitekturen är samma transformer; skillnaden ligger i träningsmetodologin.

Nyfikna sinnen hör ihop. Hitta människor som ställer samma frågor på Good People Map.