AI-ingenjörens systemdesignintervju: en praktisk guide

Frågan låter omöjligt bred första gången du hör den: designa ett rekommendationssystem, eller designa en chatbot över interna företagsdokument. Det här avsnittet förklarar vad intervjuaren bedömer, så att bredden slutar vara problemet. Kort sagt bedömer de om du kan omvandla en vag produktfråga till ett system med siffror kopplade till sig.

Fyra saker står för större delen av bedömningen:

• Avgränsning. Frågar du vilka användarna är, hur många frågor per sekund, och vilken kvalitetsnivå som räknas som framgång innan du ritar något?
• Databedömning. Varifrån kommer träningsdata, hur märks den upp, och vad läcker mellan träning och servering?
• Utvärdering. Offline-mätvärden plus ett online-skyddsräcke. Ett svar utan utvärderingsplan uppfattas som juniort oavsett hur bra arkitekturen är.
• Produktionskänsla. Latensbudget, kostnad per förfrågan, omträningsfrekvens, och vad som händer när modellen har fel.

Fem typer av frågor täcker de flesta systemdesignrundor för AI-ingenjörer:

• Retrieval augmented generation över privata dokument. Chunkningsstrategi, val av embedding-modell, vektorindex, reranking, och vad du gör när retrieval inte returnerar något relevant.
• Modellservering i stor skala. Batching, kvantisering, att hålla GPU:erna sysselsatta, caching, och det p99-latensmål du åtog dig under avgränsningen.
• Rekommendation eller ranking. Kandidatgenerering följt av ranking, en feature store, skevhet mellan träning och servering, cold start.
• En feature-pipeline. Streaming kontra batch, point-in-time-korrekthet, backfills.
• Ett agentiskt arbetsflöde. Tool calling, stegbegränsningar, kostnadstak, och hur en människa ingriper. En fylligare frågebank finns i avsnittet intervjutyper.

Var och en av dessa har en svår del som intervjuaren väntar på. För retrieval är det utvärdering, eftersom alla kan nämna en vektordatabas men få kan säga hur de skulle mäta om retrieval förbättrades. För servering är det avvägningen mellan kostnad och latens mot modellstorlek.

Lägg de första fem minuterna på krav och siffror, och skriv dem där intervjuaren kan se dem: frågor per sekund, acceptabel latens, kvalitetsnivå, budget. Allt därefter hänvisar tillbaka till dessa fyra siffror, vilket är det som får ett svar att låta som ingenjörskonst istället för en rundtur bland verktyg.

Gå sedan bredd först: ett diagram med datakällor, offline-träning, ett artifact store, en serveringsväg, och en feedback-loop. Först efter att hela bilden finns går du på djupet, och låter intervjuaren välja komponent. Avsluta med att namnge två felägen och vad du skulle övervaka för att fånga vart och ett.

En ML-ingenjör som intervjuade för en seniorroll på ett sökföretag ombads designa semantisk sökning över supportärenden. Hon la fyra minuter på avgränsning, åtog sig 200 millisekunder vid p95 och en fast månatlig inferensbudget, och använde sedan båda siffrorna för att förkasta en stor reranker till förmån för en liten cross-encoder över de 50 bästa kandidaterna. Avvägningen, inte modellvalet, var det som bedömdes.

Systemdesign är muntlig och visuell, så en assistent hjälper mindre här än i andra rundor. Det den kan göra är att hålla checklistan framför dig. SubcueAI lyssnar på mötesljudet och lägger en struktur på ett lokalt overlay: avgränsningsfrågor du ännu inte har ställt, utvärderingsavsnittet du hoppade över, felägena värda att nämna. Skrivbordsappen på macOS och Windows fångar systemljud plus din mikrofon; webbläsartilläggets sidopanel fångar bara mötesflikens ljud, så den hör intervjuaren utan att transkribera dig. Ingen bot ansluter till samtalet.

Begränsningarna spelar större roll i den här rundan än i de flesta. Om du delar din skärm för att rita ett diagram är overlayen inuti det du delar. Övervakade prov och företagsstyrda datorer ligger utanför räckvidden, och inget verktyg är universellt odetekterbart. En assistent kan inte heller uppfinna den arkitekturbedömning som betygsätts. Att öva dessa frågor mot en AI-intervjuare på sidan mock-intervju bygger den förmågan; overlayen håller dig bara från att glömma utvärdering vid minut 30.