System-Design-Interview für KI-Ingenieure: ein praktischer Leitfaden

Beim ersten Hören klingt die Aufgabe unmöglich breit: Entwirf ein Empfehlungssystem, oder entwirf einen Chatbot über interne Firmendokumente. Dieser Abschnitt erklärt, was der Interviewer tatsächlich bewertet, damit die Breite nicht mehr das Problem ist. Kurz gesagt: bewertet wird, ob du eine vage Produktanfrage in ein System mit konkreten Zahlen übersetzen kannst.

Vier Dinge machen den Großteil der Bewertung aus:

• Scoping.Fragst du, wer die Nutzer sind, wie viele Anfragen pro Sekunde anfallen, und welche Qualitätsschwelle als Erfolg zählt, bevor du irgendetwas aufzeichnest?
• Datenkompetenz.Woher kommen die Trainingsdaten, wie werden sie gelabelt, und was leckt zwischen Training und Serving?
• Evaluation.Offline-Metriken plus ein Online-Guardrail. Eine Antwort ohne Evaluationsplan wirkt junior, egal wie gut die Architektur ist.
• Production-Gespür.Latenzbudget, Kosten pro Anfrage, Retraining-Rhythmus, und was passiert, wenn das Modell falschliegt.

Fünf Aufgabentypen decken die meisten System-Design-Interviews für KI-Ingenieure ab:

• Retrieval Augmented Generation über private Dokumente.Chunking-Strategie, Wahl des Embedding-Modells, Vektorindex, Reranking, und was du tust, wenn die Retrieval-Ergebnisse nichts Relevantes liefern.
• Model Serving im großen Maßstab.Batching, Quantisierung, die GPUs ausgelastet halten, Caching, und das p99-Latenzziel, auf das du dich beim Scoping festgelegt hast.
• Empfehlung oder Ranking.Kandidatengenerierung und danach Ranking, ein Feature Store, Skew zwischen Training und Serving, Cold Start.
• Eine Feature-Pipeline.Streaming gegen Batch, Point-in-Time-Korrektheit, Backfills.
• Ein agentischer Workflow.Tool-Aufrufe, Schrittlimits, Kostenobergrenzen, und wie ein Mensch eingreift. Eine umfangreichere Fragensammlung findest du im Abschnitt Interviewtypen.

Jede dieser Aufgaben hat einen schwierigen Punkt, auf den der Interviewer wartet. Bei Retrieval ist es die Evaluation, denn jeder kann eine Vektordatenbank nennen, aber nur wenige können sagen, wie sie messen würden, ob sich das Retrieval verbessert hat. Beim Serving ist es der Trade-off zwischen Kosten und Latenz gegenüber der Modellgröße.

Verbring die ersten fünf Minuten mit Anforderungen und Zahlen, und schreib sie dorthin, wo der Interviewer sie sehen kann: Anfragen pro Sekunde, akzeptable Latenz, Qualitätsschwelle, Budget. Alles Weitere bezieht sich auf diese vier Zahlen zurück, und genau das lässt die Antwort wie Engineering klingen statt wie eine Tour durch Tools.

Geh dann breadth first vor: ein Diagramm mit Datenquellen, Offline-Training, einem Artifact Store, einem Serving-Pfad und einer Feedback-Schleife. Erst wenn das gesamte Bild steht, gehst du in die Tiefe, und du lässt den Interviewer die Komponente auswählen. Schließe ab, indem du zwei Fehlermodi nennst und was du überwachen würdest, um jeden davon zu erkennen.

Eine Machine-Learning-Ingenieurin, die sich für eine Senior-Position bei einem Suchunternehmen bewarb, sollte semantische Suche über Support-Tickets entwerfen. Sie verbrachte vier Minuten mit dem Scoping, legte sich auf 200 Millisekunden bei p95 und ein festes monatliches Inferenzbudget fest, und nutzte dann beide Zahlen, um einen großen Reranker zugunsten eines kleinen Cross-Encoders über die 50 besten Kandidaten zu verwerfen. Bewertet wurde der Trade-off, nicht die Modellwahl.

System Design ist gesprochen und visuell, daher hilft ein Assistent hier weniger als in anderen Runden. Was er tun kann, ist die Checkliste vor dir zu halten. SubcueAI hört das Meeting-Audio ab und legt eine Struktur auf ein lokales Overlay: Scoping-Fragen, die du noch nicht gestellt hast, den Evaluationsabschnitt, den du übersprungen hast, die Fehlermodi, die es wert sind, genannt zu werden. Die Desktop-App auf macOS und Windows erfasst System-Audio plus dein Mikrofon; das Seitenpanel der Browser-Erweiterung erfasst nur das Audio des Meeting-Tabs, sodass sie den Interviewer hört, ohne dich zu transkribieren. Kein Bot tritt dem Call bei.

Die Grenzen sind in dieser Runde wichtiger als in den meisten anderen. Wenn du deinen Bildschirm teilst, um ein Diagramm zu zeichnen, ist das Overlay Teil dessen, was du teilst. Beaufsichtigte Assessments und firmenverwaltete Rechner liegen außerhalb des Anwendungsbereichs, und kein Tool ist universell unentdeckbar. Ein Assistent kann außerdem nicht das architektonische Urteilsvermögen erfinden, das bewertet wird. Diese Aufgaben gegen einen KI-Interviewer auf der Seite Mock-Interview zu üben, baut das auf; das Overlay sorgt nur dafür, dass du die Evaluation in Minute 30 nicht vergisst.