Interviul de Design de Sistem pentru Ingineri AI: Un Ghid Practic

De Aaron Cao · Actualizat la

Îți cere să proiectezi un sistem de machine learning de la un capăt la altul: date și caracteristici, antrenare și evaluare, servire și latență, monitorizare și drift. Rundele recente se bazează puternic pe retrieval augmented generation și servirea modelelor. Notarea se face pe baza compromisurilor pe care le poți argumenta, nu pe o singură arhitectură corectă.

Ce testează de fapt runda

Cerința sună imposibil de vastă prima dată când o auzi: proiectează un sistem de recomandare, sau proiectează un chatbot peste documentele interne ale companiei. Această secțiune explică ce notează de fapt intervievatorul, astfel încât amploarea să nu mai fie problema. Pe scurt, se notează dacă poți transforma o cerință de produs vagă într-un sistem cu cifre atașate.

Patru lucruri cântăresc cel mai mult în notă:

  • Delimitarea scopului (scoping). Întrebi cine sunt utilizatorii, câte interogări pe secundă și ce prag de calitate contează drept succes, înainte să desenezi ceva?
  • Judecata privind datele. De unde provin datele de antrenare, cum sunt etichetate și ce se scurge (leak) între antrenare și servire?
  • Evaluarea. Metrici offline plus un guardrail online. Un răspuns fără un plan de evaluare sună junior, indiferent cât de bună este arhitectura.
  • Simțul producției. Bugetul de latență, costul per cerere, ritmul de reantrenare și ce se întâmplă când modelul greșește.

Cerințele care tot apar

Cinci cerințe acoperă majoritatea rundelor de design de sistem pentru ingineri AI:

  • Retrieval augmented generation peste documente private. Strategia de chunking, alegerea modelului de embedding, indexul vectorial, reranking și ce faci când retrieval-ul nu întoarce nimic relevant.
  • Servirea modelelor la scară. Batching, cuantizare, menținerea GPU-urilor ocupate, caching și ținta de latență p99 la care te-ai angajat în etapa de scoping.
  • Recomandare sau ranking. Generarea de candidați urmată de ranking, un feature store, skew între antrenare și servire, cold start.
  • Un pipeline de caracteristici (feature pipeline). Streaming versus batch, corectitudine point-in-time, backfill-uri.
  • Un flux de lucru agentic. Apelarea de instrumente (tool calling), limite de pași, plafoane de cost și modul în care intervine un om. O bancă de întrebări mai completă se află în secțiunea tipuri de interviuri.

Fiecare dintre acestea are o parte dificilă pe care intervievatorul o așteaptă. Pentru retrieval, aceasta este evaluarea, pentru că oricine poate numi o bază de date vectorială, dar puțini pot spune cum ar măsura dacă retrieval-ul s-a îmbunătățit. Pentru servire, este compromisul dintre cost și latență în raport cu dimensiunea modelului.

O structură care rezistă 45 de minute

Petrece primele cinci minute pe cerințe și cifre, și scrie-le acolo unde intervievatorul le poate vedea: interogări pe secundă, latență acceptabilă, prag de calitate, buget. Tot ce urmează se raportează la aceste patru cifre, ceea ce face ca răspunsul să sune ca inginerie, nu ca un tur de instrumente.

Apoi mergi mai întâi în lățime: o diagramă cu surse de date, antrenare offline, un artifact store, o cale de servire și o buclă de feedback. Abia după ce întreaga imagine există intri în profunzime, și lasă intervievatorul să aleagă componenta. Încheie numind două moduri de eșec și ce ai monitoriza pentru a le detecta pe fiecare.

O inginer ML care intervieva pentru un rol senior la o companie de căutare a fost rugată să proiecteze căutarea semantică peste tichete de suport. Ea a petrecut patru minute pe scoping, s-a angajat la 200 de milisecunde la p95 și un buget lunar fix de inferență, apoi a folosit ambele cifre pentru a respinge un reranker mare în favoarea unui cross-encoder mic peste primii 50 de candidați. Compromisul, nu alegerea modelului, este ceea ce a fost notat.

Unde ajută un asistent live într-o rundă de design

Designul de sistem este vorbit și vizual, așa că un asistent ajută mai puțin aici decât în alte runde. Ce poate face este să țină lista de verificare în fața ta. SubcueAI ascultă audio-ul întâlnirii și pune o structură pe un overlay local: întrebări de scoping pe care încă nu le-ai pus, secțiunea de evaluare pe care ai sărit-o, modurile de eșec care merită numite. Aplicația desktop pe macOS și Windows captează audio-ul de sistem plus microfonul tău; panoul lateral al extensiei de browser captează doar audio-ul tab-ului întâlnirii, așa că îl aude pe intervievator fără să te transcrie pe tine. Niciun bot nu se alătură apelului.

Limitele contează mai mult în această rundă decât în majoritatea celorlalte. Dacă îți partajezi ecranul pentru a desena o diagramă, un overlay se află în interiorul a ceea ce partajezi. Evaluările supravegheate (proctored) și calculatoarele gestionate de companie sunt în afara scopului, și niciun instrument nu este universal nedetectabil. Un asistent nici nu poate inventa judecata de arhitectură care este notată. Exersarea acestor cerințe în fața unui intervievator AI pe pagina interviu simulat construiește exact asta; overlay-ul doar te ține să nu uiți evaluarea la minutul 30.

Întrebări frecvente

Trebuie să cunosc o bază de date vectorială anume, pe nume?

E în regulă să numești una, dar contează mai mult să argumentezi alegerea. Intervievatorii întreabă de ce acel index, care este compromisul de recall și cum ai reindexa fără downtime.

Cât de multă matematică așteaptă aceste runde?

Suficientă cât să dimensionezi lucrurile: dimensiunile embedding-urilor raportate la memoria indexului, tokenurile raportate la cost, dimensiunea batch-ului raportată la latență. Derivările sunt rare, aritmetica pe care o poți face cu voce tare este comună.

Este o rundă de design de sistem pentru ingineri AI diferită de una clasică?

Cadrul este același. Diferența este că datele, evaluarea și ciclul de viață al modelului au aceeași pondere pe care o rundă clasică o acordă sharding-ului și consistenței.

Poate SubcueAI să ajute în timp ce desenez o diagramă?

Poate să îți sugereze părțile din cadru pe care nu le-ai acoperit. Dacă diagrama este pe un ecran partajat, ține minte că overlay-ul se află în interiorul a ceea ce partajezi.

Întrebări similare

← Mai mult despre Tipuri de interviu