Colloquio di system design per AI engineer: una guida pratica

La prima volta che la senti, la domanda sembra impossibilmente ampia: progetta un sistema di raccomandazione, oppure progetta un chatbot sui documenti interni dell'azienda. Questa sezione spiega cosa valuta l'intervistatore, così l'ampiezza smette di essere il problema. In breve, valutano se riesci a trasformare una richiesta di prodotto vaga in un sistema con numeri attaccati.

Quattro elementi determinano la maggior parte del punteggio:

• Scoping. Chiedi chi sono gli utenti, quante query al secondo, e quale soglia di qualità conta come successo prima di disegnare qualsiasi cosa?
• Giudizio sui dati. Da dove vengono i dati di addestramento, come sono etichettati, e cosa trapela tra addestramento e serving?
• Valutazione. Metriche offline più un guardrail online. Una risposta senza un piano di valutazione suona da junior, per quanto buona sia l'architettura.
• Senso della produzione. Budget di latenza, costo per richiesta, cadenza di riaddestramento, e cosa succede quando il modello sbaglia.

Cinque prompt coprono la maggior parte dei colloqui di system design per AI engineer:

• Retrieval augmented generation su documenti privati. Strategia di chunking, scelta del modello di embedding, indice vettoriale, reranking, e cosa fai quando il retrieval non restituisce nulla di rilevante.
• Model serving su larga scala. Batching, quantizzazione, tenere le GPU occupate, caching, e il target di latenza p99 a cui ti sei impegnato durante lo scoping.
• Raccomandazione o ranking. Generazione dei candidati e poi ranking, un feature store, skew tra training e serving, cold start.
• Una pipeline di feature. Streaming contro batch, correttezza point in time, backfill.
• Un workflow agentico. Tool calling, limiti di step, tetti di costo, e come interviene un umano. Un elenco più completo di domande si trova nella sezione tipi di colloquio.

Ognuno di questi ha un punto difficile che l'intervistatore aspetta. Per il retrieval è la valutazione, perché tutti sanno nominare un database vettoriale ma pochi sanno dire come misurerebbero se il retrieval è migliorato. Per il serving è il compromesso tra costo e latenza rispetto alla dimensione del modello.

Dedica i primi cinque minuti a requisiti e numeri, e scrivili dove l'intervistatore possa vederli: query al secondo, latenza accettabile, soglia di qualità, budget. Tutto ciò che segue fa riferimento a quei quattro numeri, ed è questo che fa suonare una risposta come ingegneria e non come un tour di strumenti.

Poi procedi in ampiezza: un diagramma con le fonti dati, l'addestramento offline, un artifact store, un percorso di serving e un feedback loop. Solo dopo che l'intero quadro esiste approfondisci, lasciando che sia l'intervistatore a scegliere il componente. Chiudi nominando due modalità di guasto e cosa monitoreresti per intercettare ciascuna.

Un'ingegnera ML che sosteneva un colloquio per un ruolo senior in un'azienda di motori di ricerca ha ricevuto il compito di progettare la ricerca semantica sui ticket di supporto. Ha dedicato quattro minuti allo scoping, si è impegnata su 200 millisecondi a p95 e un budget mensile fisso per l'inferenza, poi ha usato entrambi i numeri per scartare un grande reranker a favore di un piccolo cross-encoder sui primi 50 candidati. Il compromesso, non la scelta del modello, è ciò che è stato valutato.

Il system design è parlato e visivo, quindi un assistente aiuta meno qui che in altri colloqui. Quello che può fare è tenerti davanti la checklist. SubcueAI ascolta l'audio della riunione e mette una struttura su un overlay locale: le domande di scoping che non hai ancora fatto, la sezione di valutazione che hai saltato, le modalità di guasto che vale la pena nominare. L'app desktop su macOS e Windows cattura l'audio di sistema più il tuo microfono; il pannello laterale dell'estensione del browser cattura solo l'audio della scheda della riunione, quindi sente l'intervistatore senza trascrivere te. Nessun bot entra nella chiamata.

I limiti contano più in questo colloquio che nella maggior parte degli altri. Se stai condividendo lo schermo per disegnare un diagramma, un overlay è dentro ciò che condividi. Le valutazioni con proctoring e le macchine gestite dall'azienda sono fuori portata, e nessuno strumento è universalmente non rilevabile. Un assistente inoltre non può inventare il giudizio architetturale che viene valutato. Esercitarsi con questi prompt contro un intervistatore AI nella pagina colloquio simulato costruisce quello; l'overlay serve solo a evitare che tu dimentichi la valutazione al minuto 30.