Interview sa System Design para sa AI Engineer: Isang Praktikal na Gabay

Sa unang pagkakataong marinig ito, parang imposibleng kalawakan ang tanong: i-design ang isang recommendation system, o i-design ang isang chatbot na nakabatay sa mga panloob na dokumento ng kumpanya. Ipinapaliwanag ng seksyong ito kung ano talaga ang sinusukat ng interviewer, para ang lawak na iyon ay hindi na maging problema. Sa madaling salita, sinusukat nila kung kaya mong gawing isang system na may kasamang mga numero ang isang malabo na kahilingan sa produkto.

Apat na bagay ang bumubuo sa karamihan ng iskor:

• Scoping.Tinatanong mo ba kung sino ang mga user, ilang query bawat segundo ang inaasahan, at anong quality bar ang tinuturing na tagumpay, bago ka pa magsimulang gumuhit?
• Paghatol sa data.Saan galing ang training data, paano ito nila-label, at ano ang tumatagas sa pagitan ng training at serving?
• Evaluation.Offline metrics kasama ng isang online guardrail. Ang isang sagot na walang evaluation plan ay parang junior, kahit gaano pa kaganda ang architecture.
• Production sense.Latency budget, gastos bawat request, dalas ng retraining, at kung ano ang mangyayari kapag nagkamali ang model.

Limang tanong ang sumasaklaw sa karamihan ng mga system design interview para sa AI engineer:

• Retrieval augmented generation sa mga pribadong dokumento.Estratehiya sa chunking, pagpili ng embedding model, vector index, reranking, at kung ano ang gagawin mo kapag walang naibalik na kaugnay na resulta ang retrieval.
• Model serving sa malaking sukat.Batching, quantization, pagpapanatiling abala ang mga GPU, caching, at ang p99 latency target na ipinangako mo noong scoping.
• Recommendation o ranking.Candidate generation pagkatapos ranking, isang feature store, skew sa pagitan ng training at serving, cold start.
• Isang feature pipeline.Streaming laban sa batch, point-in-time correctness, mga backfill.
• Isang agentic workflow.Pagtawag sa mga tool, mga limitasyon sa hakbang, mga hangganan sa gastos, at kung paano nakikialam ang isang tao. Ang mas kumpletong question bank ay nasa seksyon ng mga uri ng interview.

Bawat isa sa mga ito ay may isang mahirap na bahagi na hinihintay ng interviewer. Para sa retrieval, ito ang evaluation, dahil kayang pangalanan ng lahat ang isang vector database ngunit kakaunti ang makakapagsabi kung paano nila susukatin kung gumanda nga ang retrieval. Para sa serving, ito ang trade-off sa pagitan ng gastos at latency laban sa laki ng model.

Gugulin ang unang limang minuto sa mga requirement at numero, at isulat ang mga ito kung saan makikita ng interviewer: query bawat segundo, katanggap-tanggap na latency, quality bar, budget. Ang lahat pagkatapos noon ay babalik-balik sa apat na numerong ito, at ito ang nagpapatunog sa sagot na parang engineering sa halip na isang tour ng mga tool.

Pagkatapos, magpatuloy nang breadth first: isang diagram na may mga data source, offline training, isang artifact store, isang serving path, at isang feedback loop. Pagkatapos lamang lumitaw ang buong larawan saka ka mag-de-deep dive, at hayaan mong ang interviewer ang pumili ng component. Tapusin sa pamamagitan ng pagpapangalan ng dalawang failure mode at kung ano ang imo-monitor mo para mahuli ang bawat isa.

Isang ML engineer na nag-i-interview para sa isang senior role sa isang search company ang hiniling na i-design ang semantic search sa mga support ticket. Gumugol siya ng apat na minuto sa scoping, nangako sa 200 millisecond sa p95 at isang naka-fix na buwanang inference budget, pagkatapos ay ginamit ang dalawang numerong iyon para tanggihan ang isang malaking reranker at piliin ang isang maliit na cross-encoder sa nangungunang 50 candidate. Ang trade-off, hindi ang pagpili ng model, ang na-grade.

Ang system design ay sinasabi at ipinapakita nang visual, kaya mas kaunti ang tulong ng isang assistant dito kaysa sa ibang round. Ang kaya nitong gawin ay panatilihin ang checklist sa harap mo. Nakikinig ang SubcueAI sa audio ng meeting at naglalagay ng istraktura sa isang lokal na overlay: mga tanong sa scoping na hindi mo pa naitatanong, ang bahagi ng evaluation na nilaktawan mo, ang mga failure mode na sulit banggitin. Kinukuha ng desktop app sa macOS at Windows ang system audio kasama ang iyong mikropono; ang side panel ng browser extension ay kumukuha lamang ng audio ng meeting tab, kaya naririnig nito ang interviewer nang hindi ini-transcribe ka. Walang bot na sumasali sa tawag.

Mas mahalaga ang mga limitasyon sa round na ito kaysa sa karamihan. Kung ikaw ay nagsha-share ng iyong screen para gumuhit ng diagram, ang overlay ay kasama sa ibinabahagi mo. Ang mga proctored assessment at mga makinang pinapamahalaan ng kumpanya ay wala sa saklaw, at walang tool na universal na hindi matutukoy. Hindi rin kayang likhain ng isang assistant ang architectural judgment na sinusukat. Ang pagsasanay ng mga tanong na ito laban sa isang AI interviewer sa pahina ng mock interview ang bumubuo niyan; ang overlay lamang ang pumipigil sa iyo na makalimutan ang evaluation sa minuto 30.