Wawancara System Design AI Engineer: Panduan Praktis

Prompt ini terdengar sangat luas tak terkira saat pertama kali Anda mendengarnya: rancang sistem rekomendasi, atau rancang chatbot atas dokumen internal perusahaan. Bagian ini menjelaskan apa yang sebenarnya dinilai oleh pewawancara, sehingga keluasan topik berhenti menjadi masalah. Singkatnya, mereka menilai apakah Anda bisa mengubah permintaan produk yang samar menjadi sistem dengan angka-angka yang melekat padanya.

Empat hal yang paling menentukan nilai:

• Scoping. Apakah Anda menanyakan siapa penggunanya, berapa query per detik, dan standar kualitas apa yang dianggap sukses sebelum Anda mulai menggambar apa pun?
• Penilaian data. Dari mana data training berasal, bagaimana cara pelabelannya, dan apa yang bocor antara training dan serving?
• Evaluasi. Metrik offline ditambah guardrail online. Jawaban tanpa rencana evaluasi akan terkesan junior betapa pun bagusnya arsitektur yang diajukan.
• Kepekaan produksi. Anggaran latensi, biaya per request, kadensi retraining, dan apa yang terjadi ketika model salah.

Lima prompt ini mencakup sebagian besar ronde system design AI engineer:

• Retrieval augmented generation atas dokumen privat. Strategi chunking, pemilihan model embedding, vector index, reranking, dan apa yang Anda lakukan ketika retrieval tidak mengembalikan apa pun yang relevan.
• Model serving berskala besar. Batching, quantization, menjaga GPU tetap sibuk, caching, dan target latensi p99 yang telah Anda komitmenkan saat scoping.
• Rekomendasi atau ranking. Candidate generation lalu ranking, feature store, skew antara training dan serving, cold start.
• Feature pipeline. Streaming versus batch, point-in-time correctness, backfill.
• Agentic workflow. Tool calling, batas langkah, plafon biaya, dan bagaimana manusia turun tangan. Bank pertanyaan yang lebih lengkap ada di bagian jenis wawancara.

Masing-masing punya satu bagian sulit yang ditunggu pewawancara. Untuk retrieval, itu adalah evaluasi, karena semua orang bisa menyebut nama vector database tapi sedikit yang bisa menjelaskan cara mengukur apakah retrieval benar-benar membaik. Untuk serving, itu adalah trade-off biaya dan latensi terhadap ukuran model.

Habiskan lima menit pertama untuk requirement dan angka-angka, dan tuliskan di tempat yang bisa dilihat pewawancara: query per detik, latensi yang dapat diterima, standar kualitas, anggaran. Semua hal setelah itu merujuk kembali ke empat angka tersebut, dan itulah yang membuat jawaban terdengar seperti engineering, bukan sekadar tur alat-alat.

Setelah itu, mulailah dari breadth terlebih dahulu: sebuah diagram dengan sumber data, training offline, artifact store, jalur serving, dan feedback loop. Baru setelah gambaran besarnya lengkap, Anda melakukan deep dive, dan biarkan pewawancara memilih komponennya. Tutup dengan menyebutkan dua failure mode dan apa yang akan Anda monitor untuk menangkap masing-masing.

Seorang ML engineer yang mewawancarai posisi senior di sebuah perusahaan pencarian diminta merancang semantic search atas tiket support. Ia menghabiskan empat menit untuk scoping, berkomitmen pada 200 milidetik di p95 dan anggaran inferensi bulanan yang tetap, lalu menggunakan kedua angka itu untuk menolak reranker besar dan memilih cross-encoder kecil atas 50 kandidat teratas. Trade-off itu, bukan pilihan model, yang dinilai.

System design bersifat lisan dan visual, sehingga asisten kurang membantu di sini dibanding ronde lain. Yang bisa dilakukannya adalah menjaga checklist tetap ada di depan Anda. SubcueAI mendengarkan audio meeting dan menampilkan struktur pada overlay lokal: pertanyaan scoping yang belum Anda ajukan, bagian evaluasi yang Anda lewatkan, failure mode yang layak disebutkan. Aplikasi desktop di macOS dan Windows menangkap audio sistem ditambah mikrofon Anda; side panel ekstensi browser hanya menangkap audio dari tab meeting, sehingga ia mendengar pewawancara tanpa mentranskripsikan Anda. Tidak ada bot yang bergabung ke panggilan.

Batasan-batasannya lebih penting di ronde ini dibanding kebanyakan ronde lain. Jika Anda membagikan layar untuk menggambar diagram, overlay ikut berada di dalam apa yang Anda bagikan. Asesmen berpengawas (proctored) dan mesin yang dikelola perusahaan berada di luar cakupan, dan tidak ada tool yang tidak bisa terdeteksi secara universal. Asisten juga tidak bisa menciptakan penilaian arsitektur yang sedang dinilai. Berlatih prompt-prompt ini melawan pewawancara AI di halaman mock interview membangun kemampuan itu; overlay hanya mencegah Anda lupa soal evaluasi di menit ke-30.