Συνέντευξη Σχεδιασμού Συστήματος για AI Engineer: Ένας Πρακτικός Οδηγός

Το ερώτημα ακούγεται απίστευτα ευρύ την πρώτη φορά που το ακούτε: σχεδιάστε ένα σύστημα συστάσεων, ή σχεδιάστε ένα chatbot πάνω σε εσωτερικά έγγραφα εταιρείας. Αυτή η ενότητα εξηγεί τι βαθμολογεί ο συνεντευκτής, ώστε το εύρος να πάψει να είναι το πρόβλημα. Εν συντομία, βαθμολογούν αν μπορείτε να μετατρέψετε ένα ασαφές αίτημα προϊόντος σε ένα σύστημα με αριθμούς προσαρτημένους σε αυτό.

Τέσσερα πράγματα καθορίζουν το μεγαλύτερο μέρος της βαθμολογίας:

• Οριοθέτηση (scoping). Ρωτάτε ποιοι είναι οι χρήστες, πόσα ερωτήματα ανά δευτερόλεπτο, και ποιο επίπεδο ποιότητας μετράει ως επιτυχία πριν σχεδιάσετε οτιδήποτε;
• Κρίση σχετικά με τα δεδομένα. Από πού προέρχονται τα δεδομένα εκπαίδευσης, πώς επισημαίνονται (labeled), και τι διαρρέει ανάμεσα στην εκπαίδευση και την εξυπηρέτηση;
• Αξιολόγηση. Offline μετρικές συν ένα online guardrail. Μια απάντηση χωρίς σχέδιο αξιολόγησης φαίνεται junior, όσο καλή κι αν είναι η αρχιτεκτονική.
• Αίσθηση παραγωγής (production). Προϋπολογισμός καθυστέρησης, κόστος ανά αίτημα, ρυθμός επανεκπαίδευσης, και τι συμβαίνει όταν το μοντέλο κάνει λάθος.

Πέντε ερωτήματα καλύπτουν τους περισσότερους γύρους σχεδιασμού συστήματος για AI engineer:

• Retrieval augmented generation πάνω σε ιδιωτικά έγγραφα. Στρατηγική chunking, επιλογή embedding μοντέλου, vector index, reranking, και τι κάνετε όταν η ανάκτηση δεν επιστρέφει τίποτα σχετικό.
• Εξυπηρέτηση μοντέλων σε κλίμακα. Batching, quantization, διατήρηση των GPU απασχολημένων, caching, και ο στόχος καθυστέρησης p99 στον οποίο δεσμευτήκατε κατά την οριοθέτηση.
• Σύσταση ή κατάταξη (ranking). Δημιουργία υποψηφίων και έπειτα κατάταξη, ένα feature store, απόκλιση εκπαίδευσης-εξυπηρέτησης (training/serving skew), cold start.
• Ένα feature pipeline. Streaming έναντι batch, ορθότητα point-in-time, backfills.
• Μια agentic ροή εργασίας. Κλήσεις εργαλείων (tool calling), όρια βημάτων, ανώτατα όρια κόστους, και πώς παρεμβαίνει ένας άνθρωπος. Μια πληρέστερη τράπεζα ερωτήσεων βρίσκεται στην ενότητα τύποι συνεντεύξεων.

Καθένα από αυτά έχει ένα δύσκολο σημείο που περιμένει ο συνεντευκτής. Για την ανάκτηση είναι η αξιολόγηση, γιατί όλοι μπορούν να ονομάσουν μια vector database και λίγοι μπορούν να πουν πώς θα μετρούσαν αν η ανάκτηση βελτιώθηκε. Για την εξυπηρέτηση είναι ο συμβιβασμός κόστους και καθυστέρησης έναντι του μεγέθους του μοντέλου.

Αφιερώστε τα πρώτα πέντε λεπτά στις απαιτήσεις και τους αριθμούς, και γράψτε τους εκεί όπου μπορεί να τους δει ο συνεντευκτής: ερωτήματα ανά δευτερόλεπτο, αποδεκτή καθυστέρηση, επίπεδο ποιότητας, προϋπολογισμός. Ό,τι ακολουθεί αναφέρεται πίσω σε αυτούς τους τέσσερις αριθμούς, κάτι που κάνει μια απάντηση να ακούγεται σαν μηχανική και όχι σαν ξενάγηση σε εργαλεία.

Στη συνέχεια προχωρήστε πρώτα σε εύρος: ένα διάγραμμα με πηγές δεδομένων, offline εκπαίδευση, ένα artifact store, ένα μονοπάτι εξυπηρέτησης, και έναν βρόχο ανατροφοδότησης (feedback loop). Μόνο αφού υπάρχει ολόκληρη η εικόνα προχωράτε σε βάθος, και αφήνετε τον συνεντευκτή να επιλέξει το στοιχείο. Κλείστε αναφέροντας δύο τρόπους αποτυχίας και τι θα παρακολουθούσατε για να εντοπίσετε τον καθένα.

Μια μηχανικός ML που έκανε συνέντευξη για θέση senior σε μια εταιρεία αναζήτησης κλήθηκε να σχεδιάσει σημασιολογική αναζήτηση πάνω σε tickets υποστήριξης. Αφιέρωσε τέσσερα λεπτά στην οριοθέτηση, δεσμεύτηκε σε 200 χιλιοστά του δευτερολέπτου στο p95 και έναν σταθερό μηνιαίο προϋπολογισμό inference, και έπειτα χρησιμοποίησε και τους δύο αριθμούς για να απορρίψει έναν μεγάλο reranker υπέρ ενός μικρού cross-encoder πάνω στους 50 κορυφαίους υποψηφίους. Ο συμβιβασμός, όχι η επιλογή μοντέλου, είναι αυτό που βαθμολογήθηκε.

Ο σχεδιασμός συστήματος είναι προφορικός και οπτικός, οπότε ένας βοηθός βοηθά λιγότερο εδώ από ό,τι σε άλλους γύρους. Αυτό που μπορεί να κάνει είναι να κρατά τη λίστα ελέγχου μπροστά σας. Το SubcueAI ακούει τον ήχο της συνάντησης και τοποθετεί μια δομή σε ένα τοπικό overlay: ερωτήσεις οριοθέτησης που δεν έχετε κάνει ακόμα, την ενότητα αξιολόγησης που παραλείψατε, τους τρόπους αποτυχίας που αξίζει να αναφερθούν. Η desktop εφαρμογή σε macOS και Windows καταγράφει τον ήχο του συστήματος συν το μικρόφωνό σας· το πλαϊνό πάνελ της επέκτασης προγράμματος περιήγησης καταγράφει μόνο τον ήχο της καρτέλας της συνάντησης, οπότε ακούει τον συνεντευκτή χωρίς να μεταγράφει εσάς. Κανένα bot δεν συμμετέχει στην κλήση.

Τα όρια έχουν μεγαλύτερη σημασία σε αυτόν τον γύρο απ' ό,τι στους περισσότερους. Αν μοιράζεστε την οθόνη σας για να σχεδιάσετε ένα διάγραμμα, το overlay βρίσκεται μέσα σε ό,τι μοιράζεστε. Οι επιτηρούμενες αξιολογήσεις (proctored assessments) και οι μηχανές διαχειριζόμενες από εταιρεία είναι εκτός πεδίου εφαρμογής, και κανένα εργαλείο δεν είναι καθολικά μη ανιχνεύσιμο. Ένας βοηθός επίσης δεν μπορεί να επινοήσει την αρχιτεκτονική κρίση που βαθμολογείται. Η εξάσκηση αυτών των ερωτημάτων απέναντι σε έναν AI συνεντευκτή στη σελίδα προσομοίωση συνέντευξης χτίζει αυτό· το overlay απλώς σας εμποδίζει να ξεχάσετε την αξιολόγηση στο λεπτό 30.