ما أسئلة مقابلة Databricks التي ينبغي أن أتوقعها؟
بقلم Aaron Cao · آخر تحديث

توقع أربع مجموعات: Delta Lake (سجل المعاملات، وضمانات ACID، والسفر عبر الزمن، وMERGE)، وبنية الميدالية (طبقات البرونز والفضة والذهب)، وSpark على Databricks (التقسيمات، وعمليات التبديل، والتخزين المؤقت، وتحديد حجم العنقود)، والحوكمة (Unity Catalog، ومساحات العمل، والمهام). تمنحك أسئلة السيناريوهات مسار بيانات بطيئا أو متعطلا وتقيّم طريقة استقصائك.
ما أسئلة Delta Lake التي تطرح أولا؟
تبدأ مقابلات Databricks عادة بأسئلة Delta Lake لأن المنصة مبنية عليها. استعد لشرح ما يضيفه جدول Delta إلى ملفات Parquet العادية: سجل معاملات يوثق كل عملية اعتماد، ما يتيح عمليات كتابة ذرية وقراءات متسقة وإمكانية الاستعلام عن الجدول كما كان في إصدار سابق. تسلسل الأسئلة اللاحقة متوقع: كيف يعمل السفر عبر الزمن (قراءة لقطة سابقة من السجل)، وما الذي يزيله VACUUM ولماذا يحد ذلك من مدى الرجوع إلى الماضي، وكيف تنفذ MERGE أنماط الإدراج أو التحديث والتقاط تغييرات البيانات.
- فرض المخطط وتطويره. ترفض عمليات الكتابة التي لا تطابق المخطط ما لم يكن تطويره مفعلا؛ اشرح متى تسمح بذلك.
- OPTIMIZE وتخطيط الملفات. تضر الملفات الصغيرة بأداء القراءة؛ تعيد عملية الدمج كتابتها، ويضع التجميع أو ترتيب Z القيم التي تصفي الاستعلامات بناء عليها بالقرب من بعضها.
- البث والمعالجة الدفعية في جدول واحد. يمكن أن يكون جدول Delta نفسه وجهة للبث ومصدرا للمعالجة الدفعية؛ اشرح المقصود بالتنفيذ مرة واحدة بالضبط في مهمة Structured Streaming تكتب إلى Delta.
- Delta Live Tables ومسارات البيانات. مسارات بيانات تصريحية تتضمن توقعات لجودة البيانات؛ استعد لشرح ما يفعله التوقع عندما لا يستوفيه صف.
أجب بذكر الآلية. القول إن Delta توفر ACID هو الشعار؛ أما توضيح أن سجل المعاملات يخفي عن القراء عملية كتابة فشلت جزئيا فهو الإجابة.
كيف تطرح أسئلة بنية الميدالية وتصميم مسارات البيانات؟
لقد أنشأت طبقات البرونز والفضة والذهب، وتظن أن المحاور يريد أكثر من مجرد أسمائها. ظنك صحيح، لذا يوضح هذا القسم منطق تصميم كل طبقة والأسئلة التي تختبره.
- البرونز. استيعاب البيانات الخام، والإلحاق فقط، والمخطط كما ورد. سؤال لاحق: لماذا نحتفظ بالبيانات الخام أصلا إذا كانت الفضة أنظف؟ لإعادة المعالجة والتدقيق.
- الفضة. سجلات منظفة ومزالة التكرار وموحدة. سؤال لاحق: كيف تزيل التكرار من تدفق أحداث قد يصل متأخرا أو مرتين، وما دور العلامات المائية؟
- الذهب. تجميعات وجداول على مستوى الأعمال للمحللين ولوحات المعلومات. سؤال لاحق: من يملك التعريفات، وكيف تمنع اختلاف جدولين ذهبيين حول الإيرادات؟
- التنسيق. المهام وتبعياتها وإعادة المحاولة والتنبيهات. سؤال لاحق: كيف تجعل المهمة قابلة لإعادة التنفيذ بأمان كي لا تؤدي إعادتها إلى العد المزدوج؟
- الاستيعاب. استخدام Auto Loader لاكتشاف الملفات تدريجيا، وسبب عدم قابلية سرد الدليل بطريقة ساذجة للتوسع.
يسأل المحاورون أيضا عن التكلفة: لماذا لا يناسب العنقود متعدد الأغراض مهمة مجدولة، ومتى يلائم عنقود المهام أو الحوسبة بلا خوادم، وكيف يغير التوسع التلقائي والمثيلات الفائضة الفاتورة. حدد القيد، واختر الآلية، واذكر التكلفة.
ما أسئلة ضبط Spark والسيناريوهات التي ينبغي أن أستعد لها؟
تقدم لك المقابلات المتقدمة عرضا لمشكلة. ومن أمثلتها: يقال لمهندس بيانات يجري مقابلة لشغل دور في المنصة لدى شركة بيع بالتجزئة إن مهمة ليلية تربط الطلبات بجدول أبعاد العملاء انتقلت من دقائق إلى ساعات بعد طفرة في نمو البيانات. تبدأ الإجابة القوية بخطة الاستعلام وواجهة Spark بدلا من عنقود أكبر: فتتحقق مما إذا أصبح الربط يعتمد على التبديل بدلا من البث، وما إذا كان هناك انحراف في بضعة مفاتيح، وما إذا كان عدد تقسيمات التبديل ما زال ملائما للبيانات، وما إذا كانت الجداول المصدر تعاني من مشكلة الملفات الصغيرة التي يمكن أن يصلحها OPTIMIZE. يقيّم المحاور ترتيب خطوات الاستقصاء.
من السيناريوهات المتكررة الأخرى: مهمة بث يتزايد تأخرها باستمرار وكيف تتفاعل فواصل التشغيل وحجم الحالة والعلامات المائية؛ ودفتر ملاحظات يعمل لمستخدم ويفشل لدى آخر، وهي غالبا مشكلة أذونات تقود إلى Unity Catalog ومساحات العمل وهويات الخدمة؛ وجدول يشكو المحللون من قدم بياناته، وهو سؤال عن حداثة البيانات والتنسيق؛ وطلب إتاحة البيانات بأمان لفريق آخر، وهنا يأتي دور Delta Sharing والمنح على مستوى الكتالوج.
تدرب عليها بصوت عال مع أسئلة متابعة قبل المكالمة الحقيقية؛ فقد صمم وضع المقابلة التجريبية لأسئلة السيناريوهات، وتوجد المجموعة الأوسع من بنوك أسئلة البيانات والهندسة ضمن أسئلة المقابلات حسب الدور والموضوع.
هل يمكن لمساعد مقابلات بالذكاء الاصطناعي المساعدة في أسئلة Databricks؟
نعم في الجولات الحوارية، ولكن ضمن حدود واضحة. يلتقط تطبيق SubcueAI الأصلي لسطح المكتب على macOS وWindows صوت النظام والميكروفون ويعرض اقتراحات قصيرة للإجابات في طبقة محلية، فعندما يسأل المحاور عما تفعله العلامة المائية عند إزالة التكرار في البث، تظهر الآلية على شاشتك بينما تشرحها بكلماتك. تغطي إضافة المتصفح المكالمات داخل علامات تبويب Chrome وEdge عبر التقاط صوت علامة تبويب الاجتماع فقط. لا ينضم أي روبوت إلى المكالمة ولا يحقن أي شيء في صفحة الاجتماع؛ ويتوفر شرح الإعداد في صفحة الدليل التعليمي.
أما الحدود فهي: الاختبار المراقب أو الشاشة المسجلة أو الحاسوب المحمول الخاضع لإدارة الشركة أو تمرين مباشر في دفتر ملاحظات تكتب فيه PySpark تحت المراقبة، فجميعها خارج النطاق، وغالبا ما تضع مقابلات Databricks الجزء الأصعب فيها. يقدم المساعد أفضل أداء في أسئلة البنية والمفاضلات. حمّل سيرتك الذاتية أولا كي تعكس الاقتراحات مسارات البيانات التي أنشأتها فعليا؛ ويحتفظ منشئ السيرة الذاتية بهذا الملف التعريفي.