מהנדס נתונים בכיר, תשתיות ClickHouse — Solidus Labs (היברידי, בריטניה)
מהנדס נתונים בכיר האחראי להרחבת תשתיות ClickHouse שמאחורי פלטפורמת ניטור המסחר של Solidus Labs. התפקיד כולל צינורות נתונים בנפחים גבוהים, ארכיטקטורת אשכולות, אמינות ויכולת תצפית עבור עומסי עבודה בזמן אמת ובעיבוד אצווה.
תיאור
- תכנון ואופטימיזציה של ארכיטקטורת נתונים ב-ClickHouse, כולל מנועי טבלאות, חלוקה למחיצות, תצוגות ממומשות ומדיניות אחסון
- ניהול גודל אשכול ClickHouse, הטופולוגיה שלו ותכנון הקיבולת לקליטה בזמן אמת ולעיבוד אצווה מסוג T+1
- הובלת שיטות לאמינות נתונים ולמניעת כפילויות ב-ClickHouse ובצינורות נתונים קשורים
- בנייה ושיפור של ניטור, התראות ויכולת תצפית עבור שכפול, מיזוגים, זמני תגובה של שאילתות וניצול משאבים
- שמשו כמומחה ClickHouse של החברה והנחו צוותי הנדסה באופטימיזציה של שאילתות ובמידול נתונים
- שיתוף פעולה עם ספק ClickHouse כדי לחקור תקלות, להעריך יכולות ולהטמיע שיפורים
- עבודה עם צוותי אנליטיקה, למידת מכונה ומוצר לשיפור האחסון, הסכמות, הפורמטים וביצועי השאילתות
- קביעת תקני ClickHouse ושמירה עליהם לניהול גרסאות של סכמות ולממשל נתונים
דרישות
- תואר ראשון במדעי המחשב
- לפחות חמש שנות ניסיון מעשי בהנדסת תוכנה עם Java, Rust או Python
- שמונה שנות ניסיון או יותר בבניית מערכות וצינורות להנדסת נתונים עבור סביבות ייצור בנפחים גבוהים ובזמן השהיה נמוך
- ניסיון מקצועי בפיתוח מערכות בזמן אמת ובזמן השהיה נמוך המעבדות מיליארדי אירועים מדי יום
- ידע מעשי מתקדם ב-ClickHouse, כולל ארכיטקטורת אשכולות, מנועי טבלאות, שכפול, פיצול ואופטימיזציה של שאילתות
- ניסיון רב עם Apache Kafka, Spark, Airflow, Kubernetes, Redis, Snowflake ומערכות מטמון
- שליטה מומחית ב-SQL ובכוונון שאילתות, כולל תצוגות ממומשות, projections, TTL ואופטימיזציה של MergeTree ב-ClickHouse
- ניסיון בשימוש בפלטפורמות יכולת תצפית כגון Prometheus ו-Grafana
- סקרנות, עצמאות ויוזמה מוכחות בזיהוי פתרונות ובהטמעתם
- כישורי תקשורת מצוינים בכתב ובעל פה, עם יכולת להדריך ולהשפיע על מהנדסים בצוותים מבוזרים
