วิศวกรแบ็กเอนด์อาวุโส แพลตฟอร์ม AI
สร้างฟีเจอร์ LLM สำหรับใช้งานจริงและโครงสร้างพื้นฐาน AI พื้นฐานให้แพลตฟอร์มโซเชียลมีเดียที่ให้บริการผู้ใช้หลายล้านคน เป็นผู้นำด้านระบบค้นคืน การให้บริการโมเดล การประเมินผล และความปลอดภัย
รายละเอียด
- พัฒนาฟีเจอร์ AI สำหรับแพลตฟอร์มโซเชียลมีเดียที่มีผู้ใช้หลายล้านคน
- ทำงานร่วมกับสถาปนิกแพลตฟอร์มและทีมวิศวกรรมอย่างใกล้ชิด
- สร้างโครงสร้างพื้นฐาน AI พื้นฐานในสภาพแวดล้อมที่เริ่มต้นใหม่
- ร่วมกำหนดแนวปฏิบัติด้านวิศวกรรมเมื่อทีมขยายตัว
- เชื่อมต่อบริการเข้ากับแอปพลิเคชัน Ruby on Rails และ React/TypeScript
- รับผิดชอบบริการแบ็กเอนด์ตั้งแต่การออกแบบสคีมาข้อมูลไปจนถึงการนำขึ้นใช้งานและการปฏิบัติงานเวร
- สร้างและดูแลระบบให้บริการ LLM การค้นคืน การประเมินผล การวัดผล และความปลอดภัย
คุณสมบัติ
- มีประสบการณ์ด้านวิศวกรรมแบ็กเอนด์อย่างน้อยห้าปี โดยใช้ภาษาที่มีชนิดข้อมูลแบบสแตติก เช่น Go, Java, Kotlin หรือ C#
- มีประสบการณ์นำฟีเจอร์ที่ขับเคลื่อนด้วย LLM ไปใช้งานจริง รวมถึงการสร้างผลลัพธ์โดยเสริมด้วยการค้นคืน การตอบกลับแบบสตรีม และการใช้เครื่องมือ
- มีประสบการณ์ภาคปฏิบัติกับโครงสร้างพื้นฐานสำหรับให้บริการ LLM รวมถึงการกำหนดเส้นทางผ่านผู้ให้บริการหลายราย การสลับไปใช้ระบบสำรอง การสตรีมโทเคน และการติดตามต้นทุนและการใช้งาน
- มีประสบการณ์สร้างระบบค้นคืนด้วยการค้นหาเวกเตอร์ ไปป์ไลน์ embedding การประกอบบริบท และคำตอบที่มีการอ้างอิงแหล่งที่มา
- สามารถตรวจวัดการหลอนข้อมูล ความล้มเหลวในการค้นคืน การหยุดให้บริการของผู้ให้บริการ และค่าใช้จ่ายที่เกินกำหนดได้
- มีประสบการณ์ประเมินคุณภาพคำตอบ AI ในด้านความเกี่ยวข้อง ความปลอดภัย คุณภาพของแหล่งข้อมูล และผลลัพธ์ที่ทำซ้ำได้
- มีทักษะการออกแบบ API ที่แข็งแกร่ง
- สามารถดูแลบริการตั้งแต่การออกแบบสคีมาจนถึงการนำขึ้นใช้งานและการสนับสนุนเวรได้
- พำนักอยู่ในสหรัฐอเมริกาและได้รับอนุญาตให้ทำงานที่นั่น
- พิจารณาผู้ที่มีทักษะ Go เป็นพิเศษ
- มีประสบการณ์กับ Python
- มีประสบการณ์กับเกตเวย์ LLM หรือเครื่องมือให้บริการโมเดล เช่น LiteLLM, vLLM หรือ TGI
- มีประสบการณ์กับฐานข้อมูลเวกเตอร์ เช่น Qdrant หรือ pgvector และไปป์ไลน์ embedding
- มีประสบการณ์ปรับแต่งโมเดลน้ำหนักเปิดด้วย LoRA หรือการปรับแต่งโมเดลทั้งชุด
- มีประสบการณ์กับเครื่องมือกลั่นกรองเนื้อหาหรือเครื่องมือด้านความปลอดภัย
- คุ้นเคยกับ Ruby on Rails หรือ React/TypeScript
