TMTG, hay Trump Media & Technology Group, là một công ty truyền thông và công nghệ với các nền tảng tập trung vào mạng xã hội, giải trí trực tuyến, tin tức và văn hóa. Công ty cung cấp không gian để người dùng và nhà sáng tạo chia sẻ, đăng tải nội dung, đồng thời định vị các dịch vụ của mình như lựa chọn thay thế cho những quan điểm truyền thông chính thống.
Kỹ sư Backend cấp cao, Nền tảng AI
Xây dựng các tính năng LLM cho môi trường production và hạ tầng AI nền tảng cho mạng xã hội phục vụ hàng triệu người dùng. Dẫn dắt các hệ thống truy xuất, phục vụ mô hình, đánh giá và an toàn.
Mô tả
- Phát triển các tính năng AI cho nền tảng mạng xã hội có hàng triệu người dùng.
- Phối hợp chặt chẽ với kiến trúc sư nền tảng và đội ngũ kỹ thuật.
- Xây dựng hạ tầng AI nền tảng trong môi trường khởi tạo mới.
- Góp phần định hình quy trình kỹ thuật khi đội ngũ mở rộng.
- Kết nối các dịch vụ với ứng dụng Ruby on Rails và React/TypeScript.
- Chịu trách nhiệm về các dịch vụ backend từ thiết kế lược đồ dữ liệu đến triển khai và trực hỗ trợ.
- Xây dựng và vận hành các hệ thống phục vụ LLM, truy xuất, đánh giá, đo lường và an toàn.
Yêu cầu
- Có ít nhất năm năm kinh nghiệm phát triển backend với một ngôn ngữ có kiểu tĩnh như Go, Java, Kotlin hoặc C#.
- Có kinh nghiệm thực tế đưa các tính năng ứng dụng LLM vào môi trường production, bao gồm tạo sinh tăng cường truy xuất, phản hồi dạng luồng và sử dụng công cụ.
- Có kinh nghiệm thực tiễn với hạ tầng phục vụ LLM, bao gồm định tuyến qua nhiều nhà cung cấp, chuyển đổi dự phòng, truyền token dạng luồng và theo dõi chi phí cũng như mức sử dụng.
- Có kinh nghiệm xây dựng hệ thống truy xuất với tìm kiếm vector, quy trình xử lý embedding, tổng hợp ngữ cảnh và câu trả lời có trích dẫn nguồn.
- Có khả năng đo lường hiện tượng bịa thông tin, lỗi truy xuất, sự cố nhà cung cấp và chi phí vượt mức.
- Có kinh nghiệm đánh giá chất lượng câu trả lời AI về mức độ liên quan, an toàn, chất lượng nguồn và tính nhất quán khi chạy lại.
- Có kỹ năng thiết kế API vững vàng.
- Có khả năng phụ trách một dịch vụ từ thiết kế lược đồ đến triển khai và hỗ trợ trực.
- Đang ở Hoa Kỳ và được phép làm việc tại đó.
- Ưu tiên cao ứng viên biết Go.
- Có kinh nghiệm với Python.
- Có kinh nghiệm với cổng LLM hoặc công cụ phục vụ mô hình như LiteLLM, vLLM hoặc TGI.
- Có kinh nghiệm với cơ sở dữ liệu vector như Qdrant hoặc pgvector và quy trình xử lý embedding.
- Có kinh nghiệm tinh chỉnh mô hình trọng số mở bằng LoRA hoặc tinh chỉnh toàn bộ mô hình.
- Có kinh nghiệm với công cụ kiểm duyệt nội dung hoặc công cụ an toàn.
- Quen thuộc với Ruby on Rails hoặc React/TypeScript.