人工智慧與大型語言模型資深軟體工程師
負責為 Beacon AI 的飛行安全平台開發由大型語言模型驅動的航空能力，涵蓋 RAG、工具呼叫、評估、安全性與正式環境可靠性。
說明
- 從設計到正式環境建構面向使用者的大型語言模型產品能力
- 設計檢索增強生成與工具呼叫工作流程
- 透過驗證、重試與備援處理，產生可靠的 JSON 與符合結構描述限制的輸出
- 使用函式呼叫連接內部工具、搜尋、路由與資料服務
- 使用 Python 或 TypeScript 開發具備明確契約、串流處理與退避機制的 API 與工作程序
- 使用快取、請求調整、提示模板與內容打包管理延遲與成本
- 將應用程式連接至 AWS Bedrock、OpenAI、Anthropic 或自架模型端點
- 與基礎架構工程師合作，為文件、時間序列與多媒體資料進行分塊、嵌入與索引
- 選擇並最佳化包括 OpenSearch、pgvector 與 Pinecone 在內的向量資料庫
- 透過同步 S3、Aurora、DynamoDB 與外部來源的資料，維持知識庫最新
- 為提示、檢索器與工具建立離線評估及黃金資料集
- 定義任務成功率、幻覺率、檢索精確率與召回率、p95 延遲及每次請求成本等線上指標
- 執行 A/B 測試，並透過防護措施與金絲雀發布逐步推出提示與版本變更
- 實施內容與政策執行、個人識別資訊偵測與遮蔽、存取控制及稽核軌跡
- 為敏感操作建立人工介入工作流程
- 依照內部安全標準處理航空資料
- 為模型呼叫、權杖使用、錯誤與系統飽和度提供追蹤、記錄與儀表板
- 調查檢索、提示、工具與模型供應商各環節的故障
- 針對複雜且定義不明確的問題，為各項服務與團隊制定技術方向
- 與機器學習、基礎架構及產品合作夥伴協作，推動使用者體驗、成果、可靠性與安全關鍵系統
職位要求
- 至少 8 年工作經驗，包括負責其他工程師使用的系統或標準
- 或者，具備相關碩士學位及 4 年相關工作經驗
- 具備面向終端使用者推出大型語言模型功能並透過資料持續改進的經驗
- 具備扎實的正式環境開發、測試與技術文件能力
- 了解嵌入、分塊、向量搜尋取捨及函式呼叫
- 具備設計評估、建立成功指標並依據證據迭代的經驗
- 能夠監控 p95 延遲、滿足 SLA，並在維持品質的同時降低成本
- 能夠溝通取捨，並協調產品、基礎架構與安全相關人員
- 具備制定技術方向或標準，並推動工程師或團隊採用的技術領導經驗
- 熟悉 Python 或 TypeScript
- 具備 RAG、工具呼叫工作流程、結構描述限制 JSON、驗證、重試、備援、API、工作程序、串流處理、退避、快取、提示模板、內容打包與模型供應商方面的經驗
- 具備使用 AWS Bedrock、OpenAI、Anthropic 或自架端點的經驗
- 熟悉 OpenSearch、pgvector、Pinecone 或 Weaviate
- 具備處理 S3、Aurora 與 DynamoDB 資料來源的經驗
- 具備離線評估、黃金資料集、線上指標、A/B 測試、提示與版本發布、防護措施及金絲雀發布經驗
- 具備實施內容與政策控制、個人識別資訊偵測與遮蔽、存取管理及稽核的經驗
- 具備追蹤、記錄、儀表板、模型呼叫疑難排解與正式環境營運經驗
- 必須具備美國人員身分；不提供簽證贊助或身分轉移
- 所有工作必須在美國境內完成
- 能夠每週至少 3 天在加州舊金山灣區或聖卡洛斯現場工作
福利待遇
- 提供股權
- 公司負擔員工醫療保險保費的 100%
- 公司負擔家屬醫療保險保費的 25%
- 三週帶薪休假
- 至少 13 天帶薪公司假日
- 提供 401(k) 計畫
- 其餘混合辦公日可遠端工作