人工智慧與大型語言模型資深軟體工程師
為 Beacon AI 的航空安全平台建置並營運正式環境的大型語言模型能力。 負責檢索、工具呼叫、評估與可靠的服務交付。
說明
- 建置檢索增強生成與工具呼叫工作流程
- 產生經驗證的 JSON 及符合結構描述限制的輸出，並處理重試與備援
- 將函式呼叫連接至內部工具、搜尋、路由與資料服務
- 使用明確的契約、串流處理與退避機制開發 Python 或 TypeScript API 及工作程序
- 透過快取、請求調整、提示範本與上下文打包管理延遲與成本
- 整合 AWS Bedrock、OpenAI、Anthropic 及自行託管端點提供的基礎模型服務
- 協助制定適用於文件、時間序列與多媒體的分塊、嵌入與索引策略
- 選擇並最佳化包括 OpenSearch、pgvector 與 Pinecone 在內的向量資料庫
- 讓知識庫與 S3、Aurora、DynamoDB 及外部資料來源保持同步
- 為提示、檢索器與工具開發離線評估和黃金資料集
- 定義正式環境指標，包括任務成功率、幻覺率、檢索精確率與召回率、p95 延遲及每次請求成本
- 進行 A/B 測試，並透過金絲雀部署管理受控的提示與版本發布
- 實作內容與政策防護、個人識別資訊偵測與遮罩、存取控制及稽核軌跡
- 為敏感操作建立人工審查流程
- 透過追蹤、日誌與儀表板監測模型呼叫，掌握權杖用量、錯誤與飽和度
- 調查檢索系統、提示、工具與模型供應商相關問題
- 與產品、基礎架構、機器學習及資安團隊合作，交付可靠的航空系統
- 為 Beacon AI 平台打造面向使用者的大型語言模型功能，讓飛行更安全、更有效率且更具能力
職位要求
- 具備 5 至 8 年工作經驗，其中包括交付正式環境機器學習或大型語言模型系統的經驗
- 具備為使用者推出大型語言模型功能，並透過資料持續改善的實務經驗
- 具備紮實的正式環境軟體開發、測試與文件撰寫能力
- 熟悉嵌入、分塊、向量搜尋取捨及函式呼叫
- 具備建立評估、定義成功衡量方式並根據證據迭代的經驗
- 能夠監控 p95 延遲、符合服務等級協議，並在維持品質的同時降低成本
- 能在有限監督下從設計到正式環境全程負責功能交付
- 具備 Bedrock、OpenSearch Serverless、pgvector、Pinecone 或 Weaviate 經驗者優先
- 具備提示版本管理、防護機制及模型供應商路由經驗者優先
- 具備時間序列或影片等多模態資料經驗者優先
- 熟悉 GPU 推論、Triton 或 TensorRT-LLM 者優先
- 具備航空業或其他安全關鍵產業經驗者優先
- 具備 CI/CD、基礎架構即程式碼及安全密碼管理知識者優先
- 必須符合美國人士資格
- 必須依法獲准在美國工作
- 不提供簽證贊助或簽證轉移
- 所有工作必須在美國境內完成
- 必須居住於舊金山灣區，或願意搬遷至該地區
- 必須每週至少三天在加州聖卡洛斯現場工作
- 必須能夠從事全職工作
福利待遇
- 聘用方案包含股權
- 公司負擔員工醫療保險保費的 100%
- 公司負擔家屬醫療保險保費的 25%
- 三週帶薪休假
- 至少 13 天帶薪公司假日
- 提供 401(k) 計畫
- 混合辦公安排的其餘工作日可彈性遠端工作