高級雲端基礎設施工程師 - 聖卡洛斯混合辦公
為大型語言模型、RAG 與機器學習平台建構安全且可擴展的 AWS 基礎設施。 透過雲端營運、資料管道與機器學習平台工程，支援航空安全技術。
說明
- 使用 AWS CDK、Terraform 等基礎設施即程式碼工具設計、佈建並維護 AWS 環境。
- 使用 GitHub Actions、CodeBuild 與 CodePipeline，為應用程式、基礎設施及機器學習管道開發 CI/CD 工作流程與測試。
- 使用 VPC、PrivateLink 與 VPC 端點運行安全的雲端網路。
- 管理 IAM、KMS、Secrets Manager 與稽核記錄控制措施。
- 使用 AWS Bedrock 和／或 SageMaker 部署並運作模型端點。
- 評估 ECS、EKS、Lambda 與 Batch 在推論工作負載中的適用性。
- 建構透過可靠 API 存取大型語言模型的應用程式服務，支援串流、批次處理與退避機制。
- 使用 LangChain 或同類框架開發提示詞與工具執行工作流程，包括代理程式與函式呼叫。
- 建立分塊與嵌入管道，並透過 Step Functions 或 Airflow 進行協調。
- 運作包括 OpenSearch Serverless、搭配 pgvector 的 Aurora PostgreSQL 與 Pinecone 在內的向量搜尋平台。
- 維護知識庫，並在 S3、Aurora、DynamoDB 與外部系統之間同步資料。
- 開發用於評估提示詞、檢索器與鏈的測試框架。
- 使用 CloudWatch 與 OpenTelemetry 實作應用程式及模型可觀測性。
- 建立 Token 使用量與雲端成本儀表板，並設定預算與警示。
- 實作防護機制、速率限制、故障回退處理與供應商路由。
- 加入個人可識別資訊偵測與遮罩、存取控制、內容篩選及人工審查工作流程。
- 為受監管的營運環境維護稽核軌跡。
- 開發結構化、非結構化及多媒體資料的擷取與處理工作流程。
- 使用 Glue 與 Lake Formation 保護資料完整性、譜系與目錄管理。
- 改善 S3、Glacier 與分層儲存之間的大量資料傳輸與儲存。
- 使用 Athena 進行臨時資料分析。
- 管理部署至邊緣裝置並與其通訊的基礎設施。
- 支援安全訊息傳遞、身分管理與無線更新。
- 與產品及應用程式團隊合作，將檢索服務、嵌入與大型語言模型鏈整合至面向使用者的功能。
- 為雲端與機器學習服務提供進階疑難排解支援。
- 使用 Redis 或 Bedrock Knowledge Bases 改善檢索品質、上下文視窗效率與快取。
- 透過模型選擇、量化、GPU 與 CPU 執行個體規模設定及自動擴展最佳化推論。
職位要求
- 至少三年專業經驗，或具備相關碩士學位。
- 具備建構與管理資料管道的實務經驗。
- 具備使用 AWS CDK 等基礎設施即程式碼工具設計、部署與維護雲端基礎設施的經驗。
- 具備建構可靠 CI/CD 與自動化測試系統的經驗。
- 具備在正式環境交付或運作大型語言模型應用程式的經驗。
- 熟悉 RAG 架構、提示詞版本管理，以及使用 LangChain 或類似框架進行鏈編排。
- 熟練掌握 VPC、IAM、KMS、CloudWatch、S3、ECS/EKS、Lambda、Step Functions、Bedrock 與 SageMaker 等 AWS 服務。
- 具備使用 Python 開發資料擷取與轉換管道的經驗。
- 熟悉 Glue、Athena、EventBridge 與 SQS。
- 了解最小權限存取、機密管理、網路隔離與合規實務。
- 具備應用量化評估、A/B 測試與正式環境指標的經驗。
- 具備四年以上 AWS 無伺服器或容器平台工作經驗者優先。
- 具備大規模運作向量資料庫、OpenSearch 或 pgvector 的經驗者優先。
- 熟悉 Bedrock Guardrails、Knowledge Bases 或自訂政策引擎者優先。
- 熟悉 GPU 工作負載、Triton Inference Server 或 TensorRT-LLM 者優先。
- 具備用於大規模處理與搜尋的大數據技術經驗者優先。
- 具備航空資料或其他安全關鍵產業經驗者優先。
- 具備透過自動化 CI/CD 為機器學習與應用服務提供 DevOps 或 DevSecOps 經驗者優先。
- 必須是美國人士，並獲授權在美國合法工作；不提供簽證贊助或轉移。
- 必須在美國工作，位於或願意搬遷至舊金山灣區，並且每週至少三天在加利福尼亞州聖卡洛斯現場辦公。
- 福利
- 提供股權。
- 承擔員工醫療保險保費的 100%。
- 承擔受扶養人醫療保險保費的 25%。
福利待遇
- 提供股權。
- 承擔員工醫療保險保費的 100%。
- 承擔受扶養人醫療保險保費的 25%。
- 提供三週帶薪休假。
- 提供 13 天或以上的帶薪公司假日。
- 提供 401(k) 計畫。
- 提供混合辦公安排，其餘工作日可遠端辦公。