FAR.AI는 첨단 인공지능이 모든 사람에게 안전하고 유익하도록 만드는 것을 목표로 하는 연구·교육 비영리 단체입니다. 이 단체의 연구팀은 견고성, 기만, 해석 가능성, 최첨단 시스템 평가 등 신뢰할 수 있는 AI의 핵심 과제를 연구합니다. FAR.AI는 기술 연구, 교육, 행사, 워크숍, 연구비 지원, FAR.Labs와 같은 프로그램을 통해 연구자들을 지원하고 안전하며 인간의 의도에 부합하는 AI를 개발할 수 있는 분야의 역량을 강화합니다. 또한 연구 결과를 공유하고 학계와 산업계의 리더들을 한자리에 모으며, 대학 및 공공기관과 AI 안전 및 정책 분야에서 협력합니다.
AI 레드팀 엔지니어링 총괄
글로벌 프런티어 AI 레드팀 프로그램에서 FAR.AI의 엔지니어링 기능을 이끕니다. 팀, 에이전트형 도구와 평가 시스템을 구축해 AI 안전성과 보안을 발전시킵니다.
설명
- FAR.AI의 레드팀 엔지니어링 조직과 시스템, 제품, 서비스, 평가 및 에이전트의 규모를 확장합니다
- 공격 표면을 체계적으로 조사하는 에이전트형 레드팀 시스템을 구축합니다
- 새롭게 공개된 퍼블릭 탈옥 기법을 발견하고 이를 레드팀 플랫폼에 자동으로 통합합니다
- 공격자 시뮬레이션과 유해 출력 평가 방법을 개선합니다
- 취약점 데이터베이스, 통계 분석 기능 및 보고 인프라를 개발합니다
- 프런티어 AI 기업 및 정부와 수행하는 고위험 레드팀 업무를 위한 시스템을 제공합니다
- 공개 보고서, 벤치마크 및 리더보드 제작을 지원합니다
- 폐쇄형 및 오픈 웨이트 프런티어 모델 모두에 대한 레드팀 활동에 참여합니다
- 레드팀의 효율성을 높이는 에이전트형 워크플로를 개발합니다
- 엔지니어링 및 레드팀 기여자를 이끌고 멘토링하며 지원합니다
- 스프린트 업무를 계획하고 엔지니어링 제공을 지휘합니다
- 빠르게 진행되는 업무를 위한 확장 가능한 프로세스를 수립합니다
- 채용 파이프라인을 설계하고 엔지니어링 매니저 및 기타 팀원을 채용합니다
- 엔지니어링 제약을 찾아 효과적인 해결책을 마련합니다
- 기술 리더십과 협력해 엔지니어링 시스템, 방법, 평가 및 연구를 추진합니다
- 레드팀의 기술 및 제품 전략 수립을 지원합니다
- 기술 개념과 발견을 현실 세계의 실질적인 영향으로 전환합니다
지원 자격
- 사이버보안이나 MLOps 등의 분야를 포함해 소프트웨어 엔지니어링, AI 또는 컴퓨터 엔지니어링 분야에서 풍부한 경험
- 기술 팀을 구축하고 성장시키며 이끈 뛰어난 실적. 초기 단계부터 스타트업을 세운 경험과 매니저들로 구성된 팀을 이끈 경험 포함
- 코딩 에이전트, Python, LLM API, 로컬 LLM 프레임워크, 평가 프레임워크, LLM 에이전트, 클라우드 인프라 및 컴퓨트 클러스터에 대한 실무 경험
- 빠르게 변화하는 환경에서 효과적으로 업무를 수행할 수 있는 능력
- 프런티어 AI 시스템의 사명과 영향력을 발전시키려는 확고한 의지
- 기술 및 비기술 대상에게 기술적 해결책을 명확히 설명할 수 있는 뛰어난 커뮤니케이션 능력
- 야심 찬 목표를 향해 끈기 있게 실행하는 역량
- 프런티어 LLM 또는 에이전트형 시스템을 구축하거나 레드팀 활동을 수행한 경험이 있으면 우대
- 기업가적 환경에서 기술 팀과 제품을 만든 경험이 있으면 우대
- 복잡한 시스템에서 미묘하지만 심각도가 높은 취약점을 찾아내는 능력이 있으면 우대
- 적대적 머신러닝 또는 보안 분야의 배경이 있으면 우대
- AI 연구소, 보안 팀 또는 정부 안전 연구기관에서 근무한 경험이 있으면 우대
- AI 안전성, 보안 또는 견고성 분야의 연구를 발표했거나 기타 관련 성과가 있으면 우대
- 일부 시간대에 유연하게 대응할 의향
- 주 40시간의 풀타임 근무 가능
복리후생
- 업무 관련 출장 비용을 지원합니다
- 장비 비용을 지원합니다
- 버클리 사무실에서 점심과 저녁을 제공합니다
- 미국 또는 싱가포르 비자 스폰서십을 제공합니다
- 유급 업무 시험 기간
