Mindrift는 전문 기여자와 분야별 전문가를 기술 기업의 인공지능 학습 및 평가 프로젝트와 연결하는 인공지능 인재 마켓플레이스이자 SaaS 플랫폼입니다. Toloka의 일원으로서 작가, 편집자, QA 전문가, 과학자 및 기타 주제별 전문가와 협력해 학습 데이터를 생성하고, 모델의 안전성과 추론 능력을 평가하며, 미디어 품질을 검토하고, 인공지능의 성능과 신뢰성을 향상시키기 위한 실제 시나리오를 만듭니다. Mindrift는 평가와 신원 확인을 통해 기여자를 모집하고 검증한 후, 인공지능 학습 및 평가 분야에서 유연한 유급 프로젝트 기회를 제공합니다.
멕시코 시니어 Python 데이터 스크래핑 엔지니어(원격)
Mindrift의 AI 플랫폼을 위한 안정적인 웹 스크래핑 워크플로를 구축하고 확장합니다. 복잡하고 동적인 웹사이트에서 구조화된 데이터를 추출하고 검증하여 제공합니다.
설명
- 복잡한 웹사이트 전반의 엔드투엔드 추출 워크플로를 관리하여 완전하고 정확하며 신뢰할 수 있는 구조화 데이터셋을 제공합니다.
- 사용 가능한 도구와 맞춤형 워크플로를 활용해 정해진 요구사항에 따른 수집, 검증, 작업 실행을 가속합니다.
- JavaScript로 렌더링되는 콘텐츠와 변화하는 사이트 동작에 대응하여 동적이고 상호작용적인 소스에서 데이터를 안정적으로 추출합니다.
- 검증 검사, 소스 간 일관성 검토, 형식 요구사항, 체계적인 제공 전 확인을 통해 데이터 품질을 유지합니다.
- 효율적인 배치 처리와 병렬 처리를 통해 대규모 스크래핑을 확장합니다.
- 추출 실패를 추적하고 사이트 구조가 경미하게 변경될 때도 운영 안정성을 유지합니다.
- Mindrift의 AI와 인간이 결합된 운영 모델에서 반복 작업을 수행하는 Tendem Agents와 협업합니다.
- 기술 전문성과 맞춤형 방법을 바탕으로 Apify, OpenRouter 및 기타 기술과 도구를 활용합니다.
- 웹 스크래핑, 데이터 추출 및 데이터 처리 전문성을 활용해 정확하고 신뢰할 수 있는 고품질 결과를 산출합니다.
지원 자격
- 데이터 엔지니어링, 웹 스크래핑, 자동화 또는 소프트웨어 개발 관련 경력 5년 이상이 필요합니다.
- 공학, 응용 수학, 컴퓨터 과학 또는 관련 기술 분야의 학사 또는 석사 학위 보유자는 우대합니다.
- BeautifulSoup, Selenium 또는 이에 준하는 도구를 활용한 Python 스크래핑 경험이 풍부해야 하며, JavaScript, AJAX, 무한 스크롤 및 프록시 API를 다룰 수 있어야 합니다.
- 계층 구조, 아카이브 페이지, 일관되지 않은 HTML과 같은 복잡한 구조에서 정보를 추출할 수 있어야 합니다.
- CSV, JSON 또는 Google Sheets 형식으로 구조화된 데이터를 제공하기 위한 데이터 정제, 정규화 및 검증 실무 경험이 있어야 합니다.
- 대규모 환경에서 안티봇 조치와 변화하는 웹사이트 구조를 관리한 경험이 있어야 합니다.
- 프로덕션 워크플로에서 AWS 또는 이에 준하는 클라우드 인프라와 Docker를 사용한 실무 경험이 있어야 합니다.
- LangChain 또는 OpenRouter와 같은 LLM 프레임워크를 자동화 작업에 적용한 경험이 있어야 합니다.
- 뛰어난 세부 사항에 대한 주의력과 데이터 정확성에 대한 일관된 집중력이 있어야 합니다.
- 독립적으로 업무를 수행하고 문제를 조사하며 효과적으로 문제를 해결할 수 있어야 합니다.
- B2 이상 수준의 중상급 영어 능력이 필요합니다.
- GitHub 프로필 링크 보유자는 우대합니다.
복리후생
- 프리랜서 계약.
- 파트타임 원격 근무.
- 프로젝트가 진행되는 기간에는 주당 약 10~20시간이 예상됩니다.
