Mindrift
Mindrift
501 – 1,000 员工
SaaS人工智能市场
Mindrift 是一家人工智能人才市场和 SaaS 平台,将专业贡献者及领域专家与科技公司的人工智能训练和评估项目连接起来。作为 Toloka 的一部分,Mindrift 与作家、编辑、质量保证专家、科学家及其他领域专家合作,帮助生成训练数据、评估模型的安全性和推理能力、评价媒体质量,并创建用于提升人工智能性能和可靠性的真实场景。Mindrift 通过评估和身份验证招募并审核贡献者,随后为其提供人工智能训练和评估领域灵活且有偿的项目机会。

高级 Python 数据抓取工程师(自由职业,阿根廷远程)

为 Mindrift 的 AI 项目构建可靠的 Python 抓取系统。 从复杂的动态网站提取、验证并规模化处理结构化数据。

描述

  • 负责复杂网站上的完整数据提取流程
  • 交付全面、准确且可靠的结构化数据集
  • 结合现有工具与自定义工作流,改进数据采集、验证和任务执行
  • 从动态交互式来源采集数据,适应 JavaScript 渲染内容和不断变化的网站行为
  • 通过验证、跨来源核对、格式标准和系统化审查维护数据质量
  • 通过高效批处理和并行处理扩展大规模抓取能力
  • 跟踪提取失败情况,在网站结构变化时保持工作流可靠性
  • 在运用 Apify、OpenRouter 及相关技术的同时,展现出良好的技术判断力

任职要求

  • 拥有 5 年以上数据工程、网页抓取、自动化或软件开发相关经验
  • 具备高级 Python 抓取经验,熟悉 BeautifulSoup、Selenium 或同类工具、JavaScript 和 AJAX 内容、无限滚动以及基于代理的 API
  • 能够从层级数据、存档页面和不规则 HTML 结构中提取信息
  • 具备清理、规范化和验证数据的经验,能够以 CSV、JSON 或 Google Sheets 格式交付
  • 具备大规模应对反机器人保护和不断变化的网站结构的实际经验
  • 具备 AWS 或同类云基础设施以及基于 Docker 的容器化经验
  • 实际接触过 LangChain、OpenRouter 或用于自动化的类似 LLM 框架
  • 高度注重细节,重视数据准确性
  • 能够独立工作、调查问题并在无需密切监督的情况下解决问题
  • 英语中高级水平(B2)或更高
  • 拥有工程、应用数学、计算机科学或相关技术学科的学士或硕士学位者优先
  • 拥有 GitHub 个人资料或链接者优先

福利待遇

  • 自由职业合作
  • 在项目活跃阶段,每周兼职工作约 10–20 小时
  • 可在阿根廷远程工作
  • 有机会通过 Mindrift 平台参与创新技术项目