Skip to content

实现针对知乎的爬虫 #29

Description

@ben7th

1. 目标

我们正在进行针对特定人群提供问题跟踪,咨询的智能服务的开发工作。其中用于支持产品初期算法研究工作的基础数据,有一部分需要通过爬虫工具来抓取。

针对知乎,我们希望选择性地抓取其中的问题,回答,评论,以及知乎专栏内容

1.1. 选型/环境

  • 服务部署环境在阿里云
  • 使用 mongodb 数据库
  • 使用 oss 文件存储

1.2. 沟通与文档

  • 希望在报名该发包时,谈及自己在爬虫开发方面的相关经验。对于合适的开发者,会进行一次半小时左右的电话沟通(电话,QQ 语音或微信语音)(报名附言里可注明微信号方便添加)
  • 初次沟通并传达目的后,希望就工作内容撰写一份概要设计文档,明确开发要点和规格;
  • 概要设计文档 review 通过后,进行开发实现;

1.3. 工作要求

  • 对知乎的问题,回答,评论,知乎专栏内容进行抓取
  • 可以设定抓取范围(以关键词,标签,作者等要素来约束)
  • 这是一个持续抓取的爬虫,连续工作时尽量获取尽可能多的内容
  • 需要给出抓取结果保存的数据库设计(mongoDB)
  • 从头开发和用现有代码/第三方工具实现都可以,但实现细节要在概要设计中明确

报名人员可到 github.com/social-innovation/tasks/issues/29
留言和参与需求讨论(写下联系方式和个人基本情况介绍)

2. 时间

2.1. 阶段划分

预计周期:7 天(明确需求后,以开发者承诺为准)

  • 理解需求,撰写概要设计
  • 开发
  • 配合完成一次数据样本抓取
  • 质保维护

2.2. 调整和处罚(码市)

阶段划分制定和确认后,调整需提前说明;
阶段划分调整 2 次以上或延期 1 次以上,每延期一天,当期费用扣除 10%;
延期 3 次以上,需求方有权取消发包;
需求方原因造成的延误不包含在内;

3. 人员要求

  • 证明自己有能力胜任此项工作,有相关开发管理经验
  • 通过沟通与思考明确需求
  • 明确需求后,在承诺的时间完成提交
  • 熟悉 github, github 账号时间大于半年(在报名中给出 github 账号)
  • 熟悉 阿里云

4. 费用

3000 = 1000 (概要设计)+ 2000(实现)

5. 协作工具

zoom: https://zoom.us/
石墨文档: https://shimo.im/
github: https://github.com/
微信

Metadata

Metadata

Assignees

No one assigned

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions