设计和开发基于Scrapy的分布式短视频抓取系统,优化爬虫策略和防屏蔽规则,利用Redis维护ip代理池,提升短视频抓取的效率和质量。
使用Jenkins自动化部署服务,提高系统可用性
使用Go lang对抓取框架进行重构,提高了200%的爬虫效率
利用Docker对项目进行重新拆分和架构,减少项目模块之间的资源耦合度,实现了持续集成
使用MarkDown编写公司技术文档以及维护,定期review团队的代码,与团队成员共同进步
使用Selenium和puppeteer针对反爬虫进行反复测试和改进抓取方案