实现网
刘尧峰

昵称登录后显示

500/8小时
2年工作经验

今日头条
爬虫工程师

0

被预约次数

2

被收藏次数

0

被评价次数

擅长技能

精通python
1.Python 基础扎实, 有良好的编码习惯;
2.熟练基于 Requests, Scrapy, Selenium 各模块的数据抓取,利用Xpath, BeautifulSoup,Re 的数据清洗, 验证码,登录,js异步加密,等各种反爬措施的应对;
3.熟练Python Web技术, Django 框架, Django + uWSGI + Nginx 部署, Socket 编程;
4.熟悉数据库MySQL, Redis, MongoDB;
5.了解HTML + CSS 网页设计, 熟悉JavaScript, Ajax, JQuery脚本技术运用, 和基于BootStrap框架流式布局、响应式布局;

项目经验

设计和开发基于Scrapy的分布式短视频抓取系统,优化爬虫策略和防屏蔽规则,利用Redis维护ip代理池,提升短视频抓取的效率和质量。
使用Jenkins自动化部署服务,提高系统可用性
使用Go lang对抓取框架进行重构,提高了200%的爬虫效率
利用Docker对项目进行重新拆分和架构,减少项目模块之间的资源耦合度,实现了持续集成
使用MarkDown编写公司技术文档以及维护,定期review团队的代码,与团队成员共同进步
使用Selenium和puppeteer针对反爬虫进行反复测试和改进抓取方案

0条评论 雇主评价

暂无评论~

可兼职时间

自由职业者,时间充裕

可兼职地点

海淀

被预约

0

被收藏

2

被评价

0

立即预约

可兼职时间

自由职业者,时间充裕

可兼职地点

海淀