1. 熟练掌握python编程语言,具有良好的编程习惯和OOP编程思想,熟练使用PyCharm 开发工具;
2. 熟练掌握html, css, javascript, jquery,ajax等前端技术;
3. 熟练掌握Django,Flask等 Web框架,具有web开发的能力;
4. 熟练掌握MySql等关系型数据库,正确使用和优化SQL语句,熟练使用事务来保证数据的安全;
5. 熟练掌握使用restful风格,以及和APP前台的对接;
6. 熟练掌握使用oss文件存储服务器做文件存储;
7. 熟练操作Linux系统,具有一定shell编程能力;
8. 熟练掌握Redis,Hbase等非关系型数据库,具有使用Redis作为缓存,session,分布式爬虫的请求队列具有一定经验,掌握Redis的五种数据类型以及RDB和AOF两种持久化机制;
9. 熟练掌握服务端技术nginx,uwsgi,并在Linux上搭建nginx, uwsgi的服务器集群,掌握nginx的负载均衡策略,如轮询,权重轮询,ip_hash, least_conn;
10. 熟练掌握urllib, requests, scrapy等爬虫框架,研读过部分源码,能够搭建scrapy-redis分布式爬虫爬体系,掌握常见反爬虫策略,如封ip,检查cookie,请求头和设置验证码,掌握通过XPath,正则完成网页内容的解析;
11. 熟练掌握Hdfs集群的搭建,以及使用MapReduce清洗数据;
12. 熟练掌握使用zookeeper管理Hbase集群;
13. 熟练掌握使用sqoop在hive和mysql之间传输数据;
14. 熟悉常用如队列栈树等数据结构和常见算法如快排,二分,深度优先和广度优先及树的遍历;
15. 熟悉常用机器学习算法。