技术经验: 1、熟悉linux软硬件环境、系统管理和优化,熟练部署、优化各种服务; 2、熟悉web相关技术,mysql主从复制, nginx/java/mysql/redis 等应用管理、配置和优化; 3、熟悉主流监控系统使用、维护和部署,zabbix、阿里云等; 4、熟悉linux自动化管理工具,如ansible、puppet、elk等; 5、熟悉Shell、Pyhon等脚本语言,能够利用脚本,实现日常工作自动化; 6、熟悉常见的网络设备的安装配置管理,例如路由器、交换机、防火墙等; 7、阿里云运维工作,处理业务平时使用阿里云遇到问题,并解决业务问题; 8、主动性强,具有良好的沟通、协调和组织能力,富有团队精神,能主动学习新技术; 9、擅长docker,有过高并发互联网运维经验
项目经验: Zabbix 监控系统从无到有的构建,实时监控所有服务器系统资源及业务服务; 横向拓展后端 Java容器服务器,通过 Nginx 实现负载均衡; 构建 Jumpserver 跳板机,实现认证,授权,审计,自动化运维等功能,提升后端linux服务器安全性; 编写 Shell 脚本定时备份生产数据库&业务日志到本地存储设备; 通过docker-compose 的方式来管理 Docker 容器,在容器中部署 GitLab 代码仓库,推进开发人员对公司所有代码进行迁移; 部署集中式日志系统 ELK(Elasticsearch+ Logstash+ Kibana),实时收集、存储、分析展示业务日志; 发布系统的部署维护,通过 Jenkins+Nexus 结合脚本的方式实现自动化发布; 部署Mesos + Marathon + ZooKeeper + Docke平台管理Docker集群,并将后端Java服务迁移至集群内统一管理。
可兼职时间: 周六、周日、工作日
可兼职地点: 杨浦 五角场
技术经验: 灵活掌握java和scala搭建大数据系统 运用实时数据处理框架 Storm, Kafka Streaming搭建real time pipeline 利用AWS EMR, Scalding搭建大数据处理平台 自主开发ETL工具,并利用各种column store database(Redshift, Aster and MemSQL)搭建数据仓库
项目经验: 大数据平台,通过AWS EMR和Scalding框架每天处理超过百亿条的信息。处理生成的数据存在S3上,并通过自主开发的etl tool导入aws redshift数据库以供客户查询,实现全程自动化,无需人工干预。 Drafted AWS CloudFormation template to create and manage AWS resources (AWS Redshift, EC2, VPC). Migrated existing reports from Oracle to Redshift, designed table layout, and schema, tested distribution and sort keys, analyzed storage efficiency and query performance. Benchmarked different databases (MemSQL, Redshift, Aurora) to find the best solution for our reporting platform. Developed and configured various big data workflows to run on top of AWS EMR cluster, which comprise of heterogeneous jobs like Scalding, Spark, Sqoop. Launched and tuned our own MemSQL cluster in a sandbox environment, which drastically reduced the query responding time in massive concurrent read scenarios. Developed custom Spark job to speed up exporting data from Oracle to S3.
可兼职时间: 周六、周日、工作日
可兼职地点: 远程