毕业后就职于某知名互联网公司核心部门,公司的主要产品中国电信宽带综合日志分析系统(以下简称本系统),该系统主要功能是对普通电信上网用户所产生的数据进行检测,对其产生的后台日志进行分析处理,以完成对关键词进行过滤,对违法违规进行处理,对异常IP进行发现和监控,实现增加网络信息安全的监控
在职期间绩效良好,被评为优秀员工。工作两年后晋升为高级工程师。
对技术有源发的兴趣,持续学习 Spark,hadoop等前沿技术。
工作项目:
主要是利用hadoop平台对大数据量日志的存储、分析和处理的能力,通过和第三方DPI(深度包检测)厂商进行合作以对其下游厂商上报的访问日志数据和安全日志数据进行分析处理、入库、实时查询、上报相关部门等主要功能。
主要技术:
采用shell脚本和监控程序上传数据到hdfs;
采用MapReduce程序对数据进行过滤清洗;
对MapReduce进行部分优化;
对清洗后的详单数据入库到hbase;
使用hive完成一些指标的统计;
使用crontab定时执行脚本。
可兼职时间
可兼职地点
0条评论 雇主评价