实现网
昆仑山

昵称登录后显示

1500/8小时
6年工作经验

大数据产品经理
大数据高级架构师

云平台产品经理
云平台高级架构师

云平台、大数据、AI算法

0

被预约次数

0

被收藏次数

0

被评价次数

擅长技能

1.先后担任开发工程师、云架构工程师、系统架构师和大数据架构师多个角色的岗位,积累了丰富的技术开发、技术管理和架构设计方面的经验;
2.具备丰富的项目落地方案的经验,其中包括云平台、大数据研究、数据仓库安全加固、云平台安全加固、网络安全技术、微服务平台架构设计及优化、大数据平台性能优化等相关项目;
3、精通KVM、OpenStack功能架构,熟练使用openstack云平台搭建、维护,配置和使用,包括ceph磁盘阵列存储,具备安全加固,安全审计,端口限制、虚拟机服务器之间的冷热迁移,raw和qcow2、vmdk等格式的转化,云平台之间虚拟机迁移及指定IP恢复,在线扩展虚拟机配置等熟悉zabbix监控界面部署及使用。熟悉物理架构,网络架构及安全架构,有丰富的一线项目经验;精通SDN、NFV,熟悉openstack支持NFV、SDN的主要机制,熟悉混合云与NFV、SDN并存的技术实现;
4、精通docker和K8S容器生态系统;熟练使用采用Kuboard-Spray 自动化搭建工具进行搭建高可用离线或在线 k8s,熟悉K8S架构,有丰富的使用经验;熟练使用Docker容器微服务创建、管理、应用、升级及运维,镜像仓库搭建,DockerFile文件编写等;
5、熟悉主流虚拟化和公有云,包括VMWARE、Hyper-V、KVM等,了解器软件架构、主要功能;精通Linux操作系统,熟悉rabbitmq消息队列,redis等中间件的使用;熟悉主流的服务器、存储、交换机、防火墙,上网行为管理控制器、无线AP漫游等硬件设备配置,包括网络规划、架构配置、安全防护等;
6、熟悉Hadoop生态。包括分布式集群的组成架构、集群的部署、数仓搭建和维护。HBase的架构、读写流程、熟练掌握表的基本操作、rowKey的设计等;熟知MapReduce、Spark的处理流程,并能使用其快速进行数据处理;熟练掌握Hive数据库及表的操作、Hive业务分析查询的HQL、Hive的优化等处理和tableau、quick_bi、Superset、Griffin 、Kylin、Presto、Sqoop、Azkaban、atlas、ranger、kettle等工具的部署及使用;熟悉flume日志采集框架,熟悉Flume的容灾及负载均衡配置,熟悉Flume的监控配置;熟悉ELK的优化措施;熟悉Zookeeper内部的选举机制以及监听原理;熟练掌握Kafka分布式队列的部署及使用,熟悉Kafka内部架构,掌握Kafka高级、低级API,熟悉Kafka的负载均衡和副本机制,掌握一定的Kafka性能调优;
7、独自一人设计和实施PB级别大数据集群搭建,维护,系统部署,集群性能优化,数据导入,数据治理、数据测试及接口对接,测试方案撰写及交付全流程操作。包括ES集群(包括23国语言支持,kibana,elasticdump等,PB级别数据达到毫秒级响应),mongodb集群,Neo4j集群,mysql(高可用)),hadoop集群,hbase集群,Redis集群,Kafka集群,neo4j。supervisor管理和zabbix运维监控;
8.熟练使用python语言开发,Linux开发环境和shell脚本;了解Java语言及Springboot框架;熟练使用Git进行日常项目的拉取提交。
9.熟悉阿里大数据平台生态(DATAWORKS、MAXCOMPUTER、QUICK_BI等)及丰富建模、治理、审计、数据校验、脏数据处理、生产环境问题处理等经验;熟悉阿里 FLINK实时数仓 数据采集、数据治理,数据推送及推送到生产环境,支持纳秒级别数据增量同步响应;
10、熟悉阿里无影云桌面,包括网络设计,架构设计,云速搭搭建并生成评估费用和架构图,安全设计及投标文件撰写等。
11熟悉机器学习算法,有过深度学习算法TensorFlow和pytorch项目经验。
12、善于学习和接触新兴技术,能熟练使用CHATGPT作为辅助工具办公。

项目经验

2023.01 - 至今 冀中无影云桌面项目
项目职务:云安全架构师
下属人数:4
项目描述:
该项目为冀中能源集团提升信息化建设而开展的项目,包括私有化云平台建设、阿里无影云桌面搭建,阿里企业版数据中台、OA系统、钉钉设计及实施。其中阿里无影云桌面目的是方便集团领导、子公司人员及相关在外的业务人员方便查看公司内部系统,提高系统的可靠性、稳定性、安全性,降低成本提高效率。
项目职责:
1、《冀中集团私有化云平台建设方案》、《冀中能源集团有限责任公司企业数字创新协同云平台项目可行性报告》、《冀中能源集团协同办公解决方案建议书》及相关投标书、ppt撰写
2、硬件选型、网络设计、安全设计及在阿里的云速搭上快速网络部署模型及生成价格清单和网络拓扑。
3、和甲方相关技术负责人沟通人员清单、人员权限、网络联调及系统迁移相关细节
4、监督阿里实施团队实施和验收技术细节
项目业绩:
1.完成招标书、建设方案撰写并拿下标书

2022.08 - 至今 唐钢乐钢主数据管理系统主数据治理
项目职务:系统架构师&大数据架构师
下属人数:4
项目描述:
该项目为某钢厂新区与本部老系统主数据不一致问题而开展的,新建一整套主数据管理系统替换老旧的主数据管理系统,并按照新的标准把数据导入、治理及管理。涉及到SAP系统的对接;技术支持,数据标准制定,主数据建立,主数据管理等工作。技术采用阿里生态,包括DATWORKS、MAXCOMPUTER,QUICK_BI等。
项目职责:
本人作为项目数据治理团队技术负责人。培训团队熟悉阿里生态环境,调研客户需求指标,制定数据标准规范及命名规范,数据技术架构选型,架构设计,数仓模型设计,数据审计规则,数据可视化显示,数据接口开发及规则校验,数据质量管控,相关文档撰写及甲方人员培训等。
涉及到的技术点:大数据平台管理及开发工具DATAWORKS,大数据存储及计算MAXCOMPUTER,可视化报表分析QUICK_BI。涉及到数据源对接,数据源权限管理,数据分区分域,数据建模分析治理(分为 sta层、贴源层ods、公共维度层DIM、明细粒度事实层DWD、公共粒度事实层DWS、数据应用层ADS)、数据可视化报表展示QUICK_BI、模型提交到生产环境自动化执行及运维。API规则校验接口开发、发布及对接应用系统等。阿里飞天云平台技术架构、安全架构等了解及熟练使用。
项目业绩:
1.一周时间完成团队熟悉阿里的生态环境并开始进入研发状态(之前都是HADOOP生态)。
2.紧贴用户需求,数据调研彻底全面,模型自开发后无重大架构调整,团队开发效率高。
3.独自一人完成整体架构设计,数仓建模设计等,文档输出采用CHATGPT工具进行润笔交付客户,文档输出效率高。
4.带领团队完成数据的建模、数据治理、数据审计、数据可视化报表等工作;并培训客户能独立完成相关操作。
5.配合主数据管理系统研发和对接相关工作,顺利对接治理数据到系统。

2022.03 - 2022.08 废钢智能判级应用系统
项目职务:系统架构师
下属人数:2
项目描述:
该项目采用微服务架构,前段端分离技术。涉及到的技术点有K8S、nginx反向代理服务器、mysql数据表存储(keeplive高可用模式)、redis高速缓存、go-cv智能算法标注服务(python语言)、steel-api后台服务(GO语言)、image_tag(steel-ai)判级算法服务python语言)、steel-pc前端服务(VUE)、extract-video抽帧算法(python语言)、minio集群文件存储数据库、portainer容器管理器、steel-self-service物理自助机(VUE封装EXE可执行文件)、移动端管理APP系统。
项目职责:
在该项目中担任技术负责人。独自完成架构设计,硬件采购,安全私有云平台构建(openstack),数据库选型,研发技术路线制定等。负责研发进度追踪及卡点问题补位,带领团队完成项目实施及联调测试到交付客户。
难点1:在于判级的准确度提高上,包括抽帧时间、磁盘吊捕获、现场光线亮度、识别到变化部分图片并精确判级。
难点2:客户对安全性要求比较高,全部内网环境,中间的网络跳转机防火墙配置,数据库安全性、可靠性设计并顺利实施。
难点3:客户需求边界管控,客户提出的需求技术评估及新需求的出现会对整个项目有较大影响的把控。
涉及到的技术点有:
1、Docker容器,K8S等微服务创建、管理、应用、升级及运维,镜像仓库搭建等。
2、机器学习算法,如分类、回归、聚类等,深度学习算法。
3、前端后端程序开发及相关拼接封装技术等。
项目业绩:
1.根据客户需求,在一个月内制定出了整体的项目架构,包括技术语言选型,微服务架构搭建及相关文档输出,说服甲方一些不必要的功能研发(减少了很多的不必要的研发成本)。
2.针对项目人员情况 (当时只有算法团队)招聘了相关人员(一个前端(python+VUE)和一个后端(java+golang)),及时保障了项目的准时推进。
3.在项目中还担任全栈工程师。当遇到了一些团队的技术盲点,能快速学习及补位。如提高判级算法准确性问题,物理自助机插件适配问题,网络问题等。
4.项目按时交付客户并完成培训相关运维人员、操作人员。

2021.09 - 2022.03 安贞心血管多病共患数据治理平台
项目职务:大数据架构师(独立完成项目)
所在公司:中电长城网际系统应用有限公司
项目描述:
这个项目是老年多病共患平台数据治理及研究。在数据仓库里面建立数据病例资源目录,形成多病共享数据集。从各省份地区的医院数据,完成数据汇聚,然后把这些数据存储到数据仓库里面,进行数据存储、数据治理、数据审计、元数据管理及血缘分析,数据管控及权限设置,数据脱敏等,然后通过专业的数据建模团队来进行建模,我们配合他们进行数据治理技术支持指导,然后形成数据资源目录,进行脱敏后进行安全共享。形成标准化,规范化,统一化的模型及标准库,用这些数据支撑医学的科学研究。
项目架构:
安全私有云平台,离线数仓(hdfs,hive,hbase,mysql,ranger,atlas,LDAP,sqoop,azkaban等),以及以离线数仓为基础打通聚云位智和医渡云的分析平台。
项目职责:
在该项目中担任技术经理兼技术负责人。
痛点1:医院的医疗信息是非常隐私的高价值数据,各大医院不想共享或者不想全部共享。
痛点2:如何做到安全加密数据传输及脱敏可靠共享。
难点1:数据不规范及缺失问题处理。
难点2:数据管控及权限设置,数据脱敏等。
难点3:按照专业医学人员的需求进行建模治理数据、审计数据并建立血缘关系资源目录。
项目业绩:
1.一个月内独自完成项目的问题边界梳理及把控 ,完成对应的设计方案及架构文档输出。
2.独自完成全私有云平台构建,数据治理、数据审计、数据脱敏及数仓安全共享。
3.对接课题各项指标落实、课题验收文档及验收测试。

2021.04 - 2021.10 大数据国家安全实验室建设项目
项目职务:系统架构师(独立完成项目)
所在公司:中电长城网际系统应用有限公司
项目描述:
主要展示实验室的现有产品功能,目前的研究进展。
项目架构:
安全私有云平台构建,国产安全网关,堡垒机,离线数仓,实时数仓,数据治理及展示,微服务分布式架构管控。
项目职责:
安全云平台构建(包括防火墙、核心交换机、接入交换机、上网行为管理控制其配置等),架构设计,功能介绍,展示数据汇聚及展示。
项目业绩:
1、独自完成安全云平台构建,架构设计,功能介绍,展示数据汇聚和展示。
2、独自完成项目的整体汇报工作。

2020.06 - 2021.03 某某集团实验室建设
项目职务:大数据架构师
所在公司:中电长城网际系统应用有限公司
项目描述:
某某集团实验室建设,负责云平台搭建,数据仓库搭建,数仓建模及数据导入,国产安全网关配置,可视化展示等。主要面向数据仓库安全加固,云安全加固,网络安全审查及加固,数仓建模、治理、审计及可视化展示。
项目架构:
安全云平台,安全网关认证,堡垒机,离线数仓(hdfs,hive,spark,hive,hbase,mysql,ranger,atlas,LDAP,sqoop,azkaban,kylin等)并有部分实时数仓。
项目职责:
安全云平台构建(包括防火墙、核心交换机、接入交换机、上网行为管理控制其配置等),架构设计,数仓建立,数仓安全,数据汇入,数据治理,数据管控,数据共享。
难点1:国产化CPU适配云平台。
难点2:多层安全加固设计及技术实施,甲方模拟多维度测试攻击无破绽。
难点3:多维度数据治理及数据整合,对接客户大屏可视化展示。
涉及到的技术点:
1、openstack云平台搭建和维护,zabbix监控界面部署等。搭建多套云平台,适配成功国产服务器的云平台,如cpu是国产海光的曙光服务器。采用ceph磁盘阵列存储,具备安全加固,安全审计,端口限制、虚拟机服务器之间的冷热迁移,raw和qcow2、vmdk等格式的转化,云平台之间虚拟机迁移及指定IP恢复,在线扩展虚拟机配置等。
2、基于hadoop生态实时数据仓库:架构设计、数仓建模、部署、优化等,包括springboot、kafka、nginx、redis、sparkString/flink、OLAP即席查询(kylin/presto/clickhouse)、HDFS、hive,ELK等。
3、基于hadoop生态离线数据仓库:架构设计、数仓建模(星型模型为主)、部署、优化、数据分析、可视化、数据权限管理、元数据管理、数据质量管理、集群测试、压力测试、数据同步策略制定(全量、新增、新增和变化、特殊)、数仓分层设计、日常问题处理。涉及到的数据库有mysql(MHA\HA),sqoop/kettle,HDFS ,Hive/spark,mognodb,hbase,zookeeper,yarn,elasticsearch,关系型数据库solr,redis,neo4j,采集flume、Kafka,元数据管理atlas,数据权限管理ranger,进程调度插件Azkaban,可视化报表Superset,即席查询Presto&Kylin,质量监控Griffin,进程自监控自启动插件supervisor,服务器运维监控zabbix等。
项目业绩:
1.在供应商支持的条件下,独自一人完成国产化CPU适配云平台工作。
2.根据客户的需求完成整体的架构设计及输出文档。
3.多层安全加固设计方案得到甲方认可。技术实施验证符合预期。
4.带领团队成完成数据治理模型建设及多个数据接口打通,完成多维度综合数据在客户大屏可视化展示工作。
5.完成客户培训工作及相关文档输出并提前交付客户。

2018.08 - 2020.12 态势感知大数据平台管理项目
项目职务:大数据架构师(独立完成项目)
所在公司:中电长城网际系统应用有限公司
项目描述:
这个项目作为项目技术经理,主要负责大数据平台技术研发,云平台研发,大数据集群部署,负责PB级别大数据集群搭建,维护,系统部署,测试方案撰写及实施,数据库检测界面开发,厂商对接及问题处理,数据导入导出及维护等。项目职责:
作为项目技术经理,负责设计并实施PB级别数据中台建立及各厂商接口对接,数据中台运维及性能调优。(独自一人完成)。
涉及到的技术点:
涉及到的数据库有ES集群(包括23国语言支持,kibana,elasticdump等),mongodb集群,Neo4j集群,mysqlHA),hadoop集群,hbase集群,Redis集群,Kafka集群,neo4j具备冷备功能)。所有集群和数据库具备自检测自恢复功能(supervisor管理),PB级别数据达到毫秒级响应。数据库30亿条真实数据单条件检索和多条件检索均在0.2秒以内,具备全量备份及恢复,增量备份及增量恢复,数据进程自监控自启动,当某一进程挂掉后会瞬间拉起,当数据库出现问题后,系统会告警,有整体监控界面等。
项目业绩:
1.独自一人完成整个项目的技术设计并实施。
2.该项目给公司创造纯利润600多万。

2019.06 – 2020.05 某某大数据中心项目
项目职务:系统架构师
所在公司:中电长城网际系统应用有限公司
项目描述:
数据中台建立及各厂商接口对接,金融相关业务数据导入及治理。负责数据仓库搭建,数仓建模及数据导入,可视化展示及培训等。主要面向数据仓库安全加固,网络安全审查及加固,数仓建模及使用。
项目职责:
负责架构设计,数仓建立,数仓安全,数据汇入,数据治理厂商接口对接及打通。
涉及到的技术点:
1、python语言,shell脚本,sql脚本。
2、物理架构,网络架构及安全架构。
3、数仓建模及ETL相关脚本。
项目业绩:
1.完成架构设计及架构实现。
2.技术把控,无大的疏漏,项目顺利交付。

0条评论 雇主评价

暂无评论~

可兼职时间

周六全天
周日全天
工作日下班后
周六半天
周日半天

可兼职地点

海淀

被预约

0

被收藏

0

被评价

0

立即预约

可兼职时间

周六全天
周日全天
工作日下班后
周六半天
周日半天

可兼职地点

海淀