首页 > 企业文档 > 岗位职责 > 详情页

大数据开发技术岗位职责

2023-07-18 08:56:00

千文网小编为你整理了多篇相关的《大数据开发技术岗位职责》,但愿对你工作学习有帮助,当然你在千文网还可以找到更多《大数据开发技术岗位职责》。

第一篇:大数据开发工程师岗位的主要职责

职责:

1、参与大数据架构的规划设计,参与业务建模及数据化运营平台的搭建、运维,对业务流程与大数据的结合提出建议和解决方案;

2、完成基于大数据平台的业务项目的开发、实施和维护工作;

3、负责解决大数据平台建设过程中的技术难点和性能调优工作;

4、参与数据仓库设计,根据业务需求实现高效率高灵活性的查询,数据分析,数据挖掘;

5、负责高吞吐高可用数据实时和离线采集,高并发的大数据业务架构设计

6、负责研发技术发展方向,新技术领域的探索,引入并验证数据平台领域新技术,提供系统效能

7、对大数据技术及开源框架充满热情,具有钻研精神,能自我学习。

任职资格:

1、具有5年Java开发经验,熟悉Spring生态,掌握Hibernate、Mybatis任意一种ORM框架,掌握Oracle、Mysql数据库。

2、具有2年以上的大数据开发经验,熟悉大数据、数据仓库,分布式架构技术理论,具有大数据整体系统架构设计和实战经验,熟悉CDH、HDP、TDH至少一款大数据产品,有从无到有建设大数据平台经验者优先;

3、熟悉大数据组件的开发、搭建、维护以及性能优化;

4、较强的开发能力,必须熟练使用相关开发语言(Java/Python/Scala/Shell等),熟悉大数据生态、关系数据库和NOSQL数据库、Linux等相关知识,能够独立完成并指导初级开发人员完成大数据相关的技术实现和调优;

5、熟悉Hadoop、Hbase、Hdfs、MapReduce、Yarn、Zookeeper、Hive、Impala、Spark、Flink、Kafka、Flume、Kylin、Phoenix等组件或技术,能阅读源码跟踪问题。

6、熟练掌握Spark、flink任意一种计算框架,掌握MapReduce计算框架原理,并有实际项目开发经验。

7、熟练掌握HDFS、HBase、Kafka、Redis、Hive、Sqoop、Shell等技术和组件,熟练应用开发,必须熟悉复杂数据查询性能调优,包括实时查询和离线批处理查询,服务器和生态组件的参数优化。

8、精通高级算法并有与业务结合落地优先;

9、扎实的独立分析问题、解决问题的能力,具备良好的需求理解能力、沟通协调能力和团队合作精神;有很强的数据设计抽象能力,善于从复杂的数据问题中找到关键路径,并且擅于跟业务团队就业务问题进行良好的沟通,能推动业务的指标化、量化;

10、有较好的学习能力、团队协作精神,认真细心,有强烈的责任心,爱岗敬业,有较高抗压能力,有较好的工作稳定性。

第二篇:大数据开发工程师岗位的主要职责

职责:

1、 负责大数据平台架构的整体设计,承担数据抽取、清洗、转化等数据处理程序开发;

2、 为业务运营提供技术支持,完成应用系统的搭建、优化、升级工作,保证平台稳定运行;

3、 编写系统的需求分析、设计、开发和部署文档等。

岗位要求:

1、硕士及以上学历,计算机、自动化、通信等相关专业;

2、熟练掌握Java语言,并熟悉Python语言,熟悉分布式系统架构,有hadoop,spark系统架构经验;

3、熟悉实时计算框架storm,flink,spark streaming其中之一;

4、熟练使用SQL,熟悉数据库原理,熟练使用至少一种主流关系型数据库;

5、熟悉软件开发流程,能够根据需求编写需求、设计、开发手册等项目过程文档;

6、具有良好的沟通能力和主动性,抗压能力强。

第三篇:数据开发岗位职责

1、精通java开发、熟悉restful和maven,精通主流java web开发框架spring、spring boot、spring data jpa、logback、mybatis;

2、熟悉对常用关系型数据库和hdfs、hive,kafka、storm等读写操作,性能优化;

3、具备系统架构设计能力,具备较强的java程序调优能力及数据库设计和sql调优能力,具备良好的沟通能力;

4、熟悉多线程编程、熟悉junit单元测试;

第四篇:大数据开发工程师岗位的基本职责

职责:

1.负责ORACLE、SQLSEVER等数据库的实时数据处理、故障分析出来,性能优化等;

2.定位和解决数据集群组件性能和高可用问题,协助数据集群监控系统的开发;

3.深入探索业务数据,创造性的思考和发现问题,能够提出有效解决方案,协助新项目的预研和开发,数据驱动业务,

4.负责公司内外部各数据的接入和清洗处理。

任职资格:

1、计算机相关专业,本科及以上学历,1年以上hadoop开发经验,对分布式计算理论有深刻理解。

2、熟悉Linux开发环境,熟练Java、scala编程,有良好的编码习惯;

3、熟悉Hadoop、HBase、HIVE、Spark、KAFKA等系统相关技术原理与实现;

4、熟悉mysql、sql server、oracle开发环境,对SQL语句相当熟练,具备sql调优能力;

5、有大数据运维相关经验优先

6、具备良好的沟通能力、学习能力、分析解决问题能力;

7、英语熟练优先

第五篇:大数据开发工程师岗位的基本职责

职责:

1、根据数据库仓库及BI项目的需求,制定ETL相关的设计方案和开发计划,并进行后续的设计、实施、维护;

2、负责整个数据仓库数据模型的管理工作(建模、设计、实施);负责数据源调研、入库、开发的全流程工作,并保证数据质量;

3、负责数据仓库的模型的标准制定,实施,监督工作;承担数据抽取、清洗、转化等数据处理程序开发。

任职要求:

1、精通关系型数据库理论,熟练掌握Oracle数据库,熟悉数据仓库架构与模型;

2、熟悉Informatica等主流ETL开发工具;

3、精通SQL语句,对SQL查询优化有丰富的经验,熟悉PLSQL,熟悉函数、存储过程,触发器等的开发;

4、熟悉Linux操作系统SHELL脚本。

推荐专题: 大数据开发技术岗位职责

相关推荐
本站文档由会员上传,版权归作者所有,如有侵权请发送邮件至89702570@qq.com联系本站删除。
Copyright © 2010 - 千文网移动版
冀ICP备2020027182号