etl崗位職責(精選9篇)
etl崗位職責 篇1
etl高級工程師職位要求
1、計算機、數學或統計等專業,本科以上學歷;
2、精通sql語言;熟悉數據倉庫設計、建模;
3、精通python,能夠編寫腳本處理、分析數據;
4、熟悉批量離線式分布式并行計算技術(如hadoop、mapreduce、hive、spark等)
5、熟悉sqlserver、mysql數據庫;了解redis等非關系型數據庫;
6、熟悉至少一種常用etl工具(如kettle、ssis、gobblin);了解常用報表工具(如reporting services以及各類開源報表);
7、了解常用數據挖掘方法(回歸、決策樹、聚類等)。
etl高級工程師崗位職責
1、負責國際網站后臺數據倉庫搭建、維護;
2、運用各類大數據工具設計etl流程,消費生產環境埋點、日志等數據;
3、日常數據監控以及數據預警,異常數據解讀挖掘,并與業務同事溝通解決方案;
4、分析用戶的特征和行為數據,挖掘不同類型用戶的`行為特性,為實際的業務運營提供數據支持;
5、從數據分析結果中尋找insight和商業價值,并以簡明扼要的形式傳導到其他部分,指導實際的業務運營;
6、處理國際網站的臨時數據需求,并對于常用重要需求轉化成數據產品。
etl崗位職責 篇2
職位描述:
1、負責公司數據平臺項目的etl設計、實現以及優化。
2、負責etl流程優化,關鍵問題解決、團隊技術與引導和前瞻性技術研究;
3、參與數據倉庫數據模型設計,進行數據質量監測、校驗和提升;
4、使用etl技術對醫院信息系統數據進行提取、清洗、轉換和整合;
崗位要求:
1、至少三年以上etl數據開發經驗;計算機相關專業本科以上學歷,熟悉數據分析與數據挖掘理論;
2、熟悉dw實施方法論和常規etl構架,有整體etl開發經驗,深刻理解元數據管理;
3、熟練掌握oracle、sql server、mysql、postgresql等至少兩種主流數據庫的使用;
4、熟練掌握ssis、kettle、informatica等至少一種etl工具的使用;
5、精通sql、存儲過程、函數的使用,具備編寫、優化復雜sql的`能力;
6、對數字,數據敏感,具備良好的邏輯思維能力;
7、具備專業的業務研究、分析能力,能夠獨立開展業務調研、數據分析、數據建模、報告編寫工作;
8、有醫療衛生數據平臺開發、實施經驗優先;
9、能適應長期出差。
etl崗位職責 篇3
職位描述:
崗位職能:
1.基于公司數據建設需要,完成數據平臺構建、數據內容開發等工作。包括:數據平臺基礎設施建設、數據采集、etl、數倉及數據集市、數據應用產品等開發工作;
2.充分理解需求文檔,基于此進行自測,交付高質量的`開發代碼和數據內容;
3.工作中對數據平臺基礎設施、數據內容建設等工作主動深度思考,提升效能并積極建言、促進組織和系統發展;
4.其他根據部門需要安排事宜;
崗位要求:
1.信息技術類、數學、統計學、計量經濟學類專業,研究生及以上學歷。優秀候選人學歷可以放寬至本科,工作年限5年以上;
2.熟悉數據倉庫模型設計和精通etl開發經驗,掌握3nf,kimball的維度建模設計方法,具備海量數據加工處理(etl)相關經驗;
3.掌握至少一種數據庫開發技術:oracle、teradata、db2、mysql等,精通并靈活運用sql實現海量數據etl加工處理;
4.熟悉linux系統常規shell處理命令,靈活運用shell做的文本處理和系統操作;
5.有從事分布式數據存儲與計算平臺應用開發經驗,熟悉hadoop生態相關技術并有相關實踐經驗著優先,重點考察hdfs、hive(hql)、hbase;
6.熟練掌握一門或多門編程語言,并有大型項目建設經驗者優先,重點考察python、perl、java;
7.熟悉數據倉庫領域知識和技能者優先,包括但不局限于:數據開發測試工具與方法、數據質量等;
8.良好的語言溝通與表達能力和自我驅動動力。
etl崗位職責 篇4
職責描述:
1、負責數據倉庫建模,業務數據集市建設開發
2、負責數據倉庫etl流程的優化及解決etl相關技術問題、etl流程監控,保障數據平臺架構穩定性
3、建立數據分析指標體系,不斷完善指標體系和分析模型;
4、通過專項分析,輸出專項分析報告
5、負責數據分析相關需求和數據測試的工作
任職要求:
學歷要求:
全日制統考類本科及以上學歷,計算機、通信、電子、軟件工程、統計學、應用數學、數據分析等相關專業
專業技能:
1、熟悉數據倉庫各類模型建模理論,熟悉數據倉庫數據分層架構和多維數據模型設計;
2、豐富的數據分析經驗,熟練掌握sql、hql、sparksql,擅長運用其分析并完成復雜業務數據查詢
3、掌握至少一種數據庫開發技術:mysql/oracle/db2等,靈活運用sql實現海量數據etl加工處理;
4、熟悉hadoop生態(如:hdfs/mapreduce/hive/hbase等),并有相關實踐經驗;
5、熟練掌握一門或多門編程語言(如:python/shell/java/c++等),并有大型項目建設經驗者優先;
素質:
1、敏銳的數據觀察和分析能力,及時發現和分析其中隱含的變化和問題并給出建議;
2、良好的'溝通能力和團隊精神,較強的學習能力,能承擔一定的工作壓力。
經驗:
至少2年以上數據倉庫(離線&實時)模型設計開發、etl設計開發的相關經驗,有通信運營商o域/b域大數據、智慧城市大數據的數據倉庫、etl設計研發經驗者優先'
etl崗位職責 篇5
職位描述:
工作職責:
1、負責數據平臺的etl設計開發、工作流調度設計、存儲過程開發、自定義函數開發。
2、負責各業務系統數據源業務調研、數據調研、準確性完整性驗證。
3、負責項目中與第三方系統基于數據庫的'數據對接、數據預處理、數據清洗、數據處理、數據導入、數據校驗相關開發工作。
4、負責數據平臺的etl相關軟件和工具的研發和改進。
5、負責數據平臺日常管理、跑批、維護、監控、處理臨時數據需求。
任職資格:
1、本科計算機相關專業,5年工作經驗
2、具備3年或以上etl數據處理相關開發經驗
3、擁有3年以上sql開發
4、掌握hadoop?hive-hql?基礎技能
etl崗位職責 篇6
職位描述:
工作職能:
1、負責海量數據的etl處理。
技能要求:
1、熟悉oracle數據庫及sql開發;
2、精通java、shell;
3、掌握hadoop、hive、kafka、elasticsearch、flink或多項大數據開發技術;
4、有flink相關開發經驗優先。
福利待遇:
雙休五險一金法定節假日健身房出國旅游
免費體檢帶薪年假年終獎
etl崗位職責 篇7
職位描述:
崗位職責:
1、負責項目實施過程中所對接的第三方系統的數據處理及質量分析,并完成項目實施過程中的etl工作;
2、熟練掌握etl設計過程,參與大數據平臺架構的設計、開發、流程優化及解決etl相關技術問題;
3、與用戶和項目組進行有效溝通,采集項目需求,并提出相應的解決方案;
4、負責監控etl并解決出現的問題及性能調優,協助完成bi數據建模;
5、根據規范,完成項目相關設計開發文檔的'整理與編寫;
任職要求:
1、統招全日制本科及以上學歷,具備大數據處理經驗尤佳;
2、熟悉etl工具,具有一定項目經驗,負責監控etl并解決出現的問題及性能調優;
3、熟悉hive和hadoop;
4、具備一定的編程能力,熟悉至少一種常用編程語言,java尤佳;
5、掌握關系數據庫常見用法,熟悉常見軟件的安裝,參與過項目的etl工具開發項目的完整分析、設計、開發流程者優先;
6、具備較強的自我學習能力、有較強分析問題的能力、人際溝通能力、團隊協作能力和工作責任感;
etl崗位職責 篇8
職位描述:
崗位職責:
1、數倉開發、etl開發;
2、銀行業數據模型的設計輔助、mapping和落地等;
3、shell腳本開發維護;
4、銀行業務系統的數據調研和分析;
任職要求:
1、本科及以上學歷,計算機或相關專業;
2、2年以上oracle、db2等數據庫開發經驗,熟悉數據庫體系結構;
3、精通pl/sql編程,精通存儲過程開發;
4、熟悉linux操作系統;
5、熟悉etl調度工具和前端工具;
6、軟件基礎理論知識扎實,具備良好的.數據結構、算法功底,有一定獨立分析、技術研究能力;
7、良好的溝通能力、團隊合作精神、樂于;
8、具備較強的自學能力,有一點抗壓能力,能夠接受出差性質的工作。
如有以下技術背景優先考慮:
1、有銀行業系統開發經驗;
2、參與過數倉項目開發、實施;
3、有數據治理項目經驗的。
etl崗位職責 篇9
職位描述:
工作職責:
1、根據公司數據分析需求進行基于hadoop平臺的項目開發;
2、根據需求進行數據倉庫模型設計,熟練使用kettle工具進行etl程序的開發;包括實時數據加工,計算,etl,管理,監控等;
3、負責針對源系統進行數據抽取、處理、分析等相關工作,及項目中涉及到的數據庫創建、維護及提供數據接口工作;
4、負責設計并優化基于hive的數據倉庫的'建設;
5、制定數據庫備份和恢復策略及工作流程與規范。
6、能出具消費品品牌制造行業應用的數據分析技術解決方案,并落地。
任職資格:
1.從事數據倉庫領域至少2年以上,熟悉數據倉庫模型設計與etl開發經驗,具備海量數據加工處理相關經驗;
2.熟悉數據倉庫領域知識和技能者優先,包括但不局限于:元數據管理、數據開發測試工具與方法、數據質量、主數據管理;
3.有從事分布式數據存儲與計算平臺應用開發經驗,熟悉hadoop生態相關技術并有相關實踐經驗著優先,重點考察hive、hdfs、hbase;
4.熟練掌握kettlesqoop、datax、airflow等;
5.有消費品品牌制造、零售行業經驗,尤其快消品行業和財務領域數據項目經驗者優先;
6.熟悉分布式計算presto/imapa優先;
7.有實時計算方面的經驗的優先。