Python+大數(shù)據(jù)開發(fā)課程大綱

• SQL基礎(chǔ)

• Hadoop技術(shù)棧

• 千億級(jí)離線數(shù)倉項(xiàng)目

• 千億級(jí)離線數(shù)倉項(xiàng)目實(shí)戰(zhàn)

• Python基礎(chǔ)編程

• ETL實(shí)戰(zhàn)

• BI報(bào)表開發(fā)項(xiàng)目實(shí)戰(zhàn)(新增)

• Spark技術(shù)棧

• 用戶畫像解決方案

• PB級(jí)內(nèi)存計(jì)算項(xiàng)目實(shí)戰(zhàn)

• 基于AI大模型數(shù)據(jù)開發(fā)項(xiàng)目(新增)

• 面試加強(qiáng)

• 阿里云實(shí)時(shí)計(jì)算Flink全棧開發(fā)(更新)

• 阿里云實(shí)時(shí)計(jì)算項(xiàng)目(更新)

查看詳細(xì)課程大綱>SQL基礎(chǔ)課時(shí)：8天

主要內(nèi)容

· Linux操作系統(tǒng)· MySQL與SQL· Kettle與BI工具· 電商運(yùn)營指標(biāo)分析

可解決的現(xiàn)實(shí)問題

熟練掌握MySQL\SQL、Kettle以及BI工具使用，能夠解決傳統(tǒng)數(shù)倉業(yè)務(wù)開發(fā)任務(wù)。

可掌握的核心能力

1. 掌握MySQL數(shù)據(jù)庫的使用；
2. 掌握SQL語法；
3. 掌握Kettle數(shù)據(jù)遷移工具的使用；
4. 熟練使用BI可視化工具；
5. 對(duì)數(shù)據(jù)開發(fā)有一定認(rèn)知，掌握BI工程師所具備的基本技能。

查看詳細(xì)課程大綱>Hadoop技術(shù)棧課時(shí)：11天

主要內(nèi)容

· 大數(shù)據(jù)開發(fā)Hadoop基礎(chǔ)· Hive基礎(chǔ)· Hive進(jìn)階

可解決的現(xiàn)實(shí)問題

熟悉Linux操作系統(tǒng)，以及各種Linux命令，能夠解決企業(yè)級(jí)大數(shù)據(jù)集群搭建問題，為進(jìn)階大數(shù)據(jù)開發(fā)奠定基礎(chǔ)。

可掌握的核心能力

1.掌握Linux常用命令，為數(shù)據(jù)開發(fā)后續(xù)學(xué)習(xí)打下的良好基礎(chǔ)；
2.掌握大數(shù)據(jù)的核心框架Hadoop以及其生態(tài)體系，完成HDFS、MapReduce及Yarn機(jī)制基本理解與使用；能夠搭建Hadoop高可用HA集群；
3.掌握Hive的使用和調(diào)優(yōu)；
4.具備Hadoop開發(fā)能力、離線數(shù)據(jù)倉庫開發(fā)能力；
5.能夠完成基本構(gòu)建企業(yè)級(jí)數(shù)倉。

查看詳細(xì)課程大綱>千億級(jí)離線數(shù)倉項(xiàng)目課時(shí)：11天

主要內(nèi)容

· 大數(shù)據(jù)部署運(yùn)維：Cloudera Manager · 分析決策需求：數(shù)據(jù)倉庫 · 數(shù)據(jù)采集：DataX
· 數(shù)據(jù)分析：Hive· 數(shù)據(jù)調(diào)度：Dolphinscheduler · OLAP系統(tǒng)存儲(chǔ)：PostgreSql
· Fine Report數(shù)據(jù)報(bào)表與大屏· 數(shù)倉建模: 范式與維度建模
· 五大核心主題域開發(fā): 銷售域、供應(yīng)鏈域、會(huì)員域等

可解決的現(xiàn)實(shí)問題

能夠解決企業(yè)級(jí)常見數(shù)據(jù)倉庫搭建，從項(xiàng)目的需求、技術(shù)架構(gòu)、業(yè)務(wù)架構(gòu)、部署平臺(tái)、ETL設(shè)計(jì)、作業(yè)調(diào)度等整套pipeline，完成大數(shù)據(jù)體系下的企業(yè)級(jí)數(shù)據(jù)倉庫構(gòu)建。

可掌握的核心能力

1.掌握泛電商行業(yè)離線數(shù)倉的分層與建模，從需求、設(shè)計(jì)、研發(fā)、測試到落地上線的完整項(xiàng)目流程；
2.行業(yè)內(nèi)首個(gè)深度講解數(shù)倉建模模型方案的主體項(xiàng)目；
3.包括海量數(shù)據(jù)場景下如何優(yōu)化配置；
4.掌握項(xiàng)目遷移能力，能夠?qū)㈨?xiàng)目遷移至泛電商的各個(gè)領(lǐng)域；
5.掌握在泛電商行業(yè)中關(guān)于全量與增量數(shù)據(jù)處理模式；
6.提供泛電商行業(yè)下的數(shù)據(jù)存儲(chǔ)分析以及服務(wù)監(jiān)控方案。

查看詳細(xì)課程大綱>千億級(jí)離線數(shù)倉項(xiàng)目實(shí)戰(zhàn)課時(shí)：5天

主要內(nèi)容

· 大數(shù)據(jù)部署運(yùn)維：Cloudera Manager· 分析決策需求：數(shù)據(jù)倉庫 · 數(shù)據(jù)采集：sqoop · 數(shù)據(jù)分析：Hive · 分組完成項(xiàng)目

可解決的現(xiàn)實(shí)問題

按照企業(yè)級(jí)大數(shù)據(jù)開發(fā)流程，獨(dú)立完成項(xiàng)目開發(fā)，掌握企業(yè)級(jí)多場景大數(shù)據(jù)離線數(shù)倉開發(fā)能力，從數(shù)倉分層，數(shù)倉建模，指標(biāo)統(tǒng)計(jì)，指標(biāo)展示完成完整的大數(shù)據(jù)項(xiàng)目。

可掌握的核心能力

1.掌握教育行業(yè)離線數(shù)倉的分層與建模，從需求、設(shè)計(jì)、研發(fā)、測試到落地上線的完整項(xiàng)目流程；
2.真實(shí)業(yè)務(wù)邏輯，共涉及20多個(gè)主題，100多個(gè)指標(biāo)，提升學(xué)員在教育行業(yè)中的核心競爭力；
3.包括海量數(shù)據(jù)場景下如何優(yōu)化配置；
4.拉鏈表的具體應(yīng)用；
5.新增數(shù)據(jù)和更新數(shù)據(jù)的抽取和分析；
6.Hive函數(shù)的具體應(yīng)用；
7.ClouderaManager可視化、自動(dòng)部署和配置、Git、CodeReview功能。

查看詳細(xì)課程大綱>Python基礎(chǔ)編程課時(shí)：8天

主要內(nèi)容

· Python基礎(chǔ)語法· Python面向?qū)ο?/span>· Python高級(jí)語法· Python多任務(wù)編程· Python網(wǎng)絡(luò)編程

可解決的現(xiàn)實(shí)問題

熟練掌握Python語言，建立編程思維，使學(xué)員能夠熟練使用Python技術(shù)完成程序編寫。
熟練使用Python面向?qū)ο蟪绦蛟O(shè)計(jì)思想，掌握數(shù)據(jù)開發(fā)必備Python高級(jí)語法，解決常見Python開發(fā)問題。

可掌握的核心能力

1.掌握Python開發(fā)環(huán)境基本配置；
2.掌握運(yùn)算符、表達(dá)式、流程控制語句、數(shù)組等的使用；
3.掌握字符串的基本操作；
4.初步建立面向?qū)ο蟮木幊趟季S；
5.熟悉異常捕獲的基本流程及使用方式；
6.掌握類和對(duì)象的基本使用方式；
7.知道多進(jìn)程多線程的原理。

查看詳細(xì)課程大綱>ETL實(shí)戰(zhàn)課時(shí)：5天

主要內(nèi)容

· ETL概念與工具· ETL項(xiàng)目需求分析· ETL項(xiàng)目架構(gòu)設(shè)計(jì)· Python ETL實(shí)戰(zhàn)

可解決的現(xiàn)實(shí)問題

掌握Python完成數(shù)據(jù)ETL實(shí)戰(zhàn)，能夠解決中小型數(shù)據(jù)量數(shù)據(jù)處理相關(guān)任務(wù)。

可掌握的核心能力

1. 掌握ETL的相關(guān)概念；
2. 掌握基于Python語言完成ETL任務(wù)開發(fā)實(shí)戰(zhàn)；
3. 基于ETL實(shí)戰(zhàn)鍛煉Python編程能力，包括（元數(shù)據(jù)管理、數(shù)據(jù)模型、項(xiàng)目配置、單元測試、工具方法抽取等）；
4. 掌握BI數(shù)據(jù)分析實(shí)戰(zhàn)。

查看詳細(xì)課程大綱>BI報(bào)表開發(fā)項(xiàng)目實(shí)戰(zhàn)課時(shí)：3天

主要內(nèi)容

· BI報(bào)表開發(fā)需求分析· BI報(bào)表工具· FineReport報(bào)表入門· 泛電商行業(yè)五大主題的實(shí)現(xiàn)

可解決的現(xiàn)實(shí)問題

掌握使用量最廣BI報(bào)表開發(fā)工具FineReport，能夠基于FineReport完成不同行業(yè)BI報(bào)表開發(fā)及業(yè)務(wù)決策。

可掌握的核心能力

1.掌握BI報(bào)表開發(fā)需求分析
2.掌握BI報(bào)表工具
3.掌握FineReport報(bào)表

查看詳細(xì)課程大綱>Spark技術(shù)棧課時(shí)：10天

主要內(nèi)容

· 大數(shù)據(jù)Spark技術(shù)棧· SparkSQL數(shù)據(jù)處理與統(tǒng)計(jì)分析· Spark案例實(shí)戰(zhàn)

可解決的現(xiàn)實(shí)問題

掌握全球熱門的Spark技術(shù)棧，通過SparkCore和SparkSQL解決數(shù)據(jù)處理與統(tǒng)計(jì)分析工作，進(jìn)階高級(jí)大數(shù)據(jù)開發(fā)工程師。

可掌握的核心能力

1. 掌握Spark的RDD、DAG、CheckPoint等設(shè)計(jì)思想；
2. 掌握SparkSQL結(jié)構(gòu)化數(shù)據(jù)處理，Spark On Hive；
3. 掌握Structured Streaming整合多數(shù)據(jù)源完成實(shí)時(shí)數(shù)據(jù)處理；
4. 具備Spark全棧開發(fā)能力，滿足大數(shù)據(jù)行業(yè)多場景統(tǒng)一技術(shù)棧的數(shù)據(jù)開發(fā)，提供就業(yè)核心競爭力。

查看詳細(xì)課程大綱>用戶畫像解決方案課時(shí)：10天

主要內(nèi)容

· SparkSQL整合ES自定義數(shù)據(jù)源· DS任務(wù)界面化調(diào)度· 用戶畫像標(biāo)簽構(gòu)建規(guī)則· 用戶畫像規(guī)則類標(biāo)簽構(gòu)建· 用戶畫像統(tǒng)計(jì)類標(biāo)簽構(gòu)建

可解決的現(xiàn)實(shí)問題

項(xiàng)目提供了全行業(yè)用戶畫像解決方案, 使用SparkSQL+ES+DS構(gòu)建企業(yè)級(jí)用戶畫像，通過SparkSQL+MySQL構(gòu)建通用行業(yè)用戶畫像標(biāo)簽體系。

可掌握的核心能力

1.掌握SparkSQL整合ES自定義數(shù)據(jù)源；
2.掌握用戶畫像構(gòu)建流程；
3.掌握用戶畫像標(biāo)簽構(gòu)建規(guī)則；
4.掌握用戶畫像規(guī)則類標(biāo)簽構(gòu)建；
5.掌握用戶畫像統(tǒng)計(jì)類標(biāo)簽構(gòu)建。

查看詳細(xì)課程大綱>PB級(jí)內(nèi)存計(jì)算項(xiàng)目實(shí)戰(zhàn)課時(shí)：3天

主要內(nèi)容

· 多場景畫像標(biāo)簽項(xiàng)目實(shí)戰(zhàn)· 基于Spark全棧技術(shù)構(gòu)建企業(yè)級(jí)大數(shù)據(jù)開發(fā)平臺(tái)

可解決的現(xiàn)實(shí)問題

基于Spark全棧技術(shù)構(gòu)建企業(yè)級(jí)大數(shù)據(jù)開發(fā)平臺(tái)，學(xué)生分組獨(dú)立完成項(xiàng)目實(shí)戰(zhàn)，能夠勝任常見大數(shù)據(jù)平臺(tái)開發(fā)工作，助力企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。

可掌握的核心能力

1.掌握保險(xiǎn)行業(yè)數(shù)據(jù)分析流程；
2.掌握保費(fèi)計(jì)算流程；
3.掌握DS調(diào)度流程。

查看詳細(xì)課程大綱>基于AI大模型數(shù)據(jù)開發(fā)項(xiàng)目實(shí)戰(zhàn)課時(shí)：2天

主要內(nèi)容

· ChatGPT生成代碼· ChatGPT改Bug· 基于AI大模型的出行大數(shù)據(jù)平臺(tái)數(shù)倉搭建· 基于AI大模型指標(biāo)開發(fā)

可解決的現(xiàn)實(shí)問題

掌握如何使用AI大模型幫助數(shù)據(jù)開發(fā)和數(shù)據(jù)分析編程效率提升，具備使用AI大模型解決問題的能力。

可掌握的核心能力

1.完成ChatGPT基礎(chǔ)使用；
2.基于ChatGPT可以完成改Bug，寫注釋，生成代碼等常見編程任務(wù)；
3.能夠基于合理的Prompts提示詞進(jìn)行提問，助力提升編程效率。

查看詳細(xì)課程大綱>面試加強(qiáng)課時(shí)：4天

主要內(nèi)容

· 核心技能知識(shí)點(diǎn)以及常見面試題強(qiáng)化學(xué)習(xí)

可解決的現(xiàn)實(shí)問題

對(duì)學(xué)習(xí)的內(nèi)容進(jìn)行整體回顧，并分析經(jīng)典面試題，指導(dǎo)簡歷，面試和溝通技巧。

可掌握的核心能力

1.強(qiáng)化面試就業(yè)核心面試題；
2.梳理大數(shù)據(jù)架構(gòu)及解決方案；
3.剖析多行業(yè)大數(shù)據(jù)架構(gòu)。

查看詳細(xì)課程大綱>阿里云實(shí)時(shí)計(jì)算Flink全棧開發(fā)課時(shí)：5天

主要內(nèi)容

· 阿里云Flink入門· Flink SQL· Flink作業(yè)開發(fā)· 阿里云Flink運(yùn)維

可解決的現(xiàn)實(shí)問題

掌握當(dāng)下熱門的流批一體化分布式計(jì)算框架阿里云Flink及其生態(tài)，解決實(shí)時(shí)計(jì)算經(jīng)典場景問題，適應(yīng)市場對(duì)阿里云Flink越發(fā)增長的需求。

可掌握的核心能力

1.掌握基于阿里云Flink進(jìn)行實(shí)時(shí)和離線數(shù)據(jù)處理、分析；
2.掌握基于阿里云Flink的多流并行處理技術(shù)；
3.掌握FlinkCDC多數(shù)據(jù)源采集技術(shù)。

查看詳細(xì)課程大綱>阿里云實(shí)時(shí)計(jì)算項(xiàng)目課時(shí)：5天

主要內(nèi)容

基于阿里云Flink + Kafka + Paimon 湖倉一體技術(shù)架構(gòu)，實(shí)現(xiàn)在線視頻行業(yè)大規(guī)模流數(shù)據(jù)處理和實(shí)時(shí)分析。本項(xiàng)目依托 阿里云 Flink 流處理計(jì)算引擎， 通過 FlinkCDC 實(shí)時(shí)采集 RDS MySQL 數(shù)據(jù)庫數(shù)據(jù)，實(shí)現(xiàn)數(shù)據(jù)采集的斷點(diǎn)續(xù)傳，使用Kafka 作為實(shí)時(shí)數(shù)倉，使用 Paimon 實(shí)現(xiàn)數(shù)據(jù)的持久化和Flink 批處理，實(shí)現(xiàn)計(jì)算的流批一體，數(shù)據(jù)存儲(chǔ)的湖倉一體，采用StarRocks對(duì)接DataV完成實(shí)時(shí)業(yè)務(wù)大屏展示。

可解決的現(xiàn)實(shí)問題

采集超過千萬條在線視頻的數(shù)據(jù)，實(shí)時(shí)高性能海量數(shù)據(jù)分析與存儲(chǔ)業(yè)務(wù)數(shù)據(jù)實(shí)時(shí)大屏場景實(shí)現(xiàn)。

可掌握的核心能力

1.湖倉一體化解決方案基于Flink+Paimon湖倉一體技術(shù)架構(gòu)；
2.基于FlinkCDC完成MySQL等數(shù)據(jù)源的數(shù)據(jù)采集；
3.FlinkSQL流批一體架構(gòu)實(shí)現(xiàn)實(shí)時(shí)數(shù)據(jù)計(jì)算；
4.使用StarRocks進(jìn)行海量多維分析；
5.掌握數(shù)據(jù)報(bào)表分析；
6.掌握業(yè)務(wù)數(shù)據(jù)實(shí)時(shí)大屏場景實(shí)現(xiàn)。