您所在的位置:名課堂>>內(nèi)訓(xùn)課程>>研發(fā)管理培訓(xùn)
高并發(fā)高性能大容量數(shù)據(jù)庫設(shè)計培訓(xùn)
【課程編號】:NX20895
高并發(fā)高性能大容量數(shù)據(jù)庫設(shè)計培訓(xùn)
【課件下載】:點擊下載課程綱要Word版
【所屬類別】:研發(fā)管理培訓(xùn)
【培訓(xùn)課時】:2天,6小時/天
【課程關(guān)鍵字】:大容量數(shù)據(jù)庫培訓(xùn)
我要預(yù)訂
咨詢電話:027-5111 9925 , 027-5111 9926手機:18971071887郵箱:Service@mingketang.com
課程背景
隨著互聯(lián)網(wǎng)的快速普及和寬帶提速,信息技術(shù)深入的滲透至人們生活的每個角落,如智能手機、移動設(shè)備等,為人們的生產(chǎn)和生活提供了極大的便利,如辦公、購物、休閑、娛樂等,同時,每時每刻產(chǎn)生著海量的數(shù)據(jù),對于數(shù)據(jù)的收集、存儲、分析、挖掘、應(yīng)用、創(chuàng)新提出了巨大的挑戰(zhàn)。尤其是在線實時高并發(fā)大容量的業(yè)務(wù)要求軟件系統(tǒng)具有高效、高并發(fā)、大容量的同時,要保證事務(wù)的特征,如ACID,即原子性、一致性、持久性、隔離性,但是針對此應(yīng)用場景,傳統(tǒng)的關(guān)系數(shù)據(jù)庫已經(jīng)無法滿足生產(chǎn)實際需求,因此,必須采用新的數(shù)據(jù)庫系統(tǒng)才能解決以上挑戰(zhàn),也即是采用高性能的分布式數(shù)據(jù)庫系統(tǒng)。
針對大數(shù)據(jù)時代對高并發(fā)高性能大容量數(shù)據(jù)庫的需求,尹老師總結(jié)多年分布式數(shù)據(jù)庫使用與設(shè)計經(jīng)驗,精心打造了分布式數(shù)據(jù)庫課程,該課程從分布式數(shù)據(jù)庫原理、性能、應(yīng)用實踐、性能對比等方面對這些數(shù)據(jù)庫進行全面的剖析與介紹,為企業(yè)的技術(shù)選型、應(yīng)用實踐奠定理論與實踐基礎(chǔ),為企業(yè)適應(yīng)大數(shù)據(jù)時代做了技術(shù)儲備。
培訓(xùn)目標
1、本課程介紹高并發(fā)高性能大容量分布式數(shù)據(jù)庫系統(tǒng),包括高并發(fā)高性能大容量數(shù)據(jù)庫設(shè)計原理、部署方法、優(yōu)缺點和應(yīng)用模式等;
2、本課程介紹數(shù)據(jù)存儲架構(gòu),包括數(shù)據(jù)分片、弱的事務(wù)、分布式一致性協(xié)議算法、強一致性、平滑無限水平擴展節(jié)點的分布式數(shù)據(jù)庫;
3、介紹較新的高并發(fā)系統(tǒng)分布式緩存集群設(shè)計,代表產(chǎn)品有阿里的HBase、Redis、Redis Cluster,并且目前都已經(jīng)在互聯(lián)網(wǎng)場景進行了實踐,取得了不錯的效果;
4、本課程介紹NoSQL原理及分類及使用,這些產(chǎn)品的原理、性能、實踐、多個維度對比等方面進行有針對性的剖析,為企業(yè)的技術(shù)升級做準備。
培訓(xùn)對象
1、本課程適合于高并發(fā)高性能大容量數(shù)據(jù)庫設(shè)計應(yīng)用人員;
2、適合于互聯(lián)網(wǎng)、金融機構(gòu)等分布式數(shù)據(jù)庫使用人員;
3、適合于大數(shù)據(jù)、人工智能、數(shù)據(jù)挖掘人員;
培訓(xùn)方式
以課堂講解、演示、案例分析為主,輔以互動研討、現(xiàn)場答疑、學(xué)以致用。
課程大綱
第一天
第1個主題:高并發(fā)高性能大容量數(shù)據(jù)庫設(shè)計(介紹當(dāng)前主流的高并發(fā)高性能大容量數(shù)據(jù)庫設(shè)計原理、部署方法、優(yōu)缺點和應(yīng)用模式)(60分鐘)
1、業(yè)界主流的高并發(fā)高性能大容量數(shù)據(jù)庫有哪些
2、高并發(fā)高性能大容量數(shù)據(jù)庫的應(yīng)用場景
a)大數(shù)據(jù)非結(jié)構(gòu)化數(shù)據(jù)的應(yīng)用場景
b)大數(shù)據(jù)歷史明細查詢的應(yīng)用場景
c)秒殺高并發(fā)的應(yīng)用場景
d)實時高并發(fā)業(yè)務(wù)的應(yīng)用場景
e)在線實時統(tǒng)計分析的應(yīng)用場景
3、高并發(fā)高性能大容量數(shù)據(jù)庫的具體應(yīng)用案例
a)分布式內(nèi)存庫在運營商話單詳單查詢系統(tǒng)中的應(yīng)用
b)分布式內(nèi)存庫在金融行業(yè)流水業(yè)務(wù)查詢系統(tǒng)中的應(yīng)用
c)分布式內(nèi)存庫在微博自媒體業(yè)務(wù)中應(yīng)用
4、高并發(fā)高性能大容量數(shù)據(jù)庫設(shè)計原理
5、高并發(fā)高性能大容量數(shù)據(jù)庫部署方法
6、高并發(fā)高性能大容量數(shù)據(jù)庫優(yōu)缺點
7、高并發(fā)高性能大容量數(shù)據(jù)庫應(yīng)用模式
8、分布式內(nèi)存庫的特性
9、CAP理論
10、BASE思想
11、RWN理論
12、分布式關(guān)系型內(nèi)存庫
a)MySQL Cluster
13、分布式NoSQL列式內(nèi)存庫
a)HBase
b)Cassandra
c)GemFire
14、分布式文檔內(nèi)存庫
a)MongoDB
15、高并發(fā)系統(tǒng)分布式緩存集群
a)HBase
b)Redis Cluster
16、案例:GemFire在實時交易系統(tǒng)12306的使用案例分享
第2個主題:NoSQL原理及分類及使用(深入剖析NoSQL原理及分類及使用)(60分鐘)
1、什么是NoSQL
2、NoSQL基礎(chǔ)概念
3、NoSQL種類與特點
4、NoSQL原理
5、NoSQL數(shù)據(jù)庫架構(gòu)
6、NoSQL分類
7、NoSQL使用
8、內(nèi)存數(shù)據(jù)庫
9、內(nèi)存數(shù)據(jù)庫原理
10、內(nèi)存數(shù)據(jù)庫優(yōu)劣勢剖析
11、單機NoSQL數(shù)據(jù)庫
12、分布式NoSQL數(shù)據(jù)庫
13、典型的NoSQL數(shù)據(jù)庫
14、實例分享:NoSQL數(shù)據(jù)庫案例剖析
第3個主題:Redis基礎(chǔ)知識(詳細介紹Redis基礎(chǔ)知識)(30分鐘)
1、Redis簡介
2、Redis安裝部署
3、Redis配置詳解
4、客戶端
5、Redis Key類型
6、Redis String類型
7、Redis Hash類型
8、Redis Set類型和ZSet類型
9、Redis List類型
10、Redis Key超時機制
11、Redis 持久化
12、Redis副本
13、Redis常用命令介紹
第4個主題:高并發(fā)系統(tǒng)分布式緩存集群設(shè)計(深入介紹高并發(fā)系統(tǒng)分布式緩存集群設(shè)計)(60分鐘)
1、Redis數(shù)據(jù)庫原理
2、Redis數(shù)據(jù)庫應(yīng)用
3、Redis開發(fā)實踐(倒排索引)
4、Redis開發(fā)調(diào)試
5、Redis優(yōu)化
6、Redis發(fā)布訂閱機制剖析
7、Redis集群搭建
8、Codis介紹
9、Codis整體設(shè)計
10、Codis架構(gòu)
11、Codis組件介紹
第5個主題:Redis高級管理(深入介紹Redis的高級管理功能)(30分鐘)
1、Redis安全
2、Redis加密
3、Redis信號處理
4、Redis連接管理
5、Redis高可用方案
6、Redis監(jiān)測
7、Redis Benchmarks
第6個主題:HBase查詢的優(yōu)化(深入剖析大數(shù)據(jù)分布式NoSQL技術(shù)及原理,并指導(dǎo)學(xué)員如何進行調(diào)優(yōu))(180分鐘)
1、HBase介紹
2、HBase應(yīng)用
3、HBase的特點
4、HBase邏輯模型
5、HBase列族與列
6、HBase時間戳
7、行式數(shù)據(jù)庫 vs 列式數(shù)據(jù)庫
8、HBase物理模型
9、HBase集群部署優(yōu)化方案介紹:HBase集群建立時的優(yōu)化方法
10、倒排索引
11、HBase調(diào)優(yōu)課堂實戰(zhàn)案例:假如知道每天的活躍用戶為一個集合,如何快速計算自定義時間段內(nèi)的活躍用戶?需要去重的
12、HBase分頁查詢方案介紹:是否有合適的分頁查詢方法?
13、HBase按條件快速查詢方案介紹:假如rowkey的設(shè)計原則是:地區(qū)+廠家+拍照方+id+時間戳,如何快速的查找一個id一天的所有存儲記錄?如何快速查找按地區(qū)、廠商、拍照方、自定義時間段內(nèi)自由排列組合的所有存儲記錄?
14、HBase Filter
15、HBase Coprocessor
第二天
第7個主題:MongoDB文檔數(shù)據(jù)庫(深入剖析MongoDB文檔數(shù)據(jù)庫功能與項目應(yīng)用)(120分鐘)
1、什么是MongoDB
2、MongoDB發(fā)展現(xiàn)狀與趨勢
3、介紹MongoDB基礎(chǔ)概念
4、MongoDB架構(gòu)剖析
5、MongoDB文檔與集合
6、MongoDB集群搭建
7、MongoDB狀態(tài)監(jiān)控
8、MongoDB安全認證
9、MongoDB備份和恢復(fù)
10、MongoDB Shell操作
11、MongoDB數(shù)據(jù)類型
12、文檔的增加、修改與刪除
13、Java訪問MongoDB文檔的調(diào)試
14、MongoDB查詢介紹
15、MongoDB MapReduce統(tǒng)計分析
16、MongoDB索引
17、MongoDB性能優(yōu)化
18、MongoDB主從復(fù)制
19、MongoDB Sharding分片
20、Spark操作MongoDB項目案例:運營商話務(wù)數(shù)據(jù)分析案例剖析
第8個主題:MongoDB文檔數(shù)據(jù)庫(深入剖析MongoDB文檔數(shù)據(jù)庫功能與項目應(yīng)用)(90分鐘)
1、MongoDB架構(gòu)剖析
2、MongoDB文檔與集合
3、MongoDB集群搭建
4、Java訪問MongoDB文檔的調(diào)試
5、MongoDB查詢調(diào)優(yōu)
6、提高讀寫速度的優(yōu)化
7、MongoDB MapReduce統(tǒng)計分析
8、MongoDB索引
9、MongoDB性能優(yōu)化
10、內(nèi)存的優(yōu)化方法
11、MongoDB主從復(fù)制
12、MongoDB Sharding分片
13、MongoDB副本集、分片集群優(yōu)化案例:Mongodb副本集、分片集群建立的優(yōu)化方法?
14、MongoDB優(yōu)化方案剖析:為什么分片測試讀寫的速度比副本集要慢?
第9個主題:關(guān)系型分布式內(nèi)存庫MySQL Cluster(深入剖析關(guān)系型分布式內(nèi)存庫MySQL Cluster數(shù)據(jù)庫功能與實現(xiàn)原理)(90分鐘)
1、什么是MySQL Cluster
2、MySQL Cluster發(fā)展現(xiàn)狀與趨勢
3、介紹MySQL Cluster基礎(chǔ)概念
4、MySQL Cluster架構(gòu)剖析
5、NDB Cluster存儲引擎
6、無共享體系結(jié)構(gòu)
7、管理(MGM)節(jié)點
8、數(shù)據(jù)節(jié)點
9、SQL節(jié)點
10、標準MySQL客戶端
11、MySQL Cluster應(yīng)用場景
12、案例分享:MySQL Cluster在電商平臺中的應(yīng)用
第10個主題:數(shù)據(jù)存儲架構(gòu)(介紹數(shù)據(jù)存儲架構(gòu))(30分鐘)
1、數(shù)據(jù)存儲架構(gòu)
2、數(shù)據(jù)單機版存儲架構(gòu)
3、數(shù)據(jù)分布式存儲架構(gòu)
4、中心集群
5、去中心化集群
6、關(guān)系型數(shù)據(jù)庫
7、層次數(shù)據(jù)存儲架構(gòu)
8、網(wǎng)狀數(shù)據(jù)存儲架構(gòu)
9、行式數(shù)據(jù)存儲架構(gòu)
10、行式數(shù)據(jù)庫原理
11、行式數(shù)據(jù)庫架構(gòu)
12、關(guān)系型數(shù)據(jù)庫理論
13、RDBMS
14、行式數(shù)據(jù)庫優(yōu)劣勢剖析
15、列式數(shù)據(jù)存儲架構(gòu)
16、列式數(shù)據(jù)庫
17、列式數(shù)據(jù)庫原理
18、日志結(jié)構(gòu)文件系統(tǒng)
19、列式數(shù)據(jù)庫架構(gòu)
20、列式數(shù)據(jù)庫優(yōu)劣勢剖析
第11個主題:分布式事務(wù)(介紹分布式事務(wù))(30分鐘)
1、強事務(wù)ACID
2、弱一致性、強一致性
3、分布式事務(wù)
4、兩步提交、三步提交
5、分布式技術(shù)的存儲、計算、算法、開發(fā)等能力的完美結(jié)合
6、弱事務(wù)
7、數(shù)據(jù)的強一致性
8、分布式一致性協(xié)議算法
9、平滑無限水平擴展節(jié)點
10、深入分析企業(yè)業(yè)務(wù)數(shù)據(jù)特點
11、思想的應(yīng)用
12、事務(wù)剖析
13、分布式事務(wù)剖析
14、分布式系統(tǒng)的職責(zé)分離思想
15、CAP理論
16、BASE思想
17、RWN原理
18、事務(wù)的特征ACID
19、弱一致性事務(wù)
20、強一致性事務(wù)
21、分布式事務(wù)
22、兩階段提交
23、三階段提交
24、數(shù)據(jù)庫事務(wù)隔離標準分析
25、ANSI事務(wù)隔離級別
26、P1 臟讀(“Dirty read”)
27、P2 不可重復(fù)讀(“Non-repeatable read”)
28、P3 幻讀(“Phantom”)
29、基于鎖的事務(wù)隔離
30、基于快照的事務(wù)隔離
31、兩階段提交(2 Phase Commit簡稱2PC)協(xié)議
32、產(chǎn)品應(yīng)用案例
尹老師
多年從事人工智能、深度學(xué)習(xí)、大數(shù)據(jù)、區(qū)塊鏈、云計算、物聯(lián)網(wǎng)研發(fā)工作經(jīng)驗,資深軟件架構(gòu)師,數(shù)學(xué)博士,北航移動云計算碩士,Cloudera大數(shù)據(jù)認證(圖1),項目管理師(PMP)認證(圖2),移動云計算專家,主要研究方向包括人工智能、深度學(xué)習(xí)、機器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)分析、大數(shù)據(jù)、云計算、移動開發(fā)、互聯(lián)網(wǎng)營銷、電子商務(wù)、項目管理等;曾就職于阿里等互聯(lián)網(wǎng)企業(yè),IBM、華為等知名大型企業(yè),現(xiàn)任某大型知名互聯(lián)網(wǎng)企業(yè)首席架構(gòu),負責(zé)人工智能、深度學(xué)習(xí)、機器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)分析、大數(shù)據(jù)、區(qū)塊鏈、云計算、PaaS平臺研發(fā)工作。
IT從業(yè)近二十年,秉承理論與實踐相結(jié)合,在學(xué)習(xí)中實踐,在實踐中學(xué)習(xí),積累了豐富的理論與實踐經(jīng)驗,并且樂于將自己的經(jīng)驗分享。尹老師具有敏銳的目光與頭腦,發(fā)現(xiàn)并集成整合社會資源,為企業(yè)節(jié)省資源并創(chuàng)造價值,達到為合作伙伴創(chuàng)收的目的。曾為多家國內(nèi)知名企業(yè)提供培訓(xùn)與咨詢,包含阿里集團、華為、中國移動、中國電信、中國聯(lián)通、當(dāng)當(dāng)網(wǎng)、中石油、中石化、中國電網(wǎng)、中國銀行、中國工商銀行、浦發(fā)銀行、阿爾卡特朗訊、中航國際等。擁有人工智能、深度學(xué)習(xí)、機器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)分析、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)、大流量、高并發(fā)、分布式的大型網(wǎng)站架構(gòu)和設(shè)計經(jīng)驗。曾主導(dǎo)過多個人工智能、深度學(xué)習(xí)、機器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)分析、區(qū)塊鏈、物聯(lián)網(wǎng)、私有云、公有云建設(shè)項目,早些年也主導(dǎo)過ERP、CMS等軟件項目,積累了豐富的實踐經(jīng)驗,這些項目中包含多個數(shù)百萬、上千萬的大型項目。項目經(jīng)歷:呼叫中心人工智能客服研發(fā)項目、貴州省政府云呼叫中心建設(shè)項目、廣東發(fā)展銀行電營、運維大數(shù)據(jù)分析項目、中石油工程設(shè)計西南分公司云計算項目評審委員、中石油大數(shù)據(jù)挖掘項目,電商庫存預(yù)測大數(shù)據(jù)分析項目、大型ERP、電子商務(wù)、CRM、電子政務(wù)等多個項目。
尹老師在工作中研究新技術(shù)、新框架、及時更新知識體系,并長期堅持編寫架構(gòu)核心代碼。在技術(shù)平臺方面,善于TensorFlow、Keras、Hadoop、Spark、Docker、Kubernetes、OpenStack、Storm等技術(shù)平臺的應(yīng)用與運維。深入理解TensorFlow、Keras、Hadoop、HDFS、HBase、MapReduce、Zookeeper、Hive、Sqoop、BigTable 等人工智能、大數(shù)據(jù)技術(shù)和開源框架理論。對于云計算體系有深刻認識,及獨到的見解,如OpenStack的技術(shù)架構(gòu)、安裝部署、運維等。在移動云計算方面,善于設(shè)計與建設(shè)云計算體系;也善于移動云計算相關(guān)的咨詢與培訓(xùn)。在項目管理方面,善于使用敏捷項目管理方法,把客戶的需求變更作為常態(tài),作為軟件架構(gòu)設(shè)計的一部分,減少需求變更帶來的返工;善于捕捉、挖掘、分析客戶需求,為用戶提供滿意的產(chǎn)品。
講師經(jīng)驗
1、阿里巴巴集團云計算、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)咨詢師
2、百度云計算、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)咨詢師及講師
3、中國移動多省人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)、云計算特聘講師
4、中國移動多省Docker特聘講師
5、中國移動研究院微特聘講師
6、中國聯(lián)通總部人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)、云計算特聘講師
7、中國電信人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)、云計算、虛擬化特約講師
8、中國人民銀行人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)特聘講師
9、中國工商銀行人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)講師
10、花旗銀行人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)講師
11、招商銀行人工智能、大數(shù)據(jù)調(diào)優(yōu)、區(qū)塊鏈、物聯(lián)網(wǎng)講師
12、中信銀行人工智能、分布式數(shù)據(jù)庫、區(qū)塊鏈、物聯(lián)網(wǎng)講師
13、中國航天三院人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)咨詢師
14、中國石油人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)、云計算特聘講師
15、中國石化人工智能、大數(shù)據(jù)、云計算特聘講師
16、中國電力科學(xué)研究院流計算特聘講師
17、西安電信十所人工智能、大數(shù)據(jù)架構(gòu)設(shè)計、區(qū)塊鏈、物聯(lián)網(wǎng)講師
18、RedHat(中國)大數(shù)據(jù)咨詢師
19、中電28所人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)特聘講師
20、北京中電普華人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)特聘講師
21、中國石油東方地球物理公司大數(shù)據(jù)咨詢師
22、當(dāng)當(dāng)網(wǎng)人工智能、云計算、大數(shù)據(jù)咨詢師
23、北航人工智能、云計算、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)特聘企業(yè)講師
24、阿爾卡特-朗訊(Alcatel-Lucent)虛擬化與OpenStack培訓(xùn)特約講師
25、中石油工程設(shè)計西南分公司云計算數(shù)據(jù)中心建設(shè)項目
26、廣東發(fā)展信用卡精準營銷項目
27、廣東發(fā)展銀行電營、運維大數(shù)據(jù)分析項目
28、電商庫存預(yù)測大數(shù)據(jù)分析項目
29、中航國際大綜貿(mào)易云計算規(guī)劃項目咨詢、培訓(xùn)講師
30、北京民生軟件SaaS平臺研發(fā)咨詢師
31、北京立達資本項目管理信息系統(tǒng)解決方案咨詢師
32、曾任大型ERP、電子商務(wù)、CRM、電子政務(wù)等項目經(jīng)理
項目經(jīng)驗
1、云呼叫中心人工智能客服項目研發(fā)
2、云呼叫中心PaaS平臺首席架構(gòu)師
3、貴州省政府云呼叫中心建設(shè)項目
4、廣東發(fā)展信用卡智能精準營銷項目
5、廣東發(fā)展銀行電營、運維大數(shù)據(jù)分析、區(qū)塊鏈、物聯(lián)網(wǎng)項目
6、中石油工程設(shè)計西南分公司云計算項目評審委員、培訓(xùn)講師
7、中石油人工智能、大數(shù)據(jù)挖掘、區(qū)塊鏈、物聯(lián)網(wǎng)項目,項目經(jīng)理
8、電商庫存預(yù)測大數(shù)據(jù)分析項目
9、智能物流、智能供應(yīng)鏈管理項目
10、中航國際大綜貿(mào)易云計算規(guī)劃項目咨詢、培訓(xùn)講師
11、北京民生軟件SaaS平臺研發(fā)咨詢師
12、北京立達資本項目管理信息系統(tǒng)解決方案咨詢師
13、曾任大型ERP、電子商務(wù)、CRM、電子政務(wù)等多個項目的項目經(jīng)理
我要預(yù)訂
咨詢電話:027-5111 9925 , 027-5111 9926手機:18971071887郵箱:Service@mingketang.com
企業(yè)管理培訓(xùn)分類導(dǎo)航
企業(yè)培訓(xùn)公開課日歷
2025年
2024年
研發(fā)管理培訓(xùn)推薦公開課
名課堂培訓(xùn)講師團隊

江新安老師
研發(fā)管理權(quán)威專家,產(chǎn)品管理獨立學(xué)者 產(chǎn)品全生命周期管理WPLM之父 GE原產(chǎn)品戰(zhàn)略經(jīng)理 益思研發(fā)咨詢...