多多色-多人伦交性欧美在线观看-多人伦精品一区二区三区视频-多色视频-免费黄色视屏网站-免费黄色在线

國內(nèi)最全IT社區(qū)平臺 聯(lián)系我們 | 收藏本站
阿里云優(yōu)惠2
您當(dāng)前位置:首頁 > php框架 > 框架設(shè)計 > HBase作為存儲方案

HBase作為存儲方案

來源:程序員人生   發(fā)布時間:2016-08-22 08:33:27 閱讀次數(shù):3625次

HBase存儲特點

hbase
* Client
1. 包括訪問HBase的接口,并保護cache來加快對HBase的訪問,比如region的位置信息。
* Zookeeper:
1. 選舉集群中的Master,Master與RegionServers 啟動時會向ZooKeeper注冊。
2. 存儲所有Region的尋址入口。
3. 實時監(jiān)控Region server狀態(tài)并實時通知Master。
4. 存儲HBase的schema和table元數(shù)據(jù)。
5. 使Master不存在單點故障。
* Master
1. 在Region Split后,為Region server分配region。
2. 管理HRegionServer的負載均衡,調(diào)劑Region散布。
3. 發(fā)現(xiàn)失效的Region server后重新分配其上的region,并負責(zé)Regions遷移。。
4. 管理用戶對table的增刪改查操作。
* Region Server
1. Regionserver保護region,處理對這些region的IO要求,向HDFS文件系統(tǒng)讀寫數(shù)據(jù)。
2. Regionserver負責(zé)切分在運行進程中變得過大的region。
* Region
1. table依照行分割成若干Region,每一個Region對應(yīng)table中的1個Region。
2. Region由多個HStore組成。
* HLog
1. 類似mysql的binlog,數(shù)據(jù)會先寫到WAL上,然后再放到內(nèi)存中,數(shù)據(jù)恢復(fù)。
2. 已持久化到StoreFile的HLog會定期被刪除。
* HStore
1. HBase的存儲核心,由MemStore和StoreFile組成。
2. 每一個HStore對應(yīng)Table的1個列族的存儲。
* MemStore
1. 數(shù)據(jù)不直接寫磁盤而是先寫到MemStore,當(dāng)滿了才會Flush到StoreFile中。
2. 底層由HFile實現(xiàn)。
3. 數(shù)據(jù)只需寫入到此內(nèi)存便可返回,快速的插入操作。
* StoreFile
1. StoreFile文件數(shù)到1定閥值會觸發(fā)Compact合并操作,多個StoreFile變成1個StoreFile。
2. 所有數(shù)據(jù)操作都是添加操作,保證I/O,而對數(shù)據(jù)更新/刪除都是在后續(xù)compact進程中完成。

底層存儲

HBase支持很多文件系統(tǒng)的存儲。
1. 操作系統(tǒng)原生文件系統(tǒng)。
2. HDFS文件系統(tǒng)。
3. 其他文件系統(tǒng)。

HDFS可靠性高及其同屬同個生態(tài),選擇HDFS作為存儲。

HBase 如何尋址

尋址進程大致為client -> -ROOT- -> .META. -> RS ->region -> rowkey。

  1. client通過zookeeper的root-region-server節(jié)點獲得哪一個Server管理-ROOT-表,包括該機器的IP地址和端口。
  2. 接著訪問-ROOT-表,該表只有1個Region且不會split,每行記錄了.META.表的1個region信息,和這個region的startkey和endkey,查找到.META.表包括要查的rowkey記錄的Region的ip和端口。
  3. 接著訪問該ip和端口的.META.表,根據(jù)rowkey找到用戶表數(shù)據(jù)寄存對應(yīng)的Region的機器信息,根據(jù)rowkey查找對應(yīng)的regionserver和region。最后到對應(yīng)的region找到value。
  4. 根據(jù)查到的用戶表信息到對應(yīng)機器上查找數(shù)據(jù)。

客戶端會緩存查詢過的rowkey的地址。

client訪問hbase上數(shù)據(jù)的進程其實不需要master參與(尋址訪問zookeeper和region server,數(shù)據(jù)讀寫訪問region server),master僅僅保護table和region的元數(shù)據(jù)信息,負載很低。

HBase 的性能、如何擴大

HBase的插入性能很好,查詢還不錯,騰訊給出的數(shù)據(jù)是經(jīng)過調(diào)優(yōu)在百億數(shù)據(jù)級別80%以上數(shù)據(jù)能在20ms查到。

詳細的1些數(shù)據(jù)后面在寫代碼階段會給出。

當(dāng)數(shù)據(jù)峰值接近系統(tǒng)設(shè)計容量時,可以簡單的通過增加服務(wù)器的方式來擴大容量。某種程度上來講,這個動態(tài)擴容進程無需停機,HBase系統(tǒng)可以照舊運行并提供讀寫服務(wù),完全實現(xiàn)動態(tài)無縫無宕機擴容。

balance模式下,會自動將數(shù)據(jù)遷移到新機器上,合適中小集群,遷移進程大量消耗機器資源。

非balance模式下,新寫入文件寫到新機器上。

運維

  1. 官方的命令行或2次開發(fā),rest接口。官方有原生監(jiān)控平臺。
  2. BigInsights。

最后的說明

hbase優(yōu)勢在于接近線性的任意水平擴大,沒必要在單機上與redis性能太叫真,看自己場景選擇。

生活不易,碼農(nóng)辛苦
如果您覺得本網(wǎng)站對您的學(xué)習(xí)有所幫助,可以手機掃描二維碼進行捐贈
程序員人生
------分隔線----------------------------
分享到:
------分隔線----------------------------
關(guān)閉
程序員人生
主站蜘蛛池模板: 国产色综合久久无码有码 | 91亚洲精品久久 | jizz欧美| 亚洲欧美一区二区三区图片 | 一级一级毛片看看 | 国产精品精品 | 亚洲福利视频一区二区 | 亚洲视频中文字幕在线 | 久久91精品久久91综合 | 欧美亚洲春色系列 | 国产福利自产拍在线观看 | 国产成人精品日本亚洲专一区 | 性欧美高清| 嫩草影院久久精品 | 日本特黄特色大片免费播放视频 | 国产免费一级片 | 国产美女精品三级在线观看 | 成人男女啪啪免费观看网站 | 免费一级欧美毛片 | 久久综合九九亚洲一区 | 91最新地址永久入口 | 欧美亚洲一区二区三区 | 一级女人毛片人一女人 | 亚洲精品成人一区 | 久久精品天堂 | 久久亚洲国产成人影院 | 婷婷丁香综合 | 国产一区二区高清在线 | 欧美aa在线观看 | 国产精品中文字幕在线 | 2022在线精品视频网站 | 欧美亚洲一区 | 亚洲精品国产第一区二区多人 | 亚洲欧美一区二区三区另类 | 日韩久久网 | 最新69国产成人精品视频69 | 国产亚洲一区二区三区在线观看 | s级毛片| 国产免费一区不卡在线 | 精品乱码一区二区三区在线 | 波多野结衣一区在线观看 |