您现在的位置是:Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款 >
06 stash訂閱轉換(es怎么改角色叫我什么)
Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款2024-07-17 01:27:41【】3人已围观
简介面包括幾個組件HDFS、MapRece和YARN,HDFS是存儲數據的地方就像我們電腦的硬盤一樣文件都存儲在這個上面,MapRece是對數據進行處理計算的,它有個特點就是不管多大的數據只要給它時間它就
Zookeeper:這是個萬金油,安裝Hadoop的HA的時候就會用到它,以后的Hbase也會用到它。它一般用來存放一些相互協作的信息,這些信息比較小一般不會超過1M,都是使用它的軟件對它有依賴,對于我們個人來講只需要把它安裝正確,讓它正常的run起來就可以了。
Mysql:我們學習完大數據的處理了,接下來學習學習小數據的處理工具mysql數據庫,因為一會裝hive的時候要用到,mysql需要掌握到什么層度那?你能在Linux上把它安裝好,運行起來,會配置簡單的權限,修改root的密碼,創建數據庫。這里主要的是學習SQL的語法,因為hive的語法和這個非常相似。
Sqoop:這個是用于把Mysql里的數據導入到Hadoop里的。當然你也可以不用這個,直接把Mysql數據表導出成文件再放到HDFS上也是一樣的,當然生產環境中使用要注意Mysql的壓力。
Hive:這個東西對于會SQL語法的來說就是神器,它能讓你處理大數據變的很簡單,不會再費勁的編寫MapRece程序。有的人說Pig那?它和Pig差不多掌握一個就可以了。
Oozie:既然學會Hive了,我相信你一定需要這個東西,它可以幫你管理你的Hive或者MapRece、Spark腳本,還能檢查你的程序是否執行正確,出錯了給你發報警并能幫你重試程序,最重要的是還能幫你配置任務的依賴關系。我相信你一定會喜歡上它的,不然你看著那一大堆腳本,和密密麻麻的crond是不是有種想屎的感覺。
Hbase:這是Hadoop生態體系中的NOSQL數據庫,他的數據是按照key和value的形式存儲的并且key是唯一的,所以它能用來做數據的排重,它與MYSQL相比能存儲的數據量大很多。所以他常被用于大數據處理完成之后的存儲目的地。
Kafka:這是個比較好用的隊列工具,隊列是干嗎的?排隊買票你知道不?數據多了同樣也需要排隊處理,這樣與你協作的其它同學不會叫起來,你干嗎給我這么多的數據(比如好幾百G的文件)我怎么處理得過來,你別怪他因為他不是搞大數據的,你可以跟他講我把數據放在隊列里你使用的時候一個個拿,這樣他就不在抱怨了馬上灰流流的去優化他的程序去了,因為處理不過來就是他的事情。而不是你給的問題。當然我們也可以利用這個工具來做線上實時數據的入庫或入HDFS,這時你可以與一個叫Flume的工具配合使用,它是專門用來提供對數據進行簡單處理,并寫到各種數據接受方(比如Kafka)的。
Spark:它是用來彌補基于MapRece處理數據速度上的缺點,它的特點是把數據裝載到內存中計算而不是去讀慢的要死進化還特別慢的硬盤。特別適合做迭代運算,所以算法流們特別稀飯它。它是用scala編寫的。Java語言或者Scala都可以操作它,因為它們都是用JVM的。
很赞哦!(6)
相关文章
- 02 youtube官網中文版更新失敗移動文件失敗文件(有沒有 不用ITUNES 直接刷機的辦法啊)
- 02 youtube官網中文版更新到哪里了呢圖片(ios app上架流程是什么,怎樣避免提交審核被拒)
- 01 美國為什么要挑起貿易戰(美國為什么要發動貿易戰)
- 02 youtube官網中文版更新時間日歷表格模板2023(日歷挖機柴濾回油管不回油是怎么回事,我也用手油泵泵了,還是不行,求解!)
- 02 youtube官網中文版更新時間日歷表格模板免費(ps作品集模板圖片-大學生如何通過ps賺錢)
- 02 youtube官網中文版更新后卡頓解決(PS軟件各個版本區別大嗎?哪個版本最適合新手?)
- 02 youtube官網中文版更新后沒wifi驅動(有沒有 不用ITUNES 直接刷機的辦法啊)
- 01 美國抖音海外版全是英文嗎(抖音外國版叫什么名字)
- 01 美國人刷tiktok能看見國外嗎(為什么抖音國外版tiktok刷不了視頻!)
- 02 youtube官網中文版更新時間日歷表2022日歷(請大家推薦一個音質好,分辨率高,外形好看,播放時間長的MP3 只要你推薦的好 就有可能拿分 大家快來)
热门文章
站长推荐
01 美國泰國貿易情況(1997年泰國危機使泰國經濟倒退多少年)
01 美國最大海外基地(美國都有哪些軍事基地?)
02 youtube官網中文版更新時間幾點為30度(ios app上架流程是什么,怎樣避免提交審核被拒)
01 美國為什么要制裁tiktok(美國GDP那么高,為什么還要滿世界借錢,是故意的嗎?)
01 美國為什么貿易赤字那么大(美國為什么會出現如此大的貿易逆差)
02 youtube官網中文版更新失敗啟動失敗未能啟動(有沒有 不用ITUNES 直接刷機的辦法啊)
01 美國tiktok禁令網紅(年輕TikTok“網紅”們組織抗議亞馬遜,為何其要求公司滿足工會要求?)
02 youtube官網中文版更新時間日歷表下載excel(youtube電影有中文版嗎)