您现在的位置是:Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款 >
06 stash訂閱轉換(求java學習路線圖?)
Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款2024-07-21 00:37:41【】8人已围观
简介面包括幾個組件HDFS、MapRece和YARN,HDFS是存儲數據的地方就像我們電腦的硬盤一樣文件都存儲在這個上面,MapRece是對數據進行處理計算的,它有個特點就是不管多大的數據只要給它時間它就
Zookeeper:這是個萬金油,安裝Hadoop的HA的時候就會用到它,以后的Hbase也會用到它。它一般用來存放一些相互協作的信息,這些信息比較小一般不會超過1M,都是使用它的軟件對它有依賴,對于我們個人來講只需要把它安裝正確,讓它正常的run起來就可以了。
Mysql:我們學習完大數據的處理了,接下來學習學習小數據的處理工具mysql數據庫,因為一會裝hive的時候要用到,mysql需要掌握到什么層度那?你能在Linux上把它安裝好,運行起來,會配置簡單的權限,修改root的密碼,創建數據庫。這里主要的是學習SQL的語法,因為hive的語法和這個非常相似。
Sqoop:這個是用于把Mysql里的數據導入到Hadoop里的。當然你也可以不用這個,直接把Mysql數據表導出成文件再放到HDFS上也是一樣的,當然生產環境中使用要注意Mysql的壓力。
Hive:這個東西對于會SQL語法的來說就是神器,它能讓你處理大數據變的很簡單,不會再費勁的編寫MapRece程序。有的人說Pig那?它和Pig差不多掌握一個就可以了。
Oozie:既然學會Hive了,我相信你一定需要這個東西,它可以幫你管理你的Hive或者MapRece、Spark腳本,還能檢查你的程序是否執行正確,出錯了給你發報警并能幫你重試程序,最重要的是還能幫你配置任務的依賴關系。我相信你一定會喜歡上它的,不然你看著那一大堆腳本,和密密麻麻的crond是不是有種想屎的感覺。
Hbase:這是Hadoop生態體系中的NOSQL數據庫,他的數據是按照key和value的形式存儲的并且key是唯一的,所以它能用來做數據的排重,它與MYSQL相比能存儲的數據量大很多。所以他常被用于大數據處理完成之后的存儲目的地。
Kafka:這是個比較好用的隊列工具,隊列是干嗎的?排隊買票你知道不?數據多了同樣也需要排隊處理,這樣與你協作的其它同學不會叫起來,你干嗎給我這么多的數據(比如好幾百G的文件)我怎么處理得過來,你別怪他因為他不是搞大數據的,你可以跟他講我把數據放在隊列里你使用的時候一個個拿,這樣他就不在抱怨了馬上灰流流的去優化他的程序去了,因為處理不過來就是他的事情。而不是你給的問題。當然我們也可以利用這個工具來做線上實時數據的入庫或入HDFS,這時你可以與一個叫Flume的工具配合使用,它是專門用來提供對數據進行簡單處理,并寫到各種數據接受方(比如Kafka)的。
Spark:它是用來彌補基于MapRece處理數據速度上的缺點,它的特點是把數據裝載到內存中計算而不是去讀慢的要死進化還特別慢的硬盤。特別適合做迭代運算,所以算法流們特別稀飯它。它是用scala編寫的。Java語言或者Scala都可以操作它,因為它們都是用JVM的。
很赞哦!(8)
相关文章
- 01 廣東外語外貿大學漢碩(招收漢語國際教育碩士專業學位的高校有幾所)
- 01 廣東外語外貿大學法語專業就業怎么樣(廣東外語外貿大學好嗎)
- 02 keep訂閱在哪看(安卓有哪些APP可以看免費的國外雜志)
- 02 keep away from doing something(keep doing sth 和keep on doing sth 有什么區別)
- 01 廣東外語外貿大學法學代碼是多少(廣東外語外貿大學代碼是多少?)
- 02 kpop ins賬號(韓娛物料在哪看)
- 02 kindle訂閱雜志期刊(報紙期刊現在還有發展前景嗎?)
- 02 led照明外貿前景(LED照明行業的前景分析?)
- 01 廣東外語外貿大學校內四級真題(專升本考試是只可以考一次嗎?)
- 01 廣東外語外貿大學法語口譯報錄比(哪些學校英語專業考研最好考)
热门文章
站长推荐
01 廣東外語外貿大學日語語言文學考研報錄比(哪些學校接受德語考研)
02 kentucky derby 買粉絲 2022 race(句子翻譯 Domestic (馴養的)horses now pull ploughs , race in the Kentucky Derby , and)
01 廣東外語外貿大學教務部((點擊進入)廣東外語外貿大學教務網)
01 廣東外語外貿大學本科專業目錄(學文科有哪些專業?)
01 廣東外語外貿大學文學學士(英語專業是什么學士)
02 lcl貿易術語英文(lcl貿易術語全稱)
01 廣東外語外貿大學日語N2證書去哪拿(日語生可不可以參加三月底同考?)
01 廣東外語外貿大學浙江分數線會計(廣東外語外貿大學的分數線為何會暴跌?與哪些因素有關?)