快手阿里美團(tuán)數(shù)據(jù)工程師齊聚 分享業(yè)內(nèi)最佳數(shù)據(jù)架構(gòu)實(shí)踐
近日,快手?jǐn)?shù)據(jù)平臺(tái)部聯(lián)動(dòng)快手中學(xué)在快手總部舉辦快手大數(shù)據(jù)架構(gòu)技術(shù)交流會(huì),交流會(huì)邀請(qǐng)了來(lái)自快手、阿里巴巴、美團(tuán)的5位技術(shù)大咖,為現(xiàn)場(chǎng)和線上聽(tīng)眾帶來(lái)了一場(chǎng)技術(shù)分享盛宴。近年來(lái),隨著大數(shù)據(jù)技術(shù)的蓬勃發(fā)展,數(shù)據(jù)架構(gòu)等眾多技術(shù)方向也在各家互聯(lián)網(wǎng)公司得到應(yīng)用和落地。在技術(shù)飛速發(fā)展下,業(yè)內(nèi)從業(yè)者也始終關(guān)心一線大廠在數(shù)據(jù)技術(shù)領(lǐng)域的實(shí)踐,行業(yè)交流的需求和呼聲也越來(lái)越強(qiáng)。本場(chǎng)快手大數(shù)據(jù)架構(gòu)技術(shù)交流會(huì),采用線下+線上(
2021-06-18 15:35:07
來(lái)源:釘科技??

近日,快手?jǐn)?shù)據(jù)平臺(tái)部聯(lián)動(dòng)快手中學(xué)在快手總部舉辦快手大數(shù)據(jù)架構(gòu)技術(shù)交流會(huì),交流會(huì)邀請(qǐng)了來(lái)自快手、阿里巴巴、美團(tuán)的5位技術(shù)大咖,為現(xiàn)場(chǎng)和線上聽(tīng)眾帶來(lái)了一場(chǎng)技術(shù)分享盛宴。

近年來(lái),隨著大數(shù)據(jù)技術(shù)的蓬勃發(fā)展,數(shù)據(jù)架構(gòu)等眾多技術(shù)方向也在各家互聯(lián)網(wǎng)公司得到應(yīng)用和落地。在技術(shù)飛速發(fā)展下,業(yè)內(nèi)從業(yè)者也始終關(guān)心一線大廠在數(shù)據(jù)技術(shù)領(lǐng)域的實(shí)踐,行業(yè)交流的需求和呼聲也越來(lái)越強(qiáng)。

image.png

本場(chǎng)快手大數(shù)據(jù)架構(gòu)技術(shù)交流會(huì),采用線下+線上(快手號(hào)“快手大數(shù)據(jù)”“快手中學(xué)”直播)同步開(kāi)展的方式。交流會(huì)由快手大數(shù)據(jù)架構(gòu)團(tuán)隊(duì)負(fù)責(zé)人趙健博出品,快手?jǐn)?shù)據(jù)架構(gòu)研發(fā)工程師徐增強(qiáng)、阿里巴巴資深技術(shù)專(zhuān)家楊克特、快手?jǐn)?shù)據(jù)架構(gòu)研發(fā)工程師鄭天祺、美團(tuán)資深技術(shù)專(zhuān)家曾林西、快手?jǐn)?shù)據(jù)架構(gòu)研發(fā)工程師蘇國(guó)東分別帶來(lái)5個(gè)不同方向的議題,分享了數(shù)據(jù)架構(gòu)領(lǐng)域的優(yōu)秀實(shí)踐和技術(shù)發(fā)展。

本場(chǎng)交流會(huì)活動(dòng)線下、線上參與人數(shù)超過(guò)2.2萬(wàn)人。從報(bào)名人數(shù)看,超過(guò)22%聽(tīng)眾為國(guó)內(nèi)外知名互聯(lián)網(wǎng)公司,來(lái)自BAT的同學(xué)占比達(dá)到7%。干貨滿(mǎn)滿(mǎn)的技術(shù)分享,豐富多彩的互動(dòng),讓線下和線上的聽(tīng)眾都感到“不虛此行”。

快手大數(shù)據(jù)架構(gòu)團(tuán)隊(duì)的發(fā)展與挑戰(zhàn)

會(huì)議伊始,快手大數(shù)據(jù)架構(gòu)團(tuán)隊(duì)負(fù)責(zé)人趙健博率先開(kāi)場(chǎng),為現(xiàn)場(chǎng)及線上聽(tīng)眾介紹了快手的發(fā)展史以及快手?jǐn)?shù)據(jù)架構(gòu)的發(fā)展歷程。伴隨快手的飛速發(fā)展,快手的數(shù)據(jù)量急劇增長(zhǎng),諸多業(yè)務(wù)帶來(lái)的海量數(shù)據(jù)也為數(shù)據(jù)架構(gòu)團(tuán)隊(duì)帶來(lái)全新的挑戰(zhàn)。

image.png

快手大數(shù)據(jù)架構(gòu)團(tuán)隊(duì)負(fù)責(zé)人  趙健博

跨AZ容災(zāi),降低50%存儲(chǔ)成本

快手?jǐn)?shù)據(jù)架構(gòu)研發(fā)工程師徐增強(qiáng),從快手對(duì)象存儲(chǔ)架構(gòu)、快手跨IDC EC架構(gòu)設(shè)計(jì)和實(shí)踐等多個(gè)角度,分享了快手對(duì)象存儲(chǔ)領(lǐng)域的技術(shù)積累與實(shí)踐。在快手跨IDC EC架構(gòu)實(shí)踐的部分,他著重分享了數(shù)據(jù)EC流程、數(shù)據(jù)Fixer流程、數(shù)據(jù)可靠性保障以及IDC故障處理,豐富的演講內(nèi)容讓聽(tīng)眾收獲滿(mǎn)滿(mǎn)。

image.png

快手?jǐn)?shù)據(jù)架構(gòu)研發(fā)工程師  徐增強(qiáng)

流批一體,實(shí)時(shí)和離線數(shù)據(jù)業(yè)務(wù)邏輯一體化

交流會(huì)的第二個(gè)議題來(lái)自阿里巴巴資深技術(shù)專(zhuān)家楊克特,議題為《Apache Flink發(fā)展歷程和在阿里巴巴的實(shí)踐》。楊克特從Flink的發(fā)展歷史、關(guān)鍵技術(shù)解析和Flink在阿里巴巴的應(yīng)用三個(gè)方面,分享流批一體數(shù)據(jù)平臺(tái)的建設(shè)和應(yīng)用。

image.png

阿里巴巴資深技術(shù)專(zhuān)家  楊克特

Projections來(lái)自快手的解決方案

Projection是快手向開(kāi)源數(shù)據(jù)庫(kù)ClickHouse貢獻(xiàn)的一個(gè)重要的新特性。快手?jǐn)?shù)據(jù)架構(gòu)研發(fā)工程師鄭天祺為聽(tīng)眾分享了關(guān)于ClickHouse的背景,著重介紹了Projection的原理與應(yīng)用、特性對(duì)比與實(shí)際效果,為廣大關(guān)注開(kāi)源項(xiàng)目的聽(tīng)眾分享了快手的貢獻(xiàn),也為行業(yè)輸出了新的實(shí)踐案例。

image.png

快手?jǐn)?shù)據(jù)架構(gòu)研發(fā)工程師  鄭天祺

沒(méi)有完美的架構(gòu),只有恰當(dāng)?shù)臋?quán)衡

本次交流會(huì)還邀請(qǐng)了來(lái)自美團(tuán)的資深技術(shù)專(zhuān)家曾林西,他分享的主題是《美團(tuán)Spark Remote Shuffle Service架構(gòu)設(shè)計(jì)與實(shí)踐》。演講內(nèi)容涵蓋Spark在美團(tuán)的發(fā)展歷程、Spark Shuffle原理理及存在的問(wèn)題、Spark Remote Shuffle Service(RSS)架構(gòu)設(shè)計(jì)、RSS在數(shù)倉(cāng)生產(chǎn)場(chǎng)景的實(shí)踐。

image.png

美團(tuán)資深技術(shù)專(zhuān)家  曾林西

快手大數(shù)據(jù)混部架構(gòu)演進(jìn)之路

最后一個(gè)議題來(lái)自快手?jǐn)?shù)據(jù)架構(gòu)研發(fā)工程師蘇國(guó)東,他從快手大數(shù)據(jù)混布的背景開(kāi)始,介紹了快手離線超配架構(gòu)、快手實(shí)時(shí)混布架構(gòu)、快手容齊云混布架構(gòu),為聽(tīng)眾帶來(lái)了《快手大數(shù)據(jù)混部架構(gòu)演進(jìn)之路》。

image.png

快手?jǐn)?shù)據(jù)架構(gòu)研發(fā)工程師  蘇國(guó)東

本次參與快手大數(shù)據(jù)架構(gòu)技術(shù)交流會(huì)的聽(tīng)眾覆蓋包括BAT、美團(tuán)、滴滴等知名互聯(lián)網(wǎng)公司,不僅限于數(shù)據(jù)開(kāi)發(fā),還吸引了算法、架構(gòu)、后端開(kāi)發(fā)、數(shù)據(jù)分析、運(yùn)維、測(cè)試等不同崗位;同時(shí),本場(chǎng)交流會(huì)還吸引了北京各大高校的同學(xué)、講師。

image.png

活動(dòng)現(xiàn)場(chǎng)圖

參會(huì)聽(tīng)眾反饋,本場(chǎng)交流會(huì)分享的諸多案例和實(shí)踐,對(duì)于從業(yè)者乃至行業(yè)都產(chǎn)生諸多正面影響,讓聽(tīng)眾既能了解大數(shù)據(jù)架構(gòu)技術(shù)的發(fā)展,更能感受到快手對(duì)行業(yè)的貢獻(xiàn),以及快手大數(shù)據(jù)架構(gòu)技術(shù)的落地與應(yīng)用。觀看快手大數(shù)據(jù)架構(gòu)技術(shù)交流會(huì)完整回放請(qǐng)?jiān)诳焓諥PP搜索“快手中學(xué)”或“快手大數(shù)據(jù)”。

最新文章
1
“國(guó)補(bǔ)”之下,家電市場(chǎng)的變與不變
2
五大半導(dǎo)體國(guó)際組織呼吁:攜手應(yīng)對(duì)全球產(chǎn)業(yè)共性問(wèn)題
3
REDMI史上最強(qiáng):K80 Pro配備全焦段5000萬(wàn)旗艦三攝
4
勇闖洗衣機(jī)賽道,清潔家電勝算幾何?
5
以舊換新明年延續(xù) 鄉(xiāng)鎮(zhèn)商家怎么應(yīng)對(duì)?
6
史上最強(qiáng)Mate未發(fā)先火!超305萬(wàn)人想買(mǎi)Mate 70
7
蘋(píng)果要首發(fā)!臺(tái)積電宣布2nm已準(zhǔn)備就緒
8
白電前三季:美的海爾領(lǐng)先,TCL惠而浦領(lǐng)漲,明示三大趨向
9
榮耀300系列厚度僅6.97毫米,比一根吸管還要??!
10
REDMI K80系列 11月27日19:00狂暴登場(chǎng)
11
Gartner預(yù)測(cè),到2027年40%的AI數(shù)據(jù)中心將因電力不足而導(dǎo)致運(yùn)營(yíng)受限
12
“折疊屏鼻祖”宣告破產(chǎn),60億估值的“神話”何以破滅?
13
我國(guó)智能電視行業(yè)表現(xiàn)低迷,正處在迭代和變革的關(guān)鍵時(shí)期
14
行業(yè)首份家用中央空調(diào)“以舊換新”技術(shù)標(biāo)準(zhǔn)發(fā)布
15
集成灶企業(yè)能否熬過(guò)市場(chǎng)寒冬?
16
巨幕電視大受歡迎:75英寸+電視銷(xiāo)量已占半壁江山
17
iPhone被指壟斷手機(jī)市場(chǎng):蘋(píng)果尋求駁回訴訟
18
索尼集團(tuán)2024財(cái)年二季度利潤(rùn)顯著增長(zhǎng),索尼中國(guó)怎么樣?
19
AMD被曝將進(jìn)軍手機(jī)領(lǐng)域!推出“Ryzen AI”移動(dòng)SoC
20
光伏制造行業(yè)新規(guī)正式發(fā)布,業(yè)界評(píng)論:針對(duì)性極強(qiáng)
關(guān)于我們

微信掃一掃,加關(guān)注

商務(wù)合作
  • QQ:61149512