業(yè)界首個(gè)!快手提出億級別多模態(tài)短視頻百科體系——快知(Kuaipedia)
引言 當(dāng)前,越來越多的短視頻用戶不僅希望利用碎片化的時(shí)間來休閑娛樂,也開始希望能夠在短視頻平臺中獲取更多知識。2021年,快手泛知識內(nèi)容播放量同比增長58.11%,平臺全年有超過3300萬場泛知識直播 [1]。為了更好地理解和組織泛知識視頻,快手MMU聯(lián)合哈爾濱工業(yè)大學(xué)等提出業(yè)界首個(gè)多模態(tài)短視頻百科——“快知(Kuaipedia)”:通過多模態(tài)和知識圖譜技術(shù)從海量短視頻中挖掘大規(guī)模高質(zhì)量的知識視
2022-11-07 19:11:42
來源:快手??

引言

當(dāng)前,越來越多的短視頻用戶不僅希望利用碎片化的時(shí)間來休閑娛樂,也開始希望能夠在短視頻平臺中獲取更多知識。2021年,快手泛知識內(nèi)容播放量同比增長58.11%,平臺全年有超過3300萬場泛知識直播 [1]。為了更好地理解和組織泛知識視頻,快手MMU聯(lián)合哈爾濱工業(yè)大學(xué)等提出業(yè)界首個(gè)多模態(tài)短視頻百科——“快知(Kuaipedia)”:通過多模態(tài)和知識圖譜技術(shù)從海量短視頻中挖掘大規(guī)模高質(zhì)量的知識視頻,并將其結(jié)構(gòu)化,形成體系化的短視頻百科知識庫,為用戶提供更好的知識獲取體驗(yàn),同時(shí)激發(fā)創(chuàng)作者創(chuàng)造優(yōu)質(zhì)知識內(nèi)容,構(gòu)建良性的知識分享生態(tài)。

 
●    論文鏈接:https://arxiv.org/abs/2211.00732
●    項(xiàng)目主頁:https://github.com/Kuaipedia/Kuaipedia

團(tuán)隊(duì)從快手海量短視頻中挖掘出億級別知識類視頻,并對其進(jìn)行了結(jié)構(gòu)化,構(gòu)建了千萬級詞條和知識點(diǎn)視頻百科體系?!翱熘↘uaipedia)”的提出有助于學(xué)界推動(dòng)AI通過多模態(tài)信息理解世界知識,且在產(chǎn)業(yè)界落地有較大想象空間。

介紹

百科全書(Encyclopedia),可以追溯到希臘和羅馬,也是17-18世紀(jì)法國啟蒙運(yùn)動(dòng)的一個(gè)杰出的成果。知識百科通常是指一個(gè)是概要介紹人類全部知識或某一特定領(lǐng)域或?qū)W科的工具書或綱要,在互聯(lián)網(wǎng)急速發(fā)展的當(dāng)下,網(wǎng)絡(luò)百科成為知識新的載體,如維基百科、百度百科等。但這些百科通常以圖文、表格為載體,比較難以表達(dá)一些需要生動(dòng)演示的知識,比如教程(How-to)類知識。圖一展示了使用圖文講述 “柴犬”-“怎么畫” 這一知識的困境。而通過短視頻,我們能夠很好地對這些知識進(jìn)行一個(gè)闡釋和學(xué)習(xí)。

具體視頻見https://www.gifshow.com/fw/photo/3xhcmzgr9fq492m。

 

圖一:圖文在how-to類知識上知識傳遞的困境,圖文來自短視頻的幀截圖

隨著內(nèi)容行業(yè)和媒體形態(tài)的不斷迭代,短視頻已經(jīng)越來越成為知識傳播者的主要媒介,尤其是在一些技能和特長類的知識傳播,天然就有它的一些優(yōu)勢。而在當(dāng)下,盡管有公開的網(wǎng)絡(luò)百科中有視頻的內(nèi)容,但通常是偏簡介形式(如秒懂百科),沒有將短視頻最大程度的進(jìn)行利用,因此短視頻在知識百科中的表達(dá)能力被嚴(yán)重低估。比如當(dāng)人們講到“柴犬”,人們除了“簡介” 以外,還關(guān)注“怎么挑”、“怎么梳毛”、“怎么糾正護(hù)食”等。因此我們認(rèn)為將知識類的短視頻結(jié)構(gòu)化,構(gòu)成結(jié)構(gòu)化的短視頻百科是一條理解世界知識、幫助人類以更高效率傳播知識的有效途徑。
參考國家標(biāo)準(zhǔn) [2] ,我們將事實(shí)(What)、原理(Why)類知識歸結(jié)為科普知識,技能(How)類歸結(jié)為教程知識,在快手海量的視頻中挖掘出高質(zhì)的知識視頻。此外,我們將短視頻中抽取的知識主體以詞條形式呈現(xiàn)(如柴犬),并抽取視頻中講解的該詞條具體的知識點(diǎn)(如柴犬-挑選、柴犬-護(hù)食糾正等),最終構(gòu)成了一個(gè)短視頻的百科知識體系,如圖二所示。

 

圖二:快知——多模態(tài)短視頻百科概覽

“快知(Kuaipedia)”的提出有以下幾個(gè)貢獻(xiàn):

1.    “快知”的定義:我們開創(chuàng)性地定義了一個(gè)全新的多模態(tài)知識百科庫,以詞條、知識點(diǎn)、知識類短視頻以及它們間的關(guān)系共同構(gòu)成。這是業(yè)界首個(gè)結(jié)構(gòu)化的多模態(tài)短視頻百科。

2.    構(gòu)建大規(guī)模短視頻百科的方法:我們提出使用知識視頻識別、詞條知識點(diǎn)挖掘、多模態(tài)知識鏈接的組合來構(gòu)建大規(guī)模的短視頻百科。并開創(chuàng)性提出“多模態(tài)知識鏈接”任務(wù),作為傳統(tǒng)實(shí)體鏈接的一個(gè)外延和擴(kuò)展。

3.    富有潛力和想象空間的應(yīng)用:在學(xué)術(shù)上,“快知”以嶄新的知識點(diǎn)短視頻化組織形式,能夠突破目前機(jī)器僅靠圖文知識圖譜(KG)理解世界知識的上限,在KG的一些下游任務(wù)如實(shí)體鏈接、實(shí)體分類,或者NLP、CV等內(nèi)容理解下游任務(wù)上,有非常大的潛力。在產(chǎn)業(yè)界,“快知”這樣的形式能夠助力短視頻平臺進(jìn)行高效地運(yùn)營、組織內(nèi)容,提升用戶對知識的理解與消費(fèi)效率。

技術(shù)概覽

為了實(shí)現(xiàn)上述的短視頻百科結(jié)構(gòu)化,核心技術(shù)包括以下三個(gè)主要步驟,如圖三所示。

1.    知識視頻識別:通過多模態(tài)視頻預(yù)訓(xùn)練模型,理解并識別海量視頻中知識類視頻;

2.    詞條和知識點(diǎn)挖掘:通過多源知識庫融合“自頂向下”構(gòu)建詞條體系,再通過對用戶搜索query挖掘“自底向上”構(gòu)建詞條與知識點(diǎn)關(guān)系,形成詞條知識點(diǎn)樹;

3.    多模態(tài)知識鏈接:創(chuàng)新性地?cái)U(kuò)展傳統(tǒng)“實(shí)體鏈接”任務(wù),提出通過多模態(tài)內(nèi)容理解技術(shù)將視頻鏈接到詞條(如柴犬)的某一個(gè)知識點(diǎn)(如護(hù)食糾正)上的“多模態(tài)知識鏈接”任務(wù)。


 

圖三:快知構(gòu)建技術(shù)鏈路

通過大量詳實(shí)的人工評測,快知所挖掘的知識點(diǎn)與視頻已具備較高的準(zhǔn)確率和質(zhì)量。更詳細(xì)的算法和實(shí)驗(yàn)數(shù)據(jù)具體參見論文或者我們的Github主頁(見文章開頭)。

應(yīng)用

首先,“快知(Kuaipedia)”這樣的多模態(tài)短視頻百科體系,在學(xué)術(shù)界對于推動(dòng)AI理解世界知識的技術(shù)發(fā)展有極大的潛力。一方面,“快知”突破圖文和表格的局限,通過更豐富的知識點(diǎn)和短視頻來描述某一個(gè)實(shí)體或者概念,這種方式能夠推動(dòng)多模態(tài)知識圖譜技術(shù)的發(fā)展。另一方面,這些知識點(diǎn)和短視頻有助于AI更好地理解世界知識,尤其是一些圖文難表述的 How-to 類知識,這種多模態(tài)知識能夠增強(qiáng)AI對世界的理解,對KG、NLP、CV等領(lǐng)域的下游應(yīng)用都很有幫助。我們在CCKS實(shí)體鏈指的任務(wù)上,證明“快知”多模態(tài)知識的簡單引入就能有效提升BERT在實(shí)體鏈接和在實(shí)體分類上的性能。

此外,“快知”在產(chǎn)業(yè)落地極具想象力,在短視頻生態(tài)向“泛知識”拓展的過程中,現(xiàn)有的形式約束了其傳播方式,“快知”通過結(jié)構(gòu)化的內(nèi)容,能提升平臺的運(yùn)營和分發(fā)效率,更好地滿足用戶的求知訴求。我們將該項(xiàng)技術(shù)首先在健康垂類進(jìn)行了落地嘗試,快手健康團(tuán)隊(duì)此前以病種為組織維度,純?nèi)斯ね诰蛄艘慌鷥?yōu)質(zhì)PUGC內(nèi)容,但是存在疾病知識體系不完善、權(quán)威性知識視頻量級小等痛點(diǎn),難以高效率構(gòu)建完整、大規(guī)模、結(jié)構(gòu)化的疾病視頻體系。利用“快知”的技術(shù)后,自動(dòng)化地挖掘出了一批高質(zhì)量、有快手特色的知識點(diǎn)和知識視頻,豐富了疾病類內(nèi)容,比純?nèi)斯?gòu)建提效幾十倍。目前這批內(nèi)容已經(jīng)在快手App精選頁上線:點(diǎn)擊精選視頻流中某個(gè)疾病類視頻的「底部通欄」,喚起「快手健康」半屏頁,用戶可以消費(fèi)該視頻所屬詞條下的相關(guān)知識點(diǎn)和相關(guān)知識視頻,如圖四所示。

 

圖四:快知在健康場景落地

除健康外,“快知”還覆蓋了教育、美食、三農(nóng)、親子、法律、科技、金融等眾多領(lǐng)域的知識內(nèi)容,有著較大的應(yīng)用潛力。

結(jié)語

面對泛知識類內(nèi)容在短視頻行業(yè)的發(fā)展前景,我們提出了“快知(Kuaipedia)”多模態(tài)短視頻百科體系,從存量的海量短視頻內(nèi)容入手,通過多模態(tài)知識圖譜構(gòu)建技術(shù)挖掘出億級別高質(zhì)量的知識視頻,并將知識內(nèi)容結(jié)構(gòu)化,構(gòu)建業(yè)界首個(gè)大規(guī)模體系化的短視頻百科知識庫,其在學(xué)術(shù)界和產(chǎn)業(yè)界有較大的潛力和想象空間。

最新文章
1
榮耀300系列厚度僅6.97毫米,比一根吸管還要??!
2
REDMI K80系列 11月27日19:00狂暴登場
3
Gartner預(yù)測,到2027年40%的AI數(shù)據(jù)中心將因電力不足而導(dǎo)致運(yùn)營受限
4
“折疊屏鼻祖”宣告破產(chǎn),60億估值的“神話”何以破滅?
5
我國智能電視行業(yè)表現(xiàn)低迷,正處在迭代和變革的關(guān)鍵時(shí)期
6
行業(yè)首份家用中央空調(diào)“以舊換新”技術(shù)標(biāo)準(zhǔn)發(fā)布
7
集成灶企業(yè)能否熬過市場寒冬?
8
巨幕電視大受歡迎:75英寸+電視銷量已占半壁江山
9
iPhone被指壟斷手機(jī)市場:蘋果尋求駁回訴訟
10
索尼集團(tuán)2024財(cái)年二季度利潤顯著增長,索尼中國怎么樣?
11
AMD被曝將進(jìn)軍手機(jī)領(lǐng)域!推出“Ryzen AI”移動(dòng)SoC
12
光伏制造行業(yè)新規(guī)正式發(fā)布,業(yè)界評論:針對性極強(qiáng)
13
工業(yè)5G模組價(jià)格大幅下跌,是利好也要警惕
14
小米Mini LED電視躍升至全球第三,Mini LED正成為購買首選
15
2025年家電以舊換新補(bǔ)貼還將繼續(xù)嗎?
16
英偉達(dá)漲幅不??!RTX 5090售價(jià)曝光:國行至少1萬5了
17
賽力斯聯(lián)手平安產(chǎn)險(xiǎn):行業(yè)首個(gè)智駕保障服務(wù)計(jì)劃推出
18
多場景AI加持,ROG 9將游戲性能進(jìn)行到底
19
鐘睒睒認(rèn)為“價(jià)格就是產(chǎn)業(yè)導(dǎo)向”,有沒有道理?
20
傳蘋果或推自有品牌電視,中國品牌通關(guān)全球高端市場難度要增加?
關(guān)于我們

微信掃一掃,加關(guān)注

商務(wù)合作
  • QQ:61149512