用AI摳圖 谷歌新應(yīng)用讓你成為各大視頻的“主角”
編 | 白鴿智東西3月2日消息,據(jù)Tech Crunch報道,今日,谷歌為You Tube添加了一項新的AI功能。即通過構(gòu)建的卷積神經(jīng)網(wǎng)絡(luò),讓用戶拍攝視頻時可自動更換視頻背景(摳圖)。據(jù)悉,摳圖是一門應(yīng)用了幾十年的特效技術(shù),不過做起來很費時間,也很復(fù)雜。如在拍電影時,導(dǎo)演會讓演員在綠幕前表演,之后使用計算機的數(shù)字特效更換綠屏。此前,因計算機在一秒內(nèi)至少需要計算30次,所以在移動設(shè)備上想要更換普通的
2018-03-04 08:30:15
來源:智東西??

編 | 白鴿

智東西3月2日消息,據(jù)Tech Crunch報道,今日,谷歌為You Tube添加了一項新的AI功能。即通過構(gòu)建的卷積神經(jīng)網(wǎng)絡(luò),讓用戶拍攝視頻時可自動更換視頻背景(摳圖)。

123

據(jù)悉,摳圖是一門應(yīng)用了幾十年的特效技術(shù),不過做起來很費時間,也很復(fù)雜。如在拍電影時,導(dǎo)演會讓演員在綠幕前表演,之后使用計算機的數(shù)字特效更換綠屏。此前,因計算機在一秒內(nèi)至少需要計算30次,所以在移動設(shè)備上想要更換普通的RGB圖像,也不是很容易。如此可見想要更換視頻背景的難度。

谷歌工程師們則認為這是一個挑戰(zhàn),并為此建立了一個卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),使其通過數(shù)千張被標(biāo)記的圖片進行訓(xùn)練。

image5

通過訓(xùn)練,該神經(jīng)網(wǎng)絡(luò)可以分辨臉部特征,如眼睛、頭發(fā)、眼鏡、嘴等部位的特點,并將這些特征與其它東西區(qū)分開來。為了做到這一點,谷歌工程師對其進行了一系列的優(yōu)化,從而降低了需要壓縮的數(shù)據(jù)量。此外,它還將先前的計算結(jié)果作為下一步的計算基礎(chǔ),盡管它看起來有點作弊,但卻可以進一步降低移動設(shè)備的負荷。

在研發(fā)該功能中,其具體的任務(wù)是制作一個二進制蒙版,以計算從前景到背景進行分離的每一幀視頻所用的時間。其中,實現(xiàn)計算跨幀蒙版的時間的一致性是關(guān)鍵點。目前的方法是利用LSTM或 GRU進行計算,但對于移動設(shè)備來說,這樣操作是非常昂貴的。而谷歌研究人員則通過將之前計算掩碼作為之后計算掩碼的基礎(chǔ)進行計算,從而保持時間上的一致性,如下圖所示:

image7

(原始幀(左)在其三個顏色通道中分開,并與之前的蒙版連接,并被用作神經(jīng)網(wǎng)絡(luò)的輸入來預(yù)測當(dāng)前幀的蒙版(右))

而在視頻分割過程中,還要實現(xiàn)幀到幀的時間連續(xù)性,同時也要考慮到諸如在拍攝視頻過程中突然出現(xiàn)其他人物,以至于造成時間上不連續(xù)等問題。為訓(xùn)練其模型適應(yīng)這些問題,谷歌研究人員通過以下幾點對其進行優(yōu)化:

1、清空之前的蒙版,訓(xùn)練神經(jīng)網(wǎng)絡(luò)在第一幀和第一個場景人物之間正常工作,并且模擬出了某人出現(xiàn)在相機中的場景。

2、將其轉(zhuǎn)換為真正的背景蒙版,通過轉(zhuǎn)換訓(xùn)練,可使神經(jīng)網(wǎng)絡(luò)將其調(diào)整到前一幀蒙版之前。

3、轉(zhuǎn)換圖像。該功能實現(xiàn)了在相機中進行平滑流暢且快速的圖像轉(zhuǎn)化。

這樣做的結(jié)果就是其神經(jīng)網(wǎng)絡(luò)在移動設(shè)備上運行的速度非常快,如在iPhone 7上實現(xiàn)了運行速度100+ FBS,在Pixel 2上實現(xiàn)了40+ FBS,并且其更換背景的準(zhǔn)確性非常高。

刪除或替換背景工具對用戶來說很具有吸引力,所以該功能的推出對于很多人來說都是一個好消息。想要體驗該功能嗎?遺憾的是,它目前只能讓 YouTube Stories用戶使用該功能。

原文來自:Tech Crunch、Google Blog

最新文章
1
快手聯(lián)合創(chuàng)始人楊遠熙:AI驅(qū)動,釋放數(shù)字經(jīng)濟新動能
2
創(chuàng)新玩法引爆狂歡,時代少年團五周年快手獨家系列直播幸福加倍
3
快手品牌自播轉(zhuǎn)型:平臺政策牽引 品牌錨定“渠道長期經(jīng)營價值”
4
IDC中國手機市場Q3:vivo、OPPO分化,華為起勢迅猛,AI拉力漸強
5
絕美小OPhone,OPPO Reno13 系列正式發(fā)布,2699元起!
6
競爭將更加激烈,TCL李東生表示LCD大屏幕主流地位短期難撼
7
蘋果史上最薄手機!曝iPhone 17 Air原型機無實體SIM卡槽
8
全球高端電視市場再變,海信TCL領(lǐng)先LG突破韓系雙雄兩極格局
9
“國補”之下,家電市場的變與不變
10
五大半導(dǎo)體國際組織呼吁:攜手應(yīng)對全球產(chǎn)業(yè)共性問題
11
REDMI史上最強:K80 Pro配備全焦段5000萬旗艦三攝
12
勇闖洗衣機賽道,清潔家電勝算幾何?
13
以舊換新明年延續(xù) 鄉(xiāng)鎮(zhèn)商家怎么應(yīng)對?
14
史上最強Mate未發(fā)先火!超305萬人想買Mate 70
15
蘋果要首發(fā)!臺積電宣布2nm已準(zhǔn)備就緒
16
白電前三季:美的海爾領(lǐng)先,TCL惠而浦領(lǐng)漲,明示三大趨向
17
榮耀300系列厚度僅6.97毫米,比一根吸管還要?。?/a>
18
REDMI K80系列 11月27日19:00狂暴登場
19
Gartner預(yù)測,到2027年40%的AI數(shù)據(jù)中心將因電力不足而導(dǎo)致運營受限
20
“折疊屏鼻祖”宣告破產(chǎn),60億估值的“神話”何以破滅?
關(guān)于我們

微信掃一掃,加關(guān)注

商務(wù)合作
  • QQ:61149512