谷歌、Facebook、亞馬遜、IBM、微軟聯(lián)合起來,成立了一個新的AI合作機構,它的目標是幫助公眾更好理解AI,為未來的研究人員制定各種標準。
新機構的名字有些古怪,叫作“Partnership on Artificial Intelligence to Benefit People and Society(可造福人群與社會的 AI 合作關系,簡稱Partnership on AI)”,它不是一個游說組織,機構宣稱,它們不會游說政府實體。這個機構到底是干什么的?它的職責包括:引導研究,推薦最佳實踐,根據(jù)公開授權發(fā)表研究成果,涉及的領域包括倫理、公平、包容;追求透明、隱私、互操作性;在人與AI系統(tǒng)之間進行協(xié)作;讓技術變得可信、可靠、健康。
當機構成員合作時,不論是企業(yè)還是非企業(yè)用戶都是公平的,它希望此舉可以激勵學術機構、非盈利機構、政策倫理專家加入。
創(chuàng)立機構的5家企業(yè)都有著強大的AI研發(fā)團隊,其中一些團隊的名字可謂“家喻戶曉”,比如IBM沃森(Watson)、亞馬遜Alexa(Alexa)。代表谷歌參與組織的是DeepMind子公司,它是一個純粹的研究機構,今年3月,DeepMind登上了新聞頭條,它開發(fā)的機器打敗了韓國圍棋職業(yè)選手。
蘋果與特斯拉沒有加入
盡管如此,一些企業(yè)和組織沒有加入該機構。
蘋果正在加快AI研發(fā)速度,涉及個人助手、圖像識別、語音控制技術,它沒有加入新機構。從過往歷史來看,當其它科技企業(yè)握手言和時,蘋果喜歡特立獨行。例如,2015年,蘋果獨自反抗英國提出的《調(diào)查權利法案(Investigatory Power Bill)》,而Facebook、谷歌、微軟、Twitter、雅虎則聯(lián)合起來反對。今年3月,蘋果才加入合作組織。
新機構有兩名臨時聯(lián)合主席,微軟Eric Horvitz是其中之一,他表示:“我們正在與蘋果協(xié)商,據(jù)我所知,蘋果很感興趣,我個人很希望它能加入進來?!碧O果拒絕發(fā)表評論。
沒有加入新機構的還有OpenAI,它是由馬斯克發(fā)起的研究機構,其目標就是推動數(shù)字智能的發(fā)展,盡可能讓整個人類受益。OpenAI獲得了10億美元融資,它是整個產(chǎn)業(yè)資金最充沛的獨立AI研究實驗室,OpenAI的目標和新機構的目標有點互補。
“我們正在邀請許多不同的研究實驗室、團體加入進來?!盌eepMind公司的Mustafa Suleyman表示,“我們鼓勵AI研究以多樣化形式進行,這是好事一件。針對不同的研究,我們盡可能保持開放性?!盡ustafa Suleyman也是新機構的聯(lián)合主席。OpenAI聯(lián)合創(chuàng)始人、CTO Greg Brockman表示:“看到新機構成立我們很高興,產(chǎn)業(yè)的協(xié)作對每一個人都有利。未來,我們期待非盈利機構以一級成員的方式加入進來?!?/span>
事實上,這并不是DeepMind第一次成立機構來推動AI倫理的確立。2014年,谷歌收購了DeepMind,在收購協(xié)議中谷歌承諾將會成立一個AI倫理委員會,確保新技術不會濫用。兩年半過去了,我們還不知道委員會在哪里,也不知道里面包括了誰。DeepMind拒絕置評,它成立了另一個倫理委員會,不過該組織只關注公司在健康護理AI方面的研究。
DeepMind的Suleyman表示,新機構并沒有替代公司內(nèi)部的倫理委員會,它只是補充。Suleyman稱:“委員會是Deep Mind自己建立的,我們正在努力向前邁進,取得了很大的進步。”Suleyman還承諾,合作機構經(jīng)常會開會。
起什么作用
Murray Shanahan是倫敦大學帝國理工學院(Imperial College London)認知機器人領域的教授,他深入研究深度象征增強學習技術,該技術可以利用海量數(shù)據(jù)解決AL問題。Murray Shanahan對機構的成立表示歡迎。他說:“在推動復雜AI發(fā)展方面,少數(shù)大企業(yè)發(fā)揮了重要作用。在AI領域展開合作是值得鼓勵的,它可以確保技術被人們正確使用?!?/span>
Ralf Herbrich是亞馬遜機器學習科學、核心機器學習方面的主管,他認為:“我們處在機器學習、AI的黃金時代。該機構可以確保我們構建最好最光明的未來,通過對話和交流,我們可以提高客戶的信任度,讓整個社會受益?!?/span>
在聯(lián)合聲明中,機構宣稱在開發(fā)AI的過程中將會倡導開放、協(xié)作原則。聲明稱:“該組織是一個巨大的進步,它打破了AI團隊之間存在的藩籬,可以讓大家分享各種實踐成果、探討研究方法,將社會利益最大化,解決倫理隱憂,方便其它領域的人參與各種工作。能夠將一切結合在一起,我們深感自豪,我們期待能與機構內(nèi)和機構外的所有人合作,確保AI可以像預料的一樣生產(chǎn)廣泛而深刻的影響?!?/span>
Facebook AI研發(fā)主管Yann LeCun表示:“通過與同行協(xié)作,以開放的形式協(xié)作,分享各自的發(fā)現(xiàn),我們每天都可以拓寬技術的范圍,在Facebook內(nèi)部是這樣,在整個研究社區(qū)也是這樣?!?/span>
IBM高管Francesca Rossi則表示,新機構可以增強人與機器的協(xié)作,解決當今世界最難的問題;合作機構還幫助使用認知系統(tǒng)的消費者和工業(yè)用戶,讓他們可以進一步推動新技術的發(fā)展,其發(fā)展的方式是可信的,也是有利的。
Partnership on AI的目標:
1、確保AI技術可以讓更多人受益,讓更多人變得強大起來。
2、教育公眾與利益相關者,傾聽他們的意見,就我們關心的問題聽取意見,向他們匯報工作進展,解決他們存在的疑問。
3、圍繞AI所存在的倫理、經(jīng)濟、法律問題,引導大家進行開放式研究,加強對話。
4、積極吸引眾多從事AI研究的利益相關者加入,鼓勵各種研發(fā)活動。
5、讓來自企業(yè)社區(qū)相關各方的代表參與進來,確保特定領域的問題和機會能夠得到更好的理解和解決。
6、致力于擴大AI技術的受益面,化解潛在挑戰(zhàn),具體包括如下內(nèi)容:
——攜手合作,保護個人隱私和安全。
——理解、尊重各方的利益,它們可能會影響AI的發(fā)展。
——確保AI研究、工程社區(qū)能夠承擔起社會責任,保持敏感度,直接參與進去,讓AI技術在更廣泛的社會層布是造成影響。
——確保AI研究和技術是健康的、可靠的、可信的,在安全條件內(nèi)運營。
——反對AI技術的研究和使用違反國際慣例、人權,加強安全措施,防止技術作惡。
7、向人們解釋AI與它的運行原則,讓大家更好理解AI技術,理解其目的。
8、在AI科學家和工程師之間創(chuàng)造一個協(xié)作、可信、開放的社區(qū),攜手達成上述目標。
- QQ:61149512