2014年,王益帶著妻子和兩個月大的女兒離開騰訊移居硅谷?!耙磺卸細w零了。工資減半?!彼πφf。不過憑著多位學界和業(yè)界領(lǐng)袖的推薦,他很快就安頓下來,不到一年就開始在硅谷創(chuàng)業(yè),作為Head of Research Scienets 參與創(chuàng)建了AI創(chuàng)業(yè)公司 ScaledInference。這是一家人才濟濟的創(chuàng)業(yè)公司。人工智能行業(yè)的領(lǐng)袖人物、加州大學伯克利分校的Michael Jordan教授是這家公司顧問。陸奇曾代表微軟到訪,討論技術(shù)合作?!翱上覀儾粔蜿P(guān)注業(yè)務落地,做的不夠好。技術(shù)研發(fā)一定要有落地的能力。”事后,王益不無遺憾的說。
在加入螞蟻之前,王益在百度硅谷研究院工作,負責開源深度學習系統(tǒng)PaddlePaddle。在歷經(jīng)兩年的艱苦開發(fā),新一代技術(shù)Fluid開始系統(tǒng)地落地百度各個業(yè)務之后,他發(fā)起了他在 PaddlePaddle的最后一個子項目——一條太陽能驅(qū)動的無人駕駛船。這是一條雙體船,由他和五歲女兒的兩條劃艇構(gòu)成。船上的筆記本電腦運行基于immitation learning的人工智能系統(tǒng),自動學習駕駛者的技巧。為了船體穩(wěn)定,他在自家?庫里焊接了連接兩條劃艇的金屬框架。便于拆裝的結(jié)構(gòu),可以裝上他的皮卡,方便下水測試。
做出加入螞蟻金服的決定,也是出于同樣的理由——“有意思”?!斑@里的業(yè)務很新穎,對AI 有著更加多樣化的需求?!比绾斡肁I解決金融行業(yè)的問題,是和他以往所面對的完全不同的全新挑戰(zhàn)。
SQLFlow:分析師與AI模型間的翻譯
加入螞蟻金服不久,王益就意識到自己之前的朦朧猜想越來越清晰地被驗證:和主要依靠流量與廣告賺錢的傳統(tǒng)互聯(lián)網(wǎng)公司不同,螞蟻金服不是純互聯(lián)網(wǎng)公司,它有獨特的商業(yè)模式和對于工具的獨到需求。
此前的十多年中,他的大部分經(jīng)歷是在傳統(tǒng)互聯(lián)網(wǎng)行業(yè)做搜索推薦技術(shù),這一類業(yè)務所需的模型總數(shù)比較有限,只需要算相關(guān)性的模型、排序的模型等,一個成熟的模型通常會有幾十上百人維護,每年修改調(diào)整去提升性能。但在螞蟻金服,這種模式被顛覆了。因為金融行業(yè)的數(shù)據(jù)遠比社交、電商和搜索引擎的數(shù)據(jù)要稀疏,很難完全靠機器來挖掘出規(guī)律,必須依賴金融專業(yè)分析師的智慧。分析師大量使用SQL語言來驗證想法,或者進一步做探索,這些結(jié)論對金融業(yè)務非常關(guān)鍵。
每一位分析師平均每天要提交很多個AI任務,這些任務對AI模型的需求各不相同,差異性特別顯著。但是,模型是建模團隊用Python語言描述的,分析師們?nèi)绻{(diào)用模型,要么需要學習Python語言,要么需要專配一位工程師,效率難以顯著提高。
語言不通,所以需要翻譯,那么能否在SQL和Python之間也設立一個翻譯?
基于這樣的想法,王益和團隊一起開發(fā)了SQLFlow,這個系統(tǒng)好比一個“翻譯機”,能將分析師們輸入的SQL命令翻譯成Python語言,這樣一來,分析師無需學習Python,使用SQL語言就能夠處理數(shù)據(jù)、訓練AI模型,并使用訓練好的模型來回答業(yè)務問題。
這套系統(tǒng)更重要的作用,是重新界定了分析師、建模團隊和工具開發(fā)團隊的責任,讓同一個機構(gòu)里的這三個工種有了清晰的分工,有效形成合力。
ElasticDL:一個“聰明”的智能學習系統(tǒng)
通過SQLFlow被調(diào)用的模型,會基于基礎架構(gòu)來進行分布式執(zhí)行,這套分布式的智能學習系統(tǒng),就是剛剛開源的ElasticDL。ElasticDL基于TensorFlow2.0構(gòu)建,是面向未來的下一代技術(shù),其很重要的獨特之處,就在于它很“聰明”。
首先,它能和SQLFlow一起,補足簡短的SQL程序翻譯成復雜的Python程序的過程中所需的信息。根據(jù)深度學習模型的數(shù)學特性,它能夠決定用什么樣的方式來進行計算,還能在計算過程中智能地決定一些參數(shù)。
其次,它的容錯和彈性調(diào)度機制,能讓集群的利用效率更高。用戶提交需求之后,不再需要“排隊”等待資源釋放才開始計算,計算會“插空”進行,這樣閑置和等待時間更短,大幅度減少了浪費在等待上的系統(tǒng)資源和人力資源。
在數(shù)據(jù)收集能力極大提升的今天,擁有能算“大”數(shù)據(jù)的能力,比算得快更為重要。這是王益一直未變的觀點。ElasticDL的開發(fā),著眼之處不僅是計算本身的提速,更是針對云計算時代中,數(shù)據(jù)量大且多人共用集群的特點而進行的調(diào)度優(yōu)化。“等待的時間有時會占到60%-80%,如果不能有效減少這部分的浪費,只是提升計算速度的話,對整體效率的提升就是杯水?薪。”王益說,但是ElasticDL的彈性調(diào)度能在資源不足的情況下,有多少就先調(diào)用多少,讓計算盡快啟動。
?遠看來,ElasticDL還將支持各種學習模式,以順應金融行業(yè)對AI的多種需求。很多在傳統(tǒng)互聯(lián)網(wǎng)行業(yè)可有可無的訓練模式,在金融行業(yè)都很有廣闊的應用場景,比如保障數(shù)據(jù)安全的同時還能共享數(shù)據(jù)背后規(guī)律的共享智能,或者建立可以進行各種大膽試驗的虛擬環(huán)境,這些面向未來的需求,在ElasticDL的設計之中也有所考慮。
對于一直在做AI基礎架構(gòu)的王益來說,對AI有著各種不同需求的金融行業(yè),是一片全新的馳騁疆場。無數(shù)新的問題等待他去嘗試,去尋找新的解法,讓他樂此不疲。
實踐出真知,無需等待理論完美證明
“數(shù)學模型和分布式架構(gòu)是互相影響的,只了解其中任何一面,在這個領(lǐng)域都做不好。要為深度學習的架構(gòu)去改數(shù)學模型,也要因為數(shù)學模型的數(shù)學特點去做架構(gòu)調(diào)整?!?/p>
站在今天回顧過去做AI基礎架構(gòu)的十多年,王益覺得這是自己所學到的最重要一課。
這一想法的首次驗證,是在他2009年離開Google進入騰訊之后寫出的Peacock系統(tǒng)。和在Google所做的語義理解項目不同,這次他將算法和分布式架構(gòu)一起考慮調(diào)整,讓語義理解的規(guī)模擴大了上千倍,后來集結(jié)成了論文發(fā)表在ACM Transactions on Intelligent Systems and Technology雜志上,廣為業(yè)界知曉。
2015年,他進入百度硅谷參與語音識別項目Deep Speech 2,這一項目不僅被MIT科技評論評為 2016年全球十大科技突破之一,也成為他了解深度學習的一個契機。他一度堅持要有完美的理論論證才能進入實踐驗證,因為深度學習的理論未經(jīng)嚴格推敲,他一直認為只有統(tǒng)計學習才是“正道”。
在百度,王益獲得深度學習科學家徐偉的推薦,去負責深度學習平臺PaddlePaddle。在不斷探索解決實際問題的過程之中,他的想法改變了。
“并不一定先要有完整論證的理論才去進行實踐,也可以先實踐,實踐出真知。實踐之后再總結(jié)提升為理論?!蓖跻嬲f,“這就像是在牛頓發(fā)現(xiàn)力學原理之前的幾千年前,人類就已經(jīng)利用杠桿原理修起了金字塔?!?/p>
Code Review:從最初的震撼到?年的習慣
今年5月,SQLFlow宣布開源,之后僅四個月,ElasticDL也宣布開源,這在螞蟻金服的歷史上并不多?,卻是王益的堅持。他認為唯有開源才能保證信息透明,唯有讓代碼直接面對全社會,才能全方位的接受審視和檢驗,對寫代碼的人自身來說,也是一種自我約束。
“開源和code review不僅是個技術(shù)問題,更是管理學問題、社會學問題,關(guān)系到如何把大家組織起來變成更高效的團隊。”王益說。
Code Review對他自己而言,也是人生中一段難以磨滅的經(jīng)歷。他用“最初的震撼”來描述12年前初出校?加入Google中國時的體驗。當時他已經(jīng)寫了18年程序,手握系統(tǒng)分析師資格,還特別研究過了Google的Code style,所以初次遭遇Code Review時并沒有太當回事:“以為自己寫了這么多年程序,怎么都還行吧?!?/p>
但現(xiàn)實是?感的:他在Google寫出的第一個程序,總共不過100行代碼,卻被來自美國的同事和好友Jerad提出了120行意?。“當時深受打擊,簡直覺得屈辱?!?/p>
他壓制了情緒,仔細去看那些意?,這才發(fā)現(xiàn)每一條都真誠且很有幫助?!皬哪且豢唐? Code Review成為了我們的工作方式?!泵刻旌瓦@些同事們一起coding,互相review,讓中國工程師們很快知道了應當關(guān)注哪些地方,應當如何溝通合作。因此,不管是騰訊的 Peacock,百度的PaddlePaddle新版本Fluid,還是螞蟻的SQLFlow 和ElasticDL都是王益先開發(fā)出原型,再吸引感興趣的同事一起來完善。
這種工作方式的影響一直延續(xù)到了今天,他也希望能夠以這種方式去影響更多的工程師。“搞技術(shù)必須實事求是。”王益說,代碼是工程師最好的名片,藏著掖著、互不交流,就無法帶來信賴、合作與提升。幫助大家了解和實踐code review,需要花費大量的時間和精力。“白天弄管理,晚上寫程序”這是王益總結(jié)的在騰訊工作時的辦法?!昂髞碓诎俣群臀浵?我更刻意地專注做技術(shù)工作,確保精力更集中。”
這正是現(xiàn)在的互聯(lián)網(wǎng)科技公司的組織管理和人才選拔之中不可或缺的一課。在開源機制之中,每個人都會對自己的coding更加認真,主動的人會脫穎而出,被動的人會自動淘汰,團隊成員之間會自發(fā)地相互協(xié)同,互相認同,找到溝通和合作的方式。
“現(xiàn)在技術(shù)領(lǐng)域的成果已經(jīng)很難靠單槍匹?的個人英雄主義去取得,團隊合作必不可少。希望用這種方式來找到開朗真誠的伙伴,一起去摘高處的果實?!蓖跻嬲f。