面對以上兩大挑戰(zhàn)，楊強教授分享了“聯(lián)邦學(xué)習(xí)”這一全新的概念。作為一種新興的人工智能技術(shù)，“聯(lián)邦學(xué)習(xí)”由微眾銀行AI團隊在國內(nèi)首次引進，能在不共享“數(shù)據(jù)”的前提下，共享“知識”，用協(xié)作實現(xiàn)聯(lián)合模型的性能提升，以此保障數(shù)據(jù)在模型構(gòu)建過程中的安全性，從而盤活“數(shù)據(jù)孤島”并解決數(shù)據(jù)隱私問題。針對實際應(yīng)用中的不同場景，微眾銀行AI團隊提出“橫向聯(lián)邦學(xué)習(xí)”、“縱向聯(lián)邦學(xué)習(xí)”、“聯(lián)邦遷移學(xué)習(xí)”多個種類，其中“聯(lián)邦遷移學(xué)習(xí)”將“遷移學(xué)習(xí)”與“聯(lián)邦學(xué)習(xí)”融合，讓跨機構(gòu)合作突破了行業(yè)、數(shù)據(jù)類型等多重限制。在演講中，楊強教授詳細講解了不同類型的聯(lián)邦學(xué)習(xí)技術(shù)適用的不同建模情境。
探索協(xié)同建模新規(guī)范，共建聯(lián)邦學(xué)習(xí)合作生態(tài)
在完善“聯(lián)邦學(xué)習(xí)”理論的基礎(chǔ)之上，更要建立起企業(yè)間協(xié)同建模的規(guī)范。在WAIC大會主論壇演講中，楊強教授重點強調(diào)了這一問題。他認(rèn)為，目前要通過建設(shè)激勵機制、建立共同標(biāo)準(zhǔn)等方式，推動行業(yè)中的數(shù)據(jù)所有者共同參與聯(lián)邦學(xué)習(xí)生態(tài)共建，讓所有參與方受益于合規(guī)的聯(lián)合建模鏈條，在遵循數(shù)據(jù)保護法規(guī)的同時享受數(shù)據(jù)福利，推動聯(lián)邦學(xué)習(xí)的進一步落地。
此前，微眾銀行AI團隊在推動建立聯(lián)邦學(xué)習(xí)合作生態(tài)，應(yīng)對AI在金融等領(lǐng)域的落地難題方面已經(jīng)有所建樹。微眾銀行AI團隊構(gòu)建了FedAI聯(lián)邦學(xué)習(xí)合作生態(tài)，自主研發(fā)并開源全球首個工業(yè)級聯(lián)邦學(xué)習(xí)框架——FATE（Federated AI Technology Enabler）使大部分傳統(tǒng)算法可以經(jīng)過改造適配到聯(lián)邦學(xué)習(xí)框架中，從而快速加入聯(lián)邦學(xué)習(xí)生態(tài)。
在提供技術(shù)保障的同時，微眾銀行AI團隊還致力于建立起聯(lián)邦學(xué)習(xí)在企業(yè)之間的對話語言。去年12月，由微眾銀行發(fā)起的國際上首個針對人工智能協(xié)同技術(shù)框架訂立標(biāo)準(zhǔn)的項目——IEEE聯(lián)邦學(xué)習(xí)標(biāo)準(zhǔn)項目獲批，直至今年8月，已經(jīng)成功召開了三次會議，有效推進了聯(lián)邦學(xué)習(xí)國際標(biāo)準(zhǔn)草案的制定。楊強教授在會上提到，聯(lián)邦學(xué)習(xí)標(biāo)準(zhǔn)的制定，將更進一步為聯(lián)邦學(xué)習(xí)在各行業(yè)的落地應(yīng)用提供規(guī)范，為社會各界合作奠定基礎(chǔ)，從而吸引各行各業(yè)參與到聯(lián)邦學(xué)習(xí)未來的學(xué)術(shù)研究與落地應(yīng)用中來。
聚焦AI技術(shù)三要素，推動人工智能產(chǎn)業(yè)化
在本屆WAIC大會的的國際前沿算法分論壇中，楊強教授提出，推動AI技術(shù)廣泛落地并實現(xiàn)人工智能產(chǎn)業(yè)化的關(guān)鍵在于解決AI技術(shù)三要素——算法、數(shù)據(jù)、算力面臨的困境。會上，楊強教授分別針對這三大困境——“如何實現(xiàn)AI算法設(shè)計的自動化”、“如何應(yīng)對AI數(shù)據(jù)缺失問題”、“AI算力架構(gòu)怎么設(shè)計”進行了講解。
首先，機器學(xué)習(xí)規(guī)模化落地的關(guān)鍵在于自動機器學(xué)習(xí)（AutoML），即實現(xiàn)AI算法設(shè)計的自動化，形成閉環(huán)的自動學(xué)習(xí)機制，減少人的參與。楊強教授詳細闡釋了自動機器學(xué)習(xí)的三大求解要素——配置空間、配置性能評估、配置優(yōu)化策略。如今，隱私保護問題越來越受到重視，在保護隱私的要求之下，機器學(xué)習(xí)算法效果嚴(yán)重下降，不同機構(gòu)之間的數(shù)據(jù)也無法直接共享。面對這兩大問題，楊強教授特別提出了解決方案——自動隱私保護遷移學(xué)習(xí)（AutoPTL)，這一算法基于特征切分和集成學(xué)習(xí)提升學(xué)習(xí)效果，可以滿足差分隱私保障，并支持?jǐn)?shù)據(jù)遷移學(xué)習(xí)和自動化參數(shù)調(diào)整，有效提高AI的應(yīng)用率和價值。
其次，在實現(xiàn)人工智能產(chǎn)業(yè)化的過程中會應(yīng)對數(shù)據(jù)不足的難題，而“遷移學(xué)習(xí)”能夠有效解決這一困境。遷移學(xué)習(xí)通過尋找數(shù)據(jù)與模型之間的關(guān)系，將大數(shù)據(jù)的能力遷移到小數(shù)據(jù)上，實現(xiàn)“舉一反三”。楊強教授列舉了遷移學(xué)習(xí)在大額消費金融領(lǐng)域的應(yīng)用實例：在微信營銷購車分期業(yè)務(wù)中，遷移學(xué)習(xí)基于全渠道營銷數(shù)據(jù)幫助汽車分期貸款模型學(xué)習(xí)，挖掘近期有購車意向的客戶，最終成功率與SAS模型相比提升了200%。
最后，實現(xiàn)人工智能產(chǎn)業(yè)化需要解決的第三個問題，是亟待提升的算力性能。當(dāng)前日益增長的數(shù)據(jù)規(guī)模對算力性能提出了巨大挑戰(zhàn)，傳統(tǒng)的單點計算能力的突破已經(jīng)不能滿足需求，對此，楊強教授介紹了兩種新型高性能算力架構(gòu)設(shè)計——GDR高性能網(wǎng)絡(luò)IO技術(shù)與新型分布式機器學(xué)習(xí)網(wǎng)絡(luò)通信協(xié)議MLT。測試結(jié)果表明，新型高性能算力架構(gòu)設(shè)計在 AI 訓(xùn)練時性能提升明顯，在采用 PS（參數(shù)服務(wù)器模式） 模式上性能提升高達 76%，在采用 Ring （環(huán)模式）模式上性能提升高達 3 倍。楊強教授表示，提升算力性能在拓展AI整體算力上起到越來越重要的作用，在GDR與MLT之外，更多相關(guān)研究也正在往前推進，值得關(guān)注。
賦能智慧生活 微眾銀行助力AI技術(shù)應(yīng)用落地環(huán)保領(lǐng)域
除了楊強教授在大會上的最新前沿觀點分享，此次微眾銀行還在大會的黑客馬拉松環(huán)節(jié)舉辦了“智能垃圾分類挑戰(zhàn)賽”，圍繞當(dāng)下垃圾分類的社會熱點，聚焦基于深度學(xué)習(xí)技術(shù)的圖像分類模型構(gòu)建，實現(xiàn)垃圾圖片類別的精準(zhǔn)識別，從而提高垃圾分揀效率。此次比賽獲得了上海市綠容局的支持，上海市綠化和市容管理局科信處處長錢杰擔(dān)任大賽評審，上海市綠化和市容管理局副巡視員繆鈞與微眾銀行AI部門副總經(jīng)理徐倩作為頒獎嘉賓共同為前三名隊伍頒獎。
在本次WAIC大會上，微眾銀行AI團隊圍繞人工智能領(lǐng)域的技術(shù)前沿、產(chǎn)業(yè)趨勢和熱點問題分享了最新研究，聯(lián)邦學(xué)習(xí)與新型算法等人工智能新技術(shù)正在日趨成熟，發(fā)揮著各自的優(yōu)勢，共同為AI技術(shù)廣泛落地并實現(xiàn)人工智能產(chǎn)業(yè)化奠定重要基礎(chǔ)。楊強教授在會上提到：“如今聯(lián)邦學(xué)習(xí)已經(jīng)成為AI在學(xué)術(shù)界和工業(yè)界的新趨勢?！痹谶@樣的趨勢下，微眾銀行將通過不斷提升與開放自身的AI能力，將聯(lián)邦學(xué)習(xí)等AI技術(shù)推廣至多個領(lǐng)域的業(yè)務(wù)應(yīng)用中，以AI為驅(qū)動力推動多個行業(yè)共同發(fā)展。
