IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪

IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪

1新智元報道

IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪

IJCAI(國際人工智能聯合會議)是人工智能領域中最主要的學術會議之一。由於領域熱度上漲,從2016年起,IJCAI從原來的每兩年舉辦一次改為一年舉辦一次。同時,IJCAI大會的主席團隊也提前4年公佈。在剛剛結束的IJCAI 2017 Business Meeting上,IJCAI 2017理事會主席、牛津大學的Michael Wooldridge教授宣佈了2021年的大會主席。

中國南京大學的周志華教授將擔任IJCAI-21的程序主席。IJCAI-21的大會主席是美國明尼蘇達大學的Maria Gini教授。IJCAI-21將在加拿大的蒙特利爾舉行,麥吉爾大學的Joelle Pineau教授將出任會議的當地主席(local chair)。

IJCAI 2021 主席團隊公佈,周志華當選程序主席

IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪

IJCAI現任理事會主席、牛津大學的Michael Wooldridge教授,宣佈2021年的會議主席團隊,南京大學周志華教授擔任程序主席。

未來幾屆IJCAI的會議地址和主席如下:

2018年 IJCAI與ECAI的聯合會議IJCAI-ECAI 2018,將於2018年8月在瑞典的斯德哥爾摩舉行。以色列耶路撒冷希伯來大學的 Jeffrey Rosenschein教授將擔任IJCAI-ECAI-18 大會主席。巴黎第九大學的Jerome Lang 教授將擔任IJCAI-ECAI-18 程序主席。

2019年 IJCAI-19將在中國的澳門舉行。奧地利維也納科技大學的 Thomas Eiter 教授將擔任 IJCAI-19的大會主席。以色列巴伊蘭大學的 Sarit Kraus 教授將擔任 IJCAI-19的程序主席。

2020年 IJCAI-20將在日本的名古屋舉行。美國馬里蘭大學的 Marie desJardins 教授,將擔任IJCAI-PRICAI-20大會主席。法國蒙彼利埃大學的 Christian Bessiere 教授,將擔任 IJCAI-PRICAI-20程序主席。

IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪

此外,IJCAI還迎來了一位新的理事會主席(President, Board of Trustees)——香港科技大學的楊強教授。楊強教授是IJCAI首位華人理事,也是IJCAI 2015的程序主席。

南大LAMDA發表20篇論文:周志華教授親自做“深度森林”報告

IJCAI 2017,周志華教授率領的南京大學機器學習與數據挖掘研究所(LAMDA)共發表了20篇論文,分佈在機器學習、主動學習、NLP和數據挖掘等多個領域。在機器學習領域中,又包括集成方法、特徵選擇和構建、多示例和多標籤學習等多個方向。

之前引發熱議的“深度森林”論文,周志華教授親自做了報告,會場幾乎坐滿。楊強教授和德州撲克AI Libratus主要作者、CMU教授Tuomas Sandholm也到現場聽了報告。

IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪

現在,深度學習幾乎等於深度神經網絡,但是,使用神經網絡存在很多問題,比如調參困難、需要大量訓練數據,還有“黑箱”存在帶來的理論解析難點。為此,周志華教授和學生馮霽對深度神經網絡以外的深度方法進行了探索,他們提出了“深度森林”——gcForest(multi-Grained Cascade forest,多粒度級聯森林),展示了深度學習也完全可以有神經網絡以外的方法。

深度森林在今年6月1日的時候開源,鼓勵大家對這個方向進行更多的探索。

  • 論文:https://cs.nju.edu.cn/zhouzh/zhouzh.files/publication/ijcai17gcForest.pdf

  • 代碼:http://lamda.nju.edu.cn/files/gcforest.zip

以下是本屆IJCAI南大LAMDA發表的論文列表:

集成方法

  • Z.-H. Zhou and J. Feng. 深度森林:探索深度神經網絡以外的方法(Deep forest: Towards an alternative to deep neural networks

特徵選擇和構建

  • H.-J. Ye, D.-C. Zhan, X.-M. Si, Y. Jiang. 學習馬氏距離度量:將示例干擾納入考量有好處(Learning Mahalanobis Distance Metric: Considering Instance Disturbance Helps

  • Y. Zhang, Y. Jiang. 通過結構稀疏性進行多模態線性判別分析(Multimodal Linear Discriminant Analysis via Structural Sparsity

多示例和多標籤學習

  • W.-J. Zhou, Y. Yu, M.-L. Zhang. 用於多標籤分類的二進制線性壓縮(Binary Linear Compression for Multi-label Classification

  • M. Xu and Z.-H. Zhou. 不完備的標籤分佈學習(Incomplete label distribution learning

  • Y.-L. Zhang and Z.-H. Zhou. 關鍵示例漂移的多示例學習(Multi-instance learning with key instance shift

  • W. Wang, X.-Y. Guo, S.-Y. Li, Y. Jiang, and Z.-H. Zhou. 通過區分眾包中容易和難處理的個體,獲得高質量的標籤(Obtaining high-quality label by distinguishing between easy and hard items in crowdsourcing

分類

  • Y. Yu, W.-Y. Qu, N. Li, Z. Guo. 基於生成對抗樣本進行開放類別分類(Open Category Classification by Adversarial Sample Generation

啟發式搜索

  • C. Qian, J.-C. Shi, Y. Yu, K. Tang. 一般代價約束的子集選擇優化(On Subset Selection with General Cost Constraints

  • C. Qian, J.-C. Shi, Y. Yu, K. Tang, and Z.-H. Zhou. 單調函數比率優化(Optimizing ratio of monotone set functions

半監督學習

  • X. Yan, L. Zhang, W.-J. Li. 半監督深度哈希與二部圖(Semi-Supervised Deep Hashing with a Bipartite Graph

  • B.-J. Hou, L. Zhang, and Z.-H. Zhou. 適應存儲空間的未標記數據學習(Storage fit learning with unlabeled data

無監督學習

  • X.-S. Wei, C.-L. Zhang, Y. Li, C.-W. Xie, J. Wu, C. Shen, and Z.-H. Zhou. 用於圖像共定位的深度描述子轉換(Deep descriptor transforming for image co-localization

遷移、適應、多任務學習

  • Y. Yang, D.-C. Zhan, X.-Y. Guo, Y. Jiang. 基於模態一致性的預訓練多模型重用(Modal Consistency based Pre-trained Multi-Model Reuse

優化方法和工具(Solvers and Tools)

  • Y. Xiao, Z. Li, T. Yang, L. Zhang. 用於核標準正則化的不含SVD的凸凹方法(SVD-free Convex-Concave Approaches for Nuclear Norm Regularization

主動學習

  • S.-J. Huang, J.-L. Chen, X. Mu, and Z.-H. Zhou. 基於多樣化標記者的低成本主動學習(Cost-effective active learning from diverse labelers

NLP應用與工具

  • J. Zhang, Y. Sun, S.-J. Huang, N. Cam-Tu, X. Wang, X.-Y. Dai, J. Chen, Y. Yu. AGRA:用於自動論文標題縮寫的生成-分析-排名框架(AGRA: An Analysis-Generation-Ranking Framework for Automatic Abbreviation from Paper Titles

數據挖掘和信息個人化

  • J.-W. Yang, Y. Yu, X.-P. Zhang. 使用顧客流行嵌入建模人生階段(Life-Stage Modeling by Customer-Manifold Embedding

基於知識的軟件工程

  • X. Huo, M. Li. 利用源碼序列性質提升統一特徵,定位缺陷文件(Enhancing the Unified Features to Locate Buggy Files by Exploiting the Sequential Nature of Source Code

  • H.-H. Wei, M. Li. 利用源碼詞法和句法信息的監督深度特徵,進行軟件功能性克隆檢測(Supervised Deep Features for Software Functional Clone Detection Exploiting Lexical and Syntactical Information in Source Code

IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪

俞揚博士6篇論文:體現了在優化方面的長期工作

LAMDA成員、南京大學副教授俞揚博士參與了下面6篇論文的工作:

在現實世界的分類任務中,很難從環境中的所有可能類別收集到訓練樣本。當一個從未見過的類別出現在預測過程時,一個強大的分類器應該有能力說它沒見過這個類,而不是將它分到任一已知的類當中。在這篇論文中,作者採用對抗學習(adversarial learning)的想法,提出開放類別分類(open-category classification)的對抗樣本生成(ASG)框架。

  • 多示例和多標籤學習:Binary Linear Compression for Multi-label Classification

在多標籤分類任務中,標籤通常是相互關聯的,利用好標籤間的關係對於多標籤學習非常重要。在這篇論文中,作者揭示了映射到低維多標籤迴歸問題可能比映射到分類問題更差,因為迴歸問題需要比分類問題有更復雜的模型。這篇論文提出了二進制線性壓縮(BILC)方法,被證明優於一些state-of-the-art的方法。

  • 數據挖掘和信息個人化:Life-Stage Modeling by Customer-Manifold Embedding

一個人生命的不同階段會造成行為模式的顯著變化,在諸如在線購物等應用中,已經觀察到用戶的行為在很大程度上受到其所處階段的影響。這篇論文試圖對生命階段進行建模並利用它,作者將這個系統應用到在線購物推薦,實驗表明考慮客戶的多元化可以提高推薦系統的效果。

  • 啟發式搜索:Optimizing Ratio of Monotone Set Functions

這篇論文考慮最小化兩個集合函數(set functions)的比例的問題,研究表明,使用合理時間的PORM具有與Greed Ratio相同的一般近似保證,但可以在案例和應用中實現更好的解決方案。

  • 啟發式搜索:On subset selection with general cost constraints

這篇論文探討單調目標函數和單調成本約束的子集選擇問題,放寬了前人研究的子模型屬性。我們的研究表明,POMC可以獲得與廣義的貪心算法相同的一般近似保證,但可以在案例和應用中實現更好的解決方案。

  • NLP應用與工具:AGRA: An Analysis-Generation-Ranking Framework for Automatic Abbreviation from Paper Titles

這篇論文提出將命名任務視為一個人工智能問題,並在學術命名的範圍創建一個數據集。作者提出一個三步的框架,包括描述分析,候選生成和縮寫排名,每個框架都是參數化和可優化的。與在線或基線系統相比,該框架可以取得最佳結果。

作為IJCAI 2017的宣傳主席,我們對俞揚博士進行了簡單的採訪。

新智元:您能簡單談一下這些工作嗎?

俞揚:這次我參與的論文看起來分散在不同的領域會場中,其實是與我們在優化方法上的長期研究有關係。演化算法受一些自然現象的啟發而來,但在不少複雜優化問題上有良好的表現,因此其中一定有一些有效的機制。過去十多年,我們對這些算法背後的機制開展了理論分析,近年在組合優化和連續空間優化問題上分別得到了一些結果。

在組合優化方面,我們證明了Pareto優化方法可以在多種問題上嚴格優於以往常用的貪婪方法,這次在啟發式搜索會場上報告的兩篇文章是關於這一方面的理論結果,以及在F-measure最大化、傳感器放置、影響力最大化等問題上的實驗結果。

在連續空間優化方面,我們對“採樣-分類”優化框架的分析,發現了其在一定條件下對非凸、非連續、有多個局部極值的複雜連續函數能高效(多項式複雜度)逼近全局最優解,這樣的優化工具為設計新穎的機器學習方法提供了更多的自由度;在開放類別分類的工作中,我們基於該方法直接優化邊界樣本,得到了具有一定通用性的開放類別分類算法;在多標記學習的工作中,該方法幫助我們把多標記投影到低維離散空間,從而使得低維空間可以使用分類模型而不是迴歸模型,模型的複雜度得以降低;

與南大計算機系NLP組合作,在縮寫詞生成的工作中,用該方法優化複雜的生成系統,大幅提高了生成縮寫詞的準確率。目前我們還在基於該方法設計新型的強化學習算法,期望新的工作儘快能與大家見面。

基於這兩類優化方法,我們最近做了Python的非梯度優化工具包(https://github.com/eyounx/ZOOpt),希望能夠方便在更多的應用中使用。我的這些工作只是 LAMDA很多新工作中的一點,我很幸運在LAMDA研究組工作,能與周志華教授和多個機器學習方向的老師和同學交流。

新智元:作為本屆大會宣傳主席,您會負責哪些工作?

俞揚:主要是負責宣傳會議,讓更多的人知道會議、投稿和參會。我非常幸運趕上人工智能上升潮,今年的投稿數、參會人數都比往幾年多,也就輕鬆完成了任務😄

新智元:這次參加IJCAI 2017的感受如何,印象最深的是什麼?有什麼意外的亮點嗎?

俞揚:印象最深刻的一件事,是著名學者Stuart Russell的大會報告。提到關於深度學習的現狀時他評論道,算法的能力還有很多不足,“更多的CPU只能讓你更快地得到錯誤答案”;他對“AI系統會願意讓人干預”給出了一個證明,很簡單很有意思;另外他也指出關於AI未來的發展,強化學習是其中一項很重要的研究領域。

IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪

我主持的“機器學習姐妹會議”會場,是IJCAI的一個“福利”,報告的工作都是來自UAI、ICDM等會議的最佳論文和最佳學生論文,第一個報告介紹了Thompson採樣應用到強化學習帶來的漸進最優性,我聽得入神都忘記計時了。其他報告介紹了處理概念漂移的記憶方法、基於實例的推理新進展、開放世界推理數據庫、深度學習參數服務器進展、異步Gibbs採樣,涉及機器學習多個不同領域,非常精彩。

IJCAI趨勢:周志華當選首位華人程序主席,LAMDA俞揚專訪

另外一個深刻印象是中國公司高度參與,不僅贊助會議,還組織了活動。我也有幸參加了騰訊、阿里巴巴和滴滴出行公司的活動。

新智元:這屆會議有哪些研究和應用的熱點,體現出了怎樣的技術趨勢(有新的趨勢嗎)?您認為這些熱點和趨勢將如何影響機器學習和數據挖掘研究社區?

俞揚:IJCAI上我主要關注了AI大領域的進展,例如知識表達、邏輯推理、啟發式搜索、博弈等目前似乎不是非常火的AI子領域,一方面是這些領域中最優秀的成果許多都會來IJCAI,另一方面這些領域的發展很有可能帶來AI的下一個突破。目前我個人覺得新型強化學習方法、學習系統與邏輯推理和領域知識的結合,也許能夠帶來一些意想不到的進展。

點擊閱讀原文可查看職位詳情,期待你的加入~

相關推薦

推薦中...