
11月20日下午,信息學院邀請北京大學張銘教授作了題為“預訓練語言模型研究及應用”的學術講座。講座由信息學院馬禮院長主持,信息學院部分教師和學生共計80余人參加了此次講座。

張銘講解了自己團隊在預訓練語言模型領域的的最新研究成果。一是基于預訓練語言模型的多任務數學問題求解框架Generate & Rank。通過在生成任務和排序任務上的聯合訓練,兩個模塊相互增強,提高了整體推理精度。二是多種表達式庫構建策略和在線更新策略,進一步提升了排序器的判別性能。三是一個分子與文獻混合預訓練的語言模型。通過將SMILES分子式插入文本進行預訓練,使模型能同時編碼文獻知識和分子的結構知識,實現兩種模態信息的相互補充,在分子預測與生成任務上都表現突出。
講座結束后,張銘教授詳細回答了老師和同學們的提問,與大家進行了深入討論。本次學術講座內容豐富、生動有趣,有效開闊了師生的學術視野,激發了科技創新動力,有利于師生積極投入到人工智能領域的研究,不斷推動相關技術的發展,并取得高水平成果。
張銘教授是北京大學二級教授,博士生導師,CCF杰出教育獎獲得者,教育部計算機課程教指委委員,ACM China常務理事,ACM/IEEE CC2020計算機學科規范執委。主要研究方向為機器學習、圖神經網絡、科學智能、計算機教育。主持科技部重點研發、國家自然科學基金等多個科研項目,合作發表科研學術論文300多篇,Google學術上的論文被引20000多篇次,H因子49。主持的“數據結構與算法”被評為國家級精品課程、國家級優質資源共享課、國家級精品在線開放課程、國家級一流本科課程。
編輯:左芳舟