講座主題:LLM4CP: 基于預(yù)訓(xùn)練大語言模型的信道預(yù)測
專家姓名:程翔
工作單位:北京大學(xué)
講座時間:2024年10月18日16:30-17:30
講座地點:科技館6205
主辦單位:煙臺大學(xué)計算機與控制工程學(xué)院
內(nèi)容摘要:
支撐移動智能體(例如無人車、無人機,、人形機器人等)是6G 網(wǎng)絡(luò)的重要場景之一,,該場景中包含了大量的通信和多模態(tài)感知信息,,為了更合理的利用人工智能方法開展通信和多模態(tài)感知的深度交叉融合,,同時實現(xiàn) AI for Com和 Com for AI,,我們首次提出了機器聯(lián)覺的概念,,即通信與多模態(tài)感知的智能融合,。在初步介紹機器聯(lián)覺的概念后,,本報告將側(cè)重闡述在機器聯(lián)覺框架下,,我們開展的機器聯(lián)覺輔助增強的高效通信傳輸方案設(shè)計。
首先,,報告將簡單的闡述我們開展的利用人工智能小模型開展的物理層傳輸方案設(shè)計,,包括信道估計和波束預(yù)測等。接下來,,報告將重點介紹我們最近開展的利用人工智能大語言模型(LLM)解決傳輸物理層設(shè)計中的信道預(yù)測問題,。精確的信道狀態(tài)信息(CSI)對于B5G/6G MIMO無線通信系統(tǒng)性能保障至關(guān)重要,而信道預(yù)測是高速場景下低成本獲取CSI的一項關(guān)鍵技術(shù)。然而,,現(xiàn)有的基于參數(shù)化模型和深度學(xué)習(xí)的信道預(yù)測方法存在預(yù)測精度低和泛化性差等問題,,難以應(yīng)用到實際復(fù)雜信道環(huán)境。近期,,GPT-4和LLaMA等大語言模型(LLM)在自然語言處理等領(lǐng)域取得了巨大的成功,,展現(xiàn)了強大的推理和泛化能力。然而,,當(dāng)前LLM在無線通信的應(yīng)用局限于語言形式的協(xié)議理解等任務(wù),,限制了其在物理層的應(yīng)用范圍。那么,,大語言模型能否突破語言局限,,賦能非語言形式的無線通信物理層任務(wù)?為此,,我們以信道預(yù)測任務(wù)為突破點,,首次將預(yù)訓(xùn)練LLM應(yīng)用于無線通信物理層任務(wù),提出了不同于傳統(tǒng)參數(shù)化模型和深度學(xué)習(xí)小模型的信道預(yù)測新范式,。仿真結(jié)果顯示,,所提出方案在TDD和FDD信道預(yù)測任務(wù)上取得了SOTA的全樣本和少樣本預(yù)測性能,頻點泛化性能大幅領(lǐng)先于現(xiàn)有方案,,同時具有和深度學(xué)習(xí)小模型相當(dāng)?shù)挠?xùn)練和推理時間開銷,,有望部署于實際場景。此外,,所提方案具有較好的通用性,,能夠擴展到不同LLM種類,適應(yīng)不同微調(diào)方式,,并擴展到細(xì)粒度信道預(yù)測等信道預(yù)測相關(guān)任務(wù),。
主講人介紹:
程翔,男,,博士,,北京大學(xué)電子學(xué)院副書記,北京大學(xué)博雅特聘教授(長聘教授),,博導(dǎo),,IEEE Fellow,AAIA Fellow,,國家杰青,,2023年第五屆“科學(xué)探索獎”,中國工程院首屆“中國工程前沿杰出青年學(xué)者”,,IEEE亞太地區(qū)杰出青年研究學(xué)者,,IEEE車輛技術(shù)協(xié)會杰出講師(Distinguished Lecturer),愛思唯爾“中國高被引學(xué)者”。主要研究方向為智能通信網(wǎng)絡(luò)和網(wǎng)聯(lián)智能,,包括無線通信信道建模,、通信與多模態(tài)感知智能融合、智能車聯(lián)網(wǎng)和網(wǎng)聯(lián)智能車,、網(wǎng)聯(lián)智能體協(xié)同感知和定位等研究,。共發(fā)表論文280余篇其中IEEE期刊160余篇,包括ESI熱點論文4篇和ESI高被引論文19篇,。獲得了多次知名國際期刊和會議的論文獎項,,包括IEEE JSAC的最佳期刊論文獎:倫納德?亞伯拉罕獎(Leonard G. Abraham Prize,通信領(lǐng)域影響因子最高的期刊,,中國首次獲獎),,IET Communications的最佳期刊論文獎:Premium Award,以及8項知名國際會議的最佳會議論文獎(4次旗艦會議):IEEE ICC’19, ICCS’18, GLOBECOM’18, ICNC’2017, ICC’2016, ITSC’2014, ICCC’2013和ITST’2012的最佳會議論文獎,。Google Scholar引用14500次(h-index=62, i10-index=219),。已授權(quán)國際專利2項,中國專利28項,,撰寫中英文專著11部,。獲得省部級獎勵7項,包括中國通信學(xué)會自然科學(xué)一等獎,,中國自動化學(xué)會自然科學(xué)一等獎,,教育部自然科學(xué)二等獎和一等獎各一項,中國電子學(xué)會自然科學(xué)一等獎,,中國通信學(xué)會青年科技獎和中國通信學(xué)會技術(shù)發(fā)明一等獎,。牽頭發(fā)布了4項國內(nèi)行業(yè)/團體標(biāo)準(zhǔn),參與了10項3GPP國際標(biāo)準(zhǔn)和2項國內(nèi)行業(yè)標(biāo)準(zhǔn)制定,。目前,擔(dān)任IET Communications的領(lǐng)域主編,,擔(dān)任IEEE Transactions on Wireless Communications,,IEEE Transactions on ITS,IEEE Wireless Communications Letters和Journal of Communications and Networking的編委工作,,擔(dān)任中國自動化學(xué)會“網(wǎng)聯(lián)智能專業(yè)委員會”主任和中關(guān)村“多智能體協(xié)同理論和技術(shù)”開放實驗室主任等職務(wù),。連續(xù)多年入選愛思唯爾“中國高被引學(xué)者”和2個世界科學(xué)家榜單,分別是:美國斯坦福大學(xué)發(fā)布的全球前2%頂尖科學(xué)家榜單和Guide2Research發(fā)布的全球計算機科學(xué)和電子信息領(lǐng)域頂級科學(xué)家榜單,。