講座主題:LLM4CP: 基于預(yù)訓(xùn)練大語言模型的信道預(yù)測(cè)
專家姓名:程翔
工作單位:北京大學(xué)
講座時(shí)間:2024年10月18日16:30-17:30
講座地點(diǎn):科技館6205
主辦單位:煙臺(tái)大學(xué)計(jì)算機(jī)與控制工程學(xué)院
內(nèi)容摘要:
支撐移動(dòng)智能體(例如無人車,、無人機(jī)、人形機(jī)器人等)是6G 網(wǎng)絡(luò)的重要場(chǎng)景之一,,該場(chǎng)景中包含了大量的通信和多模態(tài)感知信息,,為了更合理的利用人工智能方法開展通信和多模態(tài)感知的深度交叉融合,同時(shí)實(shí)現(xiàn) AI for Com和 Com for AI,,我們首次提出了機(jī)器聯(lián)覺的概念,,即通信與多模態(tài)感知的智能融合。在初步介紹機(jī)器聯(lián)覺的概念后,,本報(bào)告將側(cè)重闡述在機(jī)器聯(lián)覺框架下,,我們開展的機(jī)器聯(lián)覺輔助增強(qiáng)的高效通信傳輸方案設(shè)計(jì)。
首先,,報(bào)告將簡單的闡述我們開展的利用人工智能小模型開展的物理層傳輸方案設(shè)計(jì),,包括信道估計(jì)和波束預(yù)測(cè)等,。接下來,報(bào)告將重點(diǎn)介紹我們最近開展的利用人工智能大語言模型(LLM)解決傳輸物理層設(shè)計(jì)中的信道預(yù)測(cè)問題,。精確的信道狀態(tài)信息(CSI)對(duì)于B5G/6G MIMO無線通信系統(tǒng)性能保障至關(guān)重要,而信道預(yù)測(cè)是高速場(chǎng)景下低成本獲取CSI的一項(xiàng)關(guān)鍵技術(shù),。然而,,現(xiàn)有的基于參數(shù)化模型和深度學(xué)習(xí)的信道預(yù)測(cè)方法存在預(yù)測(cè)精度低和泛化性差等問題,難以應(yīng)用到實(shí)際復(fù)雜信道環(huán)境,。近期,,GPT-4和LLaMA等大語言模型(LLM)在自然語言處理等領(lǐng)域取得了巨大的成功,展現(xiàn)了強(qiáng)大的推理和泛化能力,。然而,,當(dāng)前LLM在無線通信的應(yīng)用局限于語言形式的協(xié)議理解等任務(wù),限制了其在物理層的應(yīng)用范圍,。那么,,大語言模型能否突破語言局限,賦能非語言形式的無線通信物理層任務(wù),?為此,,我們以信道預(yù)測(cè)任務(wù)為突破點(diǎn),首次將預(yù)訓(xùn)練LLM應(yīng)用于無線通信物理層任務(wù),,提出了不同于傳統(tǒng)參數(shù)化模型和深度學(xué)習(xí)小模型的信道預(yù)測(cè)新范式,。仿真結(jié)果顯示,所提出方案在TDD和FDD信道預(yù)測(cè)任務(wù)上取得了SOTA的全樣本和少樣本預(yù)測(cè)性能,,頻點(diǎn)泛化性能大幅領(lǐng)先于現(xiàn)有方案,,同時(shí)具有和深度學(xué)習(xí)小模型相當(dāng)?shù)挠?xùn)練和推理時(shí)間開銷,有望部署于實(shí)際場(chǎng)景,。此外,,所提方案具有較好的通用性,能夠擴(kuò)展到不同LLM種類,,適應(yīng)不同微調(diào)方式,,并擴(kuò)展到細(xì)粒度信道預(yù)測(cè)等信道預(yù)測(cè)相關(guān)任務(wù)。
主講人介紹:
程翔,,男,,博士,北京大學(xué)電子學(xué)院副書記,,北京大學(xué)博雅特聘教授(長聘教授),,博導(dǎo),IEEE Fellow,,AAIA Fellow,,國家杰青,,2023年第五屆“科學(xué)探索獎(jiǎng)”,中國工程院首屆“中國工程前沿杰出青年學(xué)者”,,IEEE亞太地區(qū)杰出青年研究學(xué)者,,IEEE車輛技術(shù)協(xié)會(huì)杰出講師(Distinguished Lecturer),愛思唯爾“中國高被引學(xué)者”,。主要研究方向?yàn)橹悄芡ㄐ啪W(wǎng)絡(luò)和網(wǎng)聯(lián)智能,,包括無線通信信道建模、通信與多模態(tài)感知智能融合,、智能車聯(lián)網(wǎng)和網(wǎng)聯(lián)智能車,、網(wǎng)聯(lián)智能體協(xié)同感知和定位等研究。共發(fā)表論文280余篇其中IEEE期刊160余篇,,包括ESI熱點(diǎn)論文4篇和ESI高被引論文19篇,。獲得了多次知名國際期刊和會(huì)議的論文獎(jiǎng)項(xiàng),包括IEEE JSAC的最佳期刊論文獎(jiǎng):倫納德?亞伯拉罕獎(jiǎng)(Leonard G. Abraham Prize,,通信領(lǐng)域影響因子最高的期刊,,中國首次獲獎(jiǎng)),IET Communications的最佳期刊論文獎(jiǎng):Premium Award,,以及8項(xiàng)知名國際會(huì)議的最佳會(huì)議論文獎(jiǎng)(4次旗艦會(huì)議):IEEE ICC’19, ICCS’18, GLOBECOM’18, ICNC’2017, ICC’2016, ITSC’2014, ICCC’2013和ITST’2012的最佳會(huì)議論文獎(jiǎng),。Google Scholar引用14500次(h-index=62, i10-index=219)。已授權(quán)國際專利2項(xiàng),,中國專利28項(xiàng),,撰寫中英文專著11部。獲得省部級(jí)獎(jiǎng)勵(lì)7項(xiàng),,包括中國通信學(xué)會(huì)自然科學(xué)一等獎(jiǎng),,中國自動(dòng)化學(xué)會(huì)自然科學(xué)一等獎(jiǎng),教育部自然科學(xué)二等獎(jiǎng)和一等獎(jiǎng)各一項(xiàng),,中國電子學(xué)會(huì)自然科學(xué)一等獎(jiǎng),,中國通信學(xué)會(huì)青年科技獎(jiǎng)和中國通信學(xué)會(huì)技術(shù)發(fā)明一等獎(jiǎng)。牽頭發(fā)布了4項(xiàng)國內(nèi)行業(yè)/團(tuán)體標(biāo)準(zhǔn),,參與了10項(xiàng)3GPP國際標(biāo)準(zhǔn)和2項(xiàng)國內(nèi)行業(yè)標(biāo)準(zhǔn)制定,。目前,擔(dān)任IET Communications的領(lǐng)域主編,,擔(dān)任IEEE Transactions on Wireless Communications,,IEEE Transactions on ITS,IEEE Wireless Communications Letters和Journal of Communications and Networking的編委工作,,擔(dān)任中國自動(dòng)化學(xué)會(huì)“網(wǎng)聯(lián)智能專業(yè)委員會(huì)”主任和中關(guān)村“多智能體協(xié)同理論和技術(shù)”開放實(shí)驗(yàn)室主任等職務(wù),。連續(xù)多年入選愛思唯爾“中國高被引學(xué)者”和2個(gè)世界科學(xué)家榜單,分別是:美國斯坦福大學(xué)發(fā)布的全球前2%頂尖科學(xué)家榜單和Guide2Research發(fā)布的全球計(jì)算機(jī)科學(xué)和電子信息領(lǐng)域頂級(jí)科學(xué)家榜單,。