新聞動(dòng)態(tài)
?學(xué)院碩士研究生榮獲《工程科學(xué)學(xué)報(bào)》2022年優(yōu)秀論文
近日，學(xué)院控制科學(xué)與工程專(zhuān)業(yè)2018級(jí)碩士研究生劉俊文在國(guó)內(nèi)學(xué)術(shù)期刊《工程科學(xué)學(xué)報(bào)》上發(fā)表題為《深度學(xué)習(xí)注意力機(jī)制研究進(jìn)展》的學(xué)術(shù)論文，被評(píng)為《工程科學(xué)學(xué)報(bào)》2022年度優(yōu)秀論文(2021年發(fā)表)，指導(dǎo)教師為自動(dòng)化系劉建偉副教授和羅雄麟教授。
注意力機(jī)制模擬人類(lèi)視覺(jué)選擇性的機(jī)制，隨著深度學(xué)習(xí)領(lǐng)域的發(fā)展，注意力機(jī)制近幾年被廣泛應(yīng)用在深度學(xué)習(xí)的研究里，在自然語(yǔ)言處理，語(yǔ)音識(shí)別，計(jì)算機(jī)視覺(jué)等各個(gè)領(lǐng)域都發(fā)揮著舉足輕重的作用。
《深度學(xué)習(xí)注意力機(jī)制研究進(jìn)展》介紹了注意力機(jī)制的認(rèn)知心理學(xué)起源與技術(shù)動(dòng)機(jī)，并對(duì)注意力機(jī)制進(jìn)行了數(shù)學(xué)表述。著重對(duì)注意力機(jī)制的分類(lèi)進(jìn)行濃墨重彩的描述和提綱挈領(lǐng)式的總結(jié)歸納，并對(duì)軟注意力機(jī)制和硬注意力機(jī)制，全局注意力機(jī)制和局部注意力機(jī)制，層次注意力機(jī)制以及多種自注意力機(jī)制等典型注意力機(jī)制進(jìn)行了詳細(xì)的分析，并給出了注意力機(jī)制的不同層面闡述和洞見(jiàn)。最后對(duì)注意力機(jī)制在計(jì)算機(jī)視覺(jué)、神經(jīng)機(jī)器翻譯以及語(yǔ)音識(shí)別，這三個(gè)典型應(yīng)用場(chǎng)景下的應(yīng)用進(jìn)行了總結(jié)。
《工程科學(xué)學(xué)報(bào)》(Chinese Journal of Engineering)，曾用名《北京科技大學(xué)學(xué)報(bào)》，為中文核心期刊（綜合性理工農(nóng)醫(yī)類(lèi)）、中國(guó)科技論文統(tǒng)計(jì)源期刊和中國(guó)科學(xué)引文數(shù)據(jù)庫(kù)來(lái)源期刊（CSCD），是由教育部主管、北京科技大學(xué)主辦的學(xué)術(shù)類(lèi)科技期刊，主要刊載礦物、冶金、材料、環(huán)境、自動(dòng)化、計(jì)算機(jī)等工學(xué)領(lǐng)域具有創(chuàng)新意義或有較大應(yīng)用價(jià)值的高水平研究論文，在行業(yè)中有較高的學(xué)術(shù)影響力。
