• 官方微信

            CA800二維碼微平臺(tái) 大視野

          • 工控頭條

            CA800二維碼工控頭條App

          當(dāng)前位置:自動(dòng)化網(wǎng)>自動(dòng)化新聞>企業(yè)資訊>高通兩位技術(shù)大拿談AI部署:下個(gè)戰(zhàn)場(chǎng)是高能效硬件

          高通兩位技術(shù)大拿談AI部署:下個(gè)戰(zhàn)場(chǎng)是高能效硬件

          發(fā)布時(shí)間:2018-06-07 來源:網(wǎng)易智能 類型:企業(yè)資訊 人瀏覽
          關(guān)鍵字:

          人工智能 高通 機(jī)器學(xué)習(xí)

          導(dǎo)  讀:

          AI英雄第78期對(duì)話高通高管,一位是高通技術(shù)副總裁、阿姆斯特丹大學(xué)機(jī)器學(xué)習(xí)首席教授Max Welling(韋靈思),一位是高通企業(yè)研發(fā)人工智能項(xiàng)目負(fù)責(zé)人侯紀(jì)磊,十問十答詳解了高通如何通過硬件、軟件和算法的來加速終端側(cè)人工智能成為現(xiàn)實(shí)。

          高通兩位技術(shù)大拿談AI部署:高能效和個(gè)性化是關(guān)鍵

          出品 | 網(wǎng)易智能(公眾號(hào) smartman163)

          期號(hào) | 總第78期(2018年5月訪于北京)

          作者 | 崔玉賢

          在人們還在思考著人工智能將會(huì)給人類帶來什么挑戰(zhàn)時(shí),人工智能卻已經(jīng)深入經(jīng)濟(jì)和產(chǎn)業(yè)的每個(gè)細(xì)分領(lǐng)域,我們每天使用的很多產(chǎn)品已經(jīng)具備了人工智能的能力。高通總裁克里斯蒂安諾·阿蒙表示,到2021年人工智能衍生的商業(yè)價(jià)值將達(dá)3.3萬億美元,人工智能將成為驅(qū)動(dòng)所有行業(yè)變革的關(guān)鍵。

          事實(shí)是,人工智能要實(shí)現(xiàn)規(guī)模化,智能必須分布至無線邊緣。高通正在研究加速人工智能在終端側(cè)的創(chuàng)新。但隨著人工智能的發(fā)展,消耗的能源越來越多。從統(tǒng)計(jì)數(shù)據(jù)上看,有數(shù)據(jù)預(yù)測(cè)到2025年,全球的數(shù)據(jù)中心將消耗全球所有可有電力的20%;另外,實(shí)現(xiàn)終端側(cè)人工智能還存在散熱的限制,如果手機(jī)里運(yùn)行能耗過高的任務(wù),手機(jī)就會(huì)變得非常熱。

          因此,不管無論是從經(jīng)濟(jì)效益還是熱效率的角度看,我們都必須要降低人工智能運(yùn)行的能耗。阿姆斯特丹大學(xué)機(jī)器學(xué)習(xí)首席教授Max Welling認(rèn)為目前深度學(xué)習(xí)能耗很高,算法非常低效,如何研發(fā)出更節(jié)能更高效的硬件,成為人工智能的下一個(gè)戰(zhàn)場(chǎng)。

          受人類大腦的啟發(fā),高通十年前就開始了脈沖神經(jīng)網(wǎng)絡(luò)的研究,這是實(shí)現(xiàn)低功耗計(jì)算的一種方法。同樣受到人類大腦的啟發(fā),高通正在考慮利用噪音來實(shí)現(xiàn)深度學(xué)習(xí)方面的低功耗計(jì)算,也就是著名的“貝葉斯深度學(xué)習(xí)”。

          “貝葉斯在高壓縮比的情況下尤其展現(xiàn)出了明顯的性能優(yōu)勢(shì)。”Max Welling總結(jié)道,“貝葉斯可以將網(wǎng)絡(luò)規(guī)模壓縮得更小、量化程度更高,同時(shí)不損失過多的準(zhǔn)確性,這是非常好的一個(gè)方法。”

          雖然在可用的壓縮算法技術(shù)相關(guān)學(xué)術(shù)著作可謂汗牛充棟,但侯紀(jì)磊認(rèn)為,貝葉斯在訓(xùn)練上難度更高,但取得的效果更深。而Max Welling也認(rèn)為,在眾多技術(shù)流派中,以貝葉斯為主導(dǎo)的壓縮算法是最有效的。

          以下是對(duì)韋靈思與侯紀(jì)磊的采訪實(shí)錄

          高通兩位技術(shù)大拿談AI部署:高能效和個(gè)性化是關(guān)鍵
          圖:侯紀(jì)磊(左一)與韋靈思(左二)正在接受采訪

          問:阿蒙總裁在演講提到,要把智能分布到無線邊緣,并且在最靠近數(shù)據(jù)的邊緣設(shè)備上完成訓(xùn)練。我們知道各種人工智能應(yīng)用都需要大數(shù)據(jù)來進(jìn)行訓(xùn)練,如果訓(xùn)練放在終端側(cè)完成,我們?nèi)绾未_認(rèn)終端側(cè)訓(xùn)練的完成?將智能分布到終端側(cè)的優(yōu)勢(shì)是什么?

          韋靈思我們首先談?wù)勥M(jìn)行分布式計(jì)算的優(yōu)勢(shì)。一方面,當(dāng)我們將計(jì)算任務(wù)分布在不同邊緣終端上完成,我們將獲得更多可用的計(jì)算力。另一方面,數(shù)據(jù)也可以分布于邊緣終端上。

          至于在不同終端上完成人工智能模型的訓(xùn)練,這其實(shí)不是零散的過程。分布式訓(xùn)練的融合是個(gè)重要問題,我們正在開發(fā)新的算法,以保證在數(shù)據(jù)不變的情況下,在不同終端上完成的訓(xùn)練得以融合。如果數(shù)據(jù)是持續(xù)變化的,那將是持續(xù)學(xué)習(xí)的過程。

          侯紀(jì)磊:我對(duì)韋教授提到的模型訓(xùn)練補(bǔ)充更多說明。首先,傳統(tǒng)上人工智能模型的訓(xùn)練都是線下也就是在云端上實(shí)現(xiàn)。這種傳統(tǒng)方式的一種延伸是,我們可以通過私有云或邊緣計(jì)算來完成訓(xùn)練。這里說的邊緣計(jì)算不一定是完全在終端側(cè)完成,也可以是在企業(yè)級(jí)網(wǎng)絡(luò)上開發(fā)私有的訓(xùn)練設(shè)備(training facility),甚至在家庭中的一個(gè)接入點(diǎn)(AP)上完成。未來,只要我們?cè)诰W(wǎng)絡(luò)邊緣擁有足夠的計(jì)算力,我們就可以進(jìn)行模型的訓(xùn)練,這是完全可行的。

          其次,韋教授剛剛提到的分布式學(xué)習(xí),這是另一種訓(xùn)練的方式。這種方式會(huì)通過每一個(gè)終端節(jié)點(diǎn)去采集本地?cái)?shù)據(jù),這里的終端可以是手機(jī)、物聯(lián)網(wǎng)設(shè)備或是其他形式,從每個(gè)終端上采集的本地?cái)?shù)據(jù)量可能都不足以完成模型訓(xùn)練。但分布式學(xué)習(xí)可以將訓(xùn)練分成兩個(gè)部分,第一部分包括前面提到的本地?cái)?shù)據(jù)采集,以及在終端側(cè)按照統(tǒng)一格式完成對(duì)本地?cái)?shù)據(jù)的訓(xùn)練預(yù)處理(pre-process training);第二部分則是將經(jīng)過預(yù)處理的訓(xùn)練數(shù)據(jù)匯集到一個(gè)統(tǒng)一的節(jié)點(diǎn)上以完成最終的訓(xùn)練,這個(gè)節(jié)點(diǎn)可以是云,也可以是像私有服務(wù)器這樣的邊緣計(jì)算。這就是分布式學(xué)習(xí)的一種模式。

          舉個(gè)例子,假設(shè)我已經(jīng)部署了一個(gè)自動(dòng)語音識(shí)別系統(tǒng)(ASR),但希望能進(jìn)一步提高系統(tǒng)性能。我可以讓系統(tǒng)的100萬個(gè)用戶都分別向我提供1個(gè)小時(shí)的數(shù)據(jù),這相當(dāng)于我擁有了100萬個(gè)小時(shí)的數(shù)據(jù)可以進(jìn)行訓(xùn)練,從而幫助我進(jìn)一步完善模型。概括一下,這種方式通過分布式的數(shù)據(jù)采集完成模型的分布式訓(xùn)練,以持續(xù)改善模型。

          第三種模型訓(xùn)練的方式我今天在大會(huì)上有介紹,是在終端層面上進(jìn)行持續(xù)學(xué)習(xí),并在持續(xù)學(xué)習(xí)的過程中通過終端側(cè)訓(xùn)練的方式,來不斷改善模型。

          這就是三種不同的模型訓(xùn)練方式。第一種完全在線下完成;第二種結(jié)合線上和線下,在終端側(cè)完成數(shù)據(jù)采集及初步處理,然后匯集到總的節(jié)點(diǎn)去做更新;第三種完全在終端側(cè)完成。這三種方式都是可能的。

          問:對(duì)于開發(fā)者來說,哪些功能比較適合放在終端側(cè),哪些比較適合放在云端?

          侯紀(jì)磊:對(duì)開發(fā)者而言,無論是在終端側(cè)還是云端完成訓(xùn)練,都是可行的。

          更多是從消費(fèi)者的角度看,從保護(hù)數(shù)據(jù)私密性考慮,我們認(rèn)為在終端側(cè)完成訓(xùn)練是很有意義的。舉個(gè)例子,消費(fèi)者可以選擇分布式訓(xùn)練的方式,也就是在終端側(cè)將數(shù)據(jù)處理到一定階段,甚至把訓(xùn)練的預(yù)處理數(shù)據(jù)進(jìn)行加密,然后才把這些數(shù)據(jù)發(fā)送到云端匯總。這樣的方式充分考慮了信息的私密性。此外,消費(fèi)者也可以選擇進(jìn)行個(gè)性化訓(xùn)練,也就是在終端側(cè)完成訓(xùn)練,不把任何數(shù)據(jù)發(fā)送到云端。這種方式能最好地保護(hù)信息的私密性。所以如果我們更多從考慮用戶數(shù)據(jù)私密性的角度出發(fā)的話,將來在終端側(cè)做訓(xùn)練是有很大意義的。

          韋靈思除了紀(jì)磊上面提到的私密性外,我認(rèn)為可靠性也是終端側(cè)處理的重要優(yōu)勢(shì)所在。像無人駕駛這樣的用例,對(duì)于網(wǎng)絡(luò)連接的可靠性有非常強(qiáng)的要求,因?yàn)檫B接一旦出現(xiàn)問題,會(huì)導(dǎo)致很嚴(yán)重的后果。因此,把一部分計(jì)算放在終端側(cè)完成是很重要的。低時(shí)延是終端側(cè)處理的另一個(gè)優(yōu)勢(shì),很多用例對(duì)時(shí)延十分敏感,像是VR用例。最后,個(gè)性化也是終端側(cè)處理的優(yōu)勢(shì)之一。

          問:Qualcomm一直強(qiáng)調(diào)異構(gòu)的計(jì)算架構(gòu),這樣的架構(gòu)可以為客戶提供更高的彈性。但我們也知道,系統(tǒng)的彈性越高,其復(fù)雜性也就相應(yīng)增加,Qualcomm如何應(yīng)對(duì)計(jì)算復(fù)雜性的挑戰(zhàn),以提供更好的開發(fā)和使用體驗(yàn)?

          韋靈思目前我們正在進(jìn)行一個(gè)研究項(xiàng)目,通過開發(fā)一個(gè)AI agent來實(shí)現(xiàn)對(duì)人工智能計(jì)算任務(wù)的全面自動(dòng)化管理。這一AI agent可以監(jiān)測(cè)很多工作負(fù)載,同時(shí)不斷進(jìn)行學(xué)習(xí),將計(jì)算任務(wù)放在最合適的地方處理。這個(gè)AI agent有望為開發(fā)者和用戶自動(dòng)完成復(fù)雜性管理。我們目前正在對(duì)這個(gè)算法進(jìn)行持續(xù)優(yōu)化,讓它實(shí)現(xiàn)自動(dòng)化的處理。

          侯紀(jì)磊:我補(bǔ)充一下。雖然異構(gòu)計(jì)算的靈活性通常會(huì)帶來相應(yīng)的復(fù)雜度,但其實(shí)異構(gòu)計(jì)算一直是Qualcomm的強(qiáng)項(xiàng)。我們已經(jīng)將多個(gè)引擎通過異構(gòu)計(jì)算統(tǒng)一在同一框架下,并將靈活的集成方案提供給開發(fā)者。另外,我們也積極從業(yè)界獲得了很多反饋。比如說在智能手機(jī)和物聯(lián)網(wǎng)領(lǐng)域,根據(jù)具體應(yīng)用性質(zhì)的不同,業(yè)界也已經(jīng)有一些自然的選擇偏向。像是音頻用例,我們知道它其實(shí)更適合于低功耗DSP來處理;如果是視覺用例,那么采用GPU并行處理會(huì)更為合適。所以說,在初期應(yīng)用的角度,不管是Qualcomm的推薦還是行業(yè)的自然選擇,我們已經(jīng)能看到使用不同異構(gòu)計(jì)算引擎的一些趨勢(shì)。同時(shí),我們還可以采取剛剛韋教授提到的方式,將來通過機(jī)器學(xué)習(xí)的算法來管理機(jī)器學(xué)習(xí)任務(wù),利用對(duì)工作負(fù)載的分析來自動(dòng)判斷哪個(gè)內(nèi)核最合適進(jìn)行處理。所以總體來說,我們一方面可以利用Qualcomm一貫的優(yōu)勢(shì)去管理復(fù)雜性,另一方面還可以通過自動(dòng)映射的方式來進(jìn)一步完善管理的過程。

          問:韋靈思教授提到,未來人工智能算法將會(huì)以每瓦時(shí)所提供的智能的多少來衡量。Qualcomm一直利用貝葉斯深度學(xué)習(xí)來提高能效,有沒有一些具體的數(shù)據(jù)來說明貝葉斯學(xué)習(xí)對(duì)于降低算法能耗的效果?

          韋靈思在我的演講當(dāng)中為大家展示了一個(gè)在圖像分類的實(shí)際用例中對(duì)比不同神經(jīng)網(wǎng)絡(luò)壓縮方法的示意圖(如下)。從這個(gè)示意圖中可以看到,貝葉斯在高壓縮比的情況下尤其展現(xiàn)出了明顯的性能優(yōu)勢(shì)。至于具體的數(shù)字,在不同實(shí)際用例中我們會(huì)得到不同的數(shù)據(jù)對(duì)比。除了圖像分類外,我們還在其他用例下做了對(duì)比實(shí)驗(yàn)。總的來說,貝葉斯可以將網(wǎng)絡(luò)規(guī)模壓縮得更小、量化程度更高,同時(shí)不損失過多的準(zhǔn)確性,這是非常好的一個(gè)方法。

          高通兩位技術(shù)大拿談AI部署:高能效和個(gè)性化是關(guān)鍵

          侯紀(jì)磊:在韋教授的例子中,貝葉斯通過2%左右的準(zhǔn)確度損失來實(shí)現(xiàn)了3倍的壓縮比,3倍壓縮比大概可以等同于3倍的能耗降低,你可以以此作為一個(gè)參考。當(dāng)然,3倍的壓縮比提升是在這一具體用例中實(shí)現(xiàn)的。在這個(gè)用例中,ResNet-18本身已經(jīng)是一個(gè)簡(jiǎn)潔的網(wǎng)絡(luò)了,對(duì)這個(gè)網(wǎng)絡(luò)進(jìn)行更多壓縮的難度很大。在這樣的情況下貝葉斯依然取得了3倍的壓縮比,這充分展現(xiàn)了貝葉斯的強(qiáng)大之處。我想強(qiáng)調(diào)的是,具體的壓縮比例與被壓縮網(wǎng)絡(luò)本身設(shè)計(jì)的冗余度、以及具體的應(yīng)用場(chǎng)景都有聯(lián)系。

          問:除了貝葉斯算法外,Qualcomm是否還在開發(fā)其他類似的壓縮算法?在中國業(yè)內(nèi),像深鑒科技等公司開發(fā)的壓縮算法可以實(shí)現(xiàn)超過十倍、二十倍的壓縮比。Qualcomm是不是也有計(jì)劃開發(fā)壓縮比更高的算法?

          韋靈思我認(rèn)為孤立地去看一個(gè)算法的壓縮比是沒有意義的。我曾經(jīng)在一個(gè)神經(jīng)網(wǎng)絡(luò)上實(shí)現(xiàn)過700倍的壓縮比,而且沒有損失任何準(zhǔn)確率;但這個(gè)被壓縮的網(wǎng)絡(luò)本身就是過度冗余的,它是一種VGG網(wǎng)絡(luò),這種網(wǎng)絡(luò)從設(shè)計(jì)之初效率就很低,因此700倍的壓縮比其實(shí)不能說明什么。但正如紀(jì)磊剛才談到的,貝葉斯在ResNet-18這個(gè)本來已經(jīng)非常緊湊的網(wǎng)絡(luò)上實(shí)現(xiàn)了3倍壓縮比,這充分說明了它的性能。Gary在他的演講中展示過一個(gè)對(duì)比不同網(wǎng)絡(luò)的準(zhǔn)確率和運(yùn)算次數(shù)之比的示意圖(如下),在這個(gè)圖中ResNet-18已經(jīng)處于準(zhǔn)確率/運(yùn)算次數(shù)的最優(yōu)曲線上,所以說貝葉斯3倍的壓縮比已經(jīng)很強(qiáng)大。對(duì)于像VGG這類遠(yuǎn)離最優(yōu)曲線的冗余網(wǎng)絡(luò)來說,完全可以實(shí)現(xiàn)非常高的壓縮比。

          高通兩位技術(shù)大拿談AI部署:高能效和個(gè)性化是關(guān)鍵

          侯紀(jì)磊:我再跟大家解釋一下這張示意圖,因?yàn)槔斫膺@張圖很重要。橫軸是網(wǎng)絡(luò)的復(fù)雜度,縱軸是準(zhǔn)確率。而圖上的這條曲線,指的是從設(shè)計(jì)網(wǎng)絡(luò)的角度看,我在任意一個(gè)既定的復(fù)雜度下能夠?qū)崿F(xiàn)的最高的準(zhǔn)確率。這條曲線實(shí)際是條包絡(luò)線,所有的網(wǎng)絡(luò)都在它的右下方。

          這張包絡(luò)線代表了當(dāng)前網(wǎng)絡(luò)設(shè)計(jì)的最高境界,也代表了在復(fù)雜度恒定的情況下可以實(shí)現(xiàn)的最高的準(zhǔn)確率,或者說是在準(zhǔn)確率恒定的情況下可以實(shí)現(xiàn)的最低的復(fù)雜度。如果我們要談在某個(gè)網(wǎng)絡(luò)上實(shí)現(xiàn)了多少倍的壓縮比,首先我們需要先看這個(gè)網(wǎng)絡(luò)離包絡(luò)線也就是最佳曲線有多遠(yuǎn)。如果這個(gè)網(wǎng)絡(luò)本身遠(yuǎn)離了包絡(luò)線,那我們討論它能實(shí)現(xiàn)多少倍壓縮其實(shí)是沒有意義的。

          韋靈思目前其實(shí)存在著一系列可用的壓縮算法,其中一部分由我所在的大學(xué)實(shí)驗(yàn)室所開發(fā),與這一系列算法技術(shù)相關(guān)的學(xué)術(shù)著作可謂汗牛充棟。我們對(duì)所有這些技術(shù)都進(jìn)行過試驗(yàn)和測(cè)試,結(jié)果表明,以貝葉斯為主導(dǎo)的壓縮算法是最有效的。

          侯紀(jì)磊:深度剪枝其實(shí)是深鑒一位聯(lián)合創(chuàng)始人最早提出來的概念,在去年底NIPS大會(huì)結(jié)束后我們邀請(qǐng)他到Qualcomm做過一次分享,當(dāng)時(shí)韋教授也在,雙方都有比較深的交流。從我們的角度看,我們認(rèn)為韋教授提出的方法在數(shù)學(xué)第一原則的角度看是更為深刻的,往往當(dāng)你從第一原則的角度去設(shè)計(jì)一個(gè)比較復(fù)雜的方法時(shí),這個(gè)方法的潛力和最終得到的效率會(huì)更好。根據(jù)我們對(duì)數(shù)學(xué)和對(duì)深度學(xué)習(xí)體驗(yàn)的了解,我們相信通過貝葉斯方法、從第一原則出發(fā)去設(shè)計(jì)的做法,相對(duì)來說它的效果會(huì)更好。

          問:是否可以理解為貝葉斯算法在普適性和泛用性方面更卓越?

          侯紀(jì)磊:其實(shí)貝葉斯在訓(xùn)練上的難度更高,但它取得的效果會(huì)更深。深鑒的剪枝方法非常有啟發(fā)性,大家也很容易理解,然而這不意味著就是最優(yōu)的方法。我們相信,從數(shù)學(xué)的角度去接近最優(yōu)的方法,這是韋教授這套方法的優(yōu)勢(shì)之一。

          問:我們知道AI的學(xué)習(xí)和計(jì)算需要收集很多數(shù)據(jù),包含個(gè)人數(shù)據(jù)和管理數(shù)據(jù)來進(jìn)行模型的建立。歐盟近期即將頒布一項(xiàng)名為General Data Protection Regulation(GDPR)的法令,在此法令下,只要你沒有保護(hù)好那些有可能可以辨識(shí)出特定人物或地點(diǎn)的數(shù)據(jù),你就可能遭受嚴(yán)重懲罰。你對(duì)此有什么看法?

          韋靈思首先GDPR僅適用于歐盟,在中國和美國都沒有這樣的規(guī)定。從我個(gè)人的角度,我對(duì)GDPR持支持態(tài)度,因?yàn)槲矣X得保護(hù)隱私非常重要。同時(shí),我相信GDPR這樣的約束將會(huì)驅(qū)動(dòng)更多創(chuàng)新。從技術(shù)層面看,我們可以通過一些技術(shù)解決方案去應(yīng)對(duì)這樣的挑戰(zhàn),比如說是數(shù)據(jù)加密,或者在本地資源的范疇內(nèi)完成模型訓(xùn)練。假設(shè)有兩家醫(yī)院,我可以要求他們從數(shù)據(jù)源上支持模型更新,我們可以創(chuàng)建一個(gè)協(xié)議,在這個(gè)協(xié)議之下所有發(fā)送給我的信息都是私密的,所有這些信息都無法提取出個(gè)人資料。這實(shí)際上是一種分布式的思路。對(duì)于Qualcomm來說,這思路非常有趣,因?yàn)槿磕P偷母露疾荒茉谥行幕脑粕线M(jìn)行,邊緣計(jì)算就顯得更為重要了。另一種解決方案是加密模型,我們可以將模型的每次更新進(jìn)行加密,這樣即使我們?cè)谠粕细铝四P停膊荒芸吹礁卤旧淼脑斍椋荒軓脑粕汐@取到具體信息。

          問:高通分享了汽車和自動(dòng)駕駛方面的規(guī)劃,從介紹看來還是以信息娛樂系統(tǒng)設(shè)計(jì)為主。這是因?yàn)镼ualcomm在自動(dòng)駕駛方面還沒有完整規(guī)劃嗎?還是與未完成的恩智浦收購案有關(guān)?

          侯紀(jì)磊:一方面,我們今天更多強(qiáng)調(diào)的是Qualcomm在車載信息處理和信息娛樂市場(chǎng)取得了非常好的發(fā)展勢(shì)頭,這也給了我們信心,我們應(yīng)該繼續(xù)在汽車市場(chǎng)上加大投入。我還想要強(qiáng)調(diào)的是,在自動(dòng)駕駛領(lǐng)域,對(duì)于如何通過整體的方式來發(fā)展面向自動(dòng)駕駛的人工智能技術(shù),Qualcomm對(duì)此有非常深入的見解和看法。我們?cè)诖髸?huì)上也特別強(qiáng)調(diào)了Qualcomm不僅只是構(gòu)建一個(gè)系統(tǒng)、把demo建起來,我們還更多地從能耗、成本和安全等多個(gè)角度來考慮這個(gè)事情。在一些具體方面,比如說傳感器的研發(fā)和傳感器融合,包括今天提到的利用攝像頭、雷達(dá)等主動(dòng)式傳感器和C-V2X主動(dòng)通信技術(shù),以幫助駕駛員規(guī)避危險(xiǎn)、且進(jìn)一步提高傳感器信息融合,在這些方面我們都有很多的投入。

          問:你在大會(huì)上講了很多語音交互方面的內(nèi)容,請(qǐng)問是基于什么考慮?此外,目前除了智能音箱,語音交互技術(shù)還應(yīng)用到大量手機(jī)甚至PC終端上,如何看待語音交互在終端側(cè)的應(yīng)用趨勢(shì)?

          侯紀(jì)磊:先回答你的第一個(gè)問題。首先,對(duì)于手機(jī)來說,無論是輸入還是交互,兩個(gè)最重要的方式是通過攝像頭和通過音頻。因此,語音交互技術(shù)本身非常重要,可以說業(yè)界對(duì)這種技術(shù)存在一些剛需。

          其次,阿蒙總裁在大會(huì)的演講上談到了推動(dòng)終端側(cè)人工智能的兩個(gè)重要方向,一個(gè)是發(fā)展高能效的人工智能,這正是今天韋教授演講的主題,就是如何在終端上用能效最高的方式來運(yùn)行算法。第二個(gè)方向是發(fā)展個(gè)性化的人工智能,這其中有幾個(gè)重要特性,包括情景式感知、始終開啟和通過持續(xù)學(xué)習(xí)實(shí)現(xiàn)自主適應(yīng)。這幾個(gè)特性有三個(gè)共通的重要元素——終端側(cè)、低功耗和個(gè)性化。這三個(gè)元素?zé)o論對(duì)于語音交互本身還是對(duì)于更寬泛的應(yīng)用而言,在推動(dòng)終端側(cè)人工智能發(fā)展上都是非常重要的。

          而語音交互剛好可以把這幾個(gè)元素綜合到一起,因此我認(rèn)為這是展現(xiàn)終端側(cè)人工智能發(fā)展趨勢(shì)的一個(gè)很好的話題。

          此外,你剛才也提到了在終端側(cè)完成訓(xùn)練的問題。從模型適應(yīng)的角度看,語音交互實(shí)際上是持續(xù)在終端層面上完成模型更新,因此它也是終端側(cè)訓(xùn)練的一個(gè)很好的用例。

          再回答你關(guān)于趨勢(shì)的問題。其實(shí)我們非常高興看到OEM廠商和其他生態(tài)系統(tǒng)成員持續(xù)推動(dòng)和拓展語音交互在不同終端上的應(yīng)用。我們的目標(biāo)并不是要構(gòu)建一個(gè)完整的終端側(cè)語音交互系統(tǒng),我在大會(huì)的演講中有著重強(qiáng)調(diào),Qualcomm旨在構(gòu)建一個(gè)終端側(cè)的解決方案架構(gòu)。如果OEM廠商或獨(dú)立軟件開發(fā)商有比較好的解決方案,我認(rèn)為Qualcomm和他們?cè)谏鷳B(tài)系統(tǒng)內(nèi)相互補(bǔ)充會(huì)是一件非常好的事情。從另一個(gè)角度看,我們認(rèn)為無關(guān)鍵字(keyword-less)、始終開啟的語音交互將會(huì)是未來非常重要的一個(gè)技術(shù)方向。這需要通過真正低功耗的硬件架構(gòu)作為支撐,在這方面我們還有大量的工作需要完成。

          韋靈思紀(jì)磊已經(jīng)談得十分全面了,我再稍微補(bǔ)充我的看法。這其實(shí)可以回到我們的第一個(gè)問題去看。計(jì)算可以在云端完成,也可以在邊緣或者說終端側(cè)完成,關(guān)鍵在于將計(jì)算任務(wù)分配到最合適的地方進(jìn)行處理。我相信,我們將會(huì)采用組合式的方法來完成,比如將一部分對(duì)時(shí)延不敏感的計(jì)算放在云端處理,將時(shí)延敏感性任務(wù)放在終端側(cè)。實(shí)質(zhì)上,這還是一個(gè)對(duì)計(jì)算任務(wù)進(jìn)行分配的管理問題。我相信生態(tài)系統(tǒng)中的不同部分都會(huì)被整合和利用。隨著5G的到來,我們可以更快地接入到云端,從而能更好地在整個(gè)生態(tài)系統(tǒng)中去分配計(jì)算任務(wù)。

          問:Qualcomm在軟件方面已經(jīng)有曠視、商湯等合作伙伴,同時(shí)Qualcomm也在發(fā)展自己的算法,這是否會(huì)與合作伙伴形成競(jìng)爭(zhēng)?

          韋靈思我們開發(fā)自己算法的最重要原因,是為了確保所有算法都可以在驍龍平臺(tái)上高效運(yùn)行。一方面,我們可以通過開發(fā)自己的算法來對(duì)系統(tǒng)進(jìn)行壓力測(cè)試,從而啟發(fā)我們對(duì)于下一代硬件系統(tǒng)的開發(fā)。另一方面,有的客戶會(huì)希望我們幫助他們對(duì)其網(wǎng)絡(luò)做壓縮或量化,以適應(yīng)在驍龍平臺(tái)上的運(yùn)行。因?yàn)槲覀円呀?jīng)有了算法開發(fā)的經(jīng)驗(yàn),我們就可以為他們提供很大的幫助。客戶也可以選擇使用我們開發(fā)的一些算法,主要面向的是一些沒有資源和能力做獨(dú)立算法開發(fā)的客戶。

          侯紀(jì)磊:我補(bǔ)充一個(gè)方面。當(dāng)Qualcomm看到一些技術(shù)發(fā)展的趨勢(shì),我們可以通過自己的一些實(shí)現(xiàn)方式,包括開發(fā)原型機(jī)和技術(shù)展示等,去向業(yè)界展現(xiàn)這些重要的趨勢(shì),同時(shí)影響甚至是引領(lǐng)業(yè)界向某些技術(shù)趨勢(shì)加速發(fā)展。我認(rèn)為這也是我們跟合作伙伴合作的一種方式。

          注:《AI英雄》人物專訪隸屬網(wǎng)易智能工作室

          版權(quán)聲明:版權(quán)歸中國自動(dòng)化網(wǎng)所有,轉(zhuǎn)載請(qǐng)注明出處!

          相關(guān)新聞
          人工智能 高通 機(jī)器學(xué)習(xí)
          • 豐田集團(tuán)五家公司聯(lián)合啟動(dòng)“AI與軟件人才培養(yǎng)”計(jì)劃

            近日,豐田集團(tuán)旗下五家公司——株式會(huì)社愛信、株式會(huì)社電裝、豐田通商株式會(huì)社、豐田汽車株式會(huì)社、Woven by Toyota株式會(huì)社(以下簡(jiǎn)稱“豐田集團(tuán)五家公司”)聯(lián)合宣布,正式成立“豐田軟件學(xué)院(Toyota Software Academy)”,旨在系統(tǒng)化培養(yǎng)AI與軟件人才。人工智能,應(yīng)用,人才培養(yǎng),智能化,加速器,

          • 2025年5月下旬至6月初工業(yè)與科技一周熱點(diǎn)聚焦

            本周,工業(yè)自動(dòng)化、人工智能、能源轉(zhuǎn)型及智能制造等領(lǐng)域迎來多項(xiàng)重要進(jìn)展與熱點(diǎn)事件,展覽盛會(huì)、政策發(fā)布、技術(shù)突破與企業(yè)動(dòng)態(tài)交織,共同繪制出產(chǎn)業(yè)蓬勃發(fā)展的畫卷。機(jī)器人,

          • 臺(tái)達(dá)于COMPUTEX 2025聚焦人工智能與節(jié)能永續(xù)

            臺(tái)達(dá)于2025年臺(tái)北國際電腦展(COMPUTEX TAIPEI 2025),以“Artificial Intelligence x Greening Intelligence”為主題,為AI時(shí)代提供可持續(xù)解方。此次首度亮相為邊緣計(jì)算設(shè)計(jì)的AI集裝箱式數(shù)據(jù)中心方案,整合電源、散熱及IT 設(shè)備于20英尺集裝箱,以實(shí)機(jī)展示吸引眾多專業(yè)人士目光。因應(yīng)AI運(yùn)算高功率的趨勢(shì),人工智能,智能化,

          • 科技聚焦:一周熱點(diǎn)回顧 (2025年5月13日-5月20日)

            本周,全球科技產(chǎn)業(yè)繼續(xù)保持活躍態(tài)勢(shì),半導(dǎo)體、人工智能、機(jī)器人、新能源汽車等領(lǐng)域迎來多項(xiàng)重要進(jìn)展和行業(yè)盛會(huì)。政策利好持續(xù)釋放,技術(shù)創(chuàng)新不斷突破,共同勾勒出一幅生機(jī)勃勃的產(chǎn)業(yè)發(fā)展圖景。

          • 聚焦人工智能、機(jī)器人、新能源:本周科技產(chǎn)業(yè)亮點(diǎn)回顧

            過去一周(圍繞5月8日至5月15日),人工智能、機(jī)器人、新能源汽車及半導(dǎo)體等領(lǐng)域涌現(xiàn)出多項(xiàng)重要進(jìn)展和行業(yè)動(dòng)態(tài),政策層面也持續(xù)發(fā)力,共同勾勒出中國乃至全球科技產(chǎn)業(yè)的蓬勃發(fā)展態(tài)勢(shì)。

          • 華北工控國產(chǎn)化主板ATX-6985:賦能稅務(wù)自助終端更安全高效運(yùn)行

            在數(shù)字中國建設(shè)的時(shí)代背景下,華北工控推出了國產(chǎn)化嵌入式計(jì)算機(jī)方案接入智慧稅務(wù)產(chǎn)業(yè)市場(chǎng),比如基于兆芯平臺(tái)處理器的嵌入式主板ATX-6985,可無縫集成于稅務(wù)自助終端設(shè)備中,為稅務(wù)系統(tǒng)平臺(tái)的數(shù)字化、智能化建設(shè)提供硬件支持。人工智能,

          • 機(jī)器人與人工智能一周要聞:技術(shù)創(chuàng)新加速落地 應(yīng)用場(chǎng)景持續(xù)拓展

            過去一周,機(jī)器人與人工智能領(lǐng)域亮點(diǎn)紛呈,技術(shù)創(chuàng)新、產(chǎn)業(yè)應(yīng)用以及重要活動(dòng)密集發(fā)布,展現(xiàn)了該產(chǎn)業(yè)蓬勃發(fā)展的態(tài)勢(shì)。智能化,

          • Qt Group發(fā)布技術(shù)中立型Qt生態(tài)系統(tǒng)擴(kuò)展計(jì)劃

            Qt路線圖致力于實(shí)現(xiàn)與各行業(yè)技術(shù)棧的無縫集成,助力企業(yè)與開發(fā)者使用自選工具,更高效地構(gòu)建、擴(kuò)展和維護(hù)軟件解決方案。Group,人工智能,設(shè)計(jì),

          猜您喜歡

          更多精彩信息看點(diǎn) 請(qǐng)掃描以下二維碼

          主站蜘蛛池模板: 亚洲av无码专区在线厂| 精品欧美军人同性videos| 毛片a级毛片免费观看品善网| 国产精品黄页免费高清在线观看| 免费在线观看h片| 4四虎44虎www在线影院麻豆| 日韩精品免费在线视频| 四虎成人国产精品视频| caoporm在线视频| 欧美xxxxx在线观看| 国产一区二区三区影院| a级毛片免费完整视频| 日本无卡码一区二区三区| 免费国产污网站在线观看| 高清韩国a级特黄毛片| 好男人资源免费手机在线观看| 亚洲大片免费看| 蜜臀精品国产高清在线观看| 女m羞辱调教视频网站| 亚洲一级大黄大色毛片| 美女视频黄A视频全免费| 国产肉体xxxx裸体137大胆| 中文在线观看国语高清免费| 欧美黑人换爱交换乱理伦片| 嘟嘟嘟www在线观看免费高清| 78成人精品电影在线播放日韩精品电影一区亚洲 | 久久国产综合精品swag蓝导航| 精品国产污污免费网站| 国产精品爽爽va在线观看无码 | 在车子颠簸中进了老师的身体| 久久这里只有精品66| 精品人妻一区二区三区浪潮在线| 国产精品单位女同事在线| 中文字幕免费人成乱码中国| 欧美激情另类自拍| 国产三级手机在线| 91精品导航在线网址免费| 日本特黄特色特爽大片老鸭| 亚洲春色在线观看| 美女被羞羞在线观看漫画| 国产成人v爽在线免播放观看|