3月25日，在中國(guó)科學(xué)院“先導(dǎo)杯”并行計(jì)算應(yīng)用大賽啟動(dòng)會(huì)上，中國(guó)工程院院士、大賽專家咨詢委員會(huì)主席李國(guó)杰講述了一件往事。
1987年1月，李國(guó)杰從美國(guó)學(xué)成歸國(guó)，成為中國(guó)科學(xué)院計(jì)算技術(shù)研究所一名研究員。就在這一年，李國(guó)杰受中國(guó)科學(xué)院理論物理研究所之邀，專門去講授一門課程：并行計(jì)算。
李國(guó)杰注意到，彭桓武（“兩彈一星”功勛科學(xué)家，時(shí)年72歲）、郝柏林（我國(guó)著名理論物理學(xué)家，時(shí)年53歲）等老科學(xué)家都坐在臺(tái)下聽(tīng)課，一堂不落。
“我深深感受到了老一輩物理學(xué)家當(dāng)時(shí)對(duì)并行計(jì)算技術(shù)的渴求。”李國(guó)杰說(shuō)。
并行計(jì)算迎來(lái)黃金時(shí)
“下一個(gè)十年，將出現(xiàn)一個(gè)全新的體系結(jié)構(gòu)的‘寒武紀(jì)大爆發(fā)’，學(xué)術(shù)界和工業(yè)界的計(jì)算機(jī)架構(gòu)師將迎來(lái)一個(gè)激動(dòng)人心的時(shí)代；而體系結(jié)構(gòu)的改進(jìn)必須和并行算法、并行軟件同步進(jìn)行，而且越是高層的改進(jìn)效率提升越大。”李國(guó)杰說(shuō)，因此，“未來(lái)幾十年一定是并行計(jì)算的黃金時(shí)代”。
為什么說(shuō)計(jì)算機(jī)性能越高、其能解決的問(wèn)題越大，算法的優(yōu)化所帶來(lái)的好處就越大？李國(guó)杰舉了一個(gè)例子。
“一個(gè)問(wèn)題的規(guī)模為N，假設(shè)解決該問(wèn)題一種算法為Alg1，它的計(jì)算復(fù)雜性是N的平方；另外一個(gè)算法是Alg2，優(yōu)化以后它的計(jì)算復(fù)雜性是Nlog2N。那么，兩個(gè)算法的性能比值是N/log2N——N越大，性能的差別就越大。”李國(guó)杰更進(jìn)一步說(shuō)明道，“對(duì)于只能解決問(wèn)題規(guī)模為10的低端計(jì)算機(jī)，兩個(gè)算法的性能只相差3倍；但是對(duì)于能解決問(wèn)題規(guī)模達(dá)1000的超級(jí)計(jì)算機(jī)，兩者性能就相差100倍。”
“換一個(gè)角度，如果在低性能的單機(jī)上兩種算法可解決問(wèn)題的規(guī)模相差3倍，則在包含上百萬(wàn)處理器的超級(jí)計(jì)算機(jī)上，兩個(gè)算法可解決問(wèn)題的規(guī)模相差上百倍。”李國(guó)杰說(shuō)，因此，計(jì)算機(jī)性能越高，越需要優(yōu)化算法。
據(jù)介紹，此次中國(guó)科學(xué)院“先導(dǎo)杯”并行計(jì)算應(yīng)用大賽，就意在凝聚不同領(lǐng)域?qū)I(yè)人才，彌補(bǔ)我們?cè)诨A(chǔ)算法和軟件應(yīng)用上的不足，建立和完善先進(jìn)計(jì)算產(chǎn)業(yè)生態(tài)。
從技術(shù)推動(dòng)轉(zhuǎn)向應(yīng)用拉動(dòng)
在分享中李國(guó)杰提到，計(jì)算機(jī)科學(xué)家的思維定勢(shì)仍是技術(shù)推動(dòng)，而非時(shí)下更為迫切的應(yīng)用拉動(dòng)。
“過(guò)去，在計(jì)算機(jī)科學(xué)家的傳統(tǒng)思維邏輯中，他們認(rèn)為用戶并不知道需要什么技術(shù)；于是計(jì)算機(jī)科學(xué)家引進(jìn)新的語(yǔ)言、研制新的編譯技術(shù)、創(chuàng)新系統(tǒng)結(jié)構(gòu)來(lái)解決某些并行問(wèn)題，然后將他們自以為‘聰明’的解決方案推送給用戶。而問(wèn)題是，用戶并不會(huì)用也不太愿意學(xué)習(xí)這些學(xué)者們提供的方法。”
“計(jì)算機(jī)科學(xué)工作者應(yīng)當(dāng)和應(yīng)用領(lǐng)域?qū)＜乙黄痖_(kāi)發(fā)關(guān)鍵的并行應(yīng)用程序。”李國(guó)杰說(shuō)，當(dāng)前計(jì)算機(jī)科學(xué)正在融入到其他科學(xué)中。計(jì)算機(jī)科學(xué)中的概念、定理、方法正在發(fā)展成為更寬廣領(lǐng)域，特別是生物和化學(xué)領(lǐng)域的基本工具，這些工具將集成到整個(gè)科學(xué)的織網(wǎng)中。
“現(xiàn)在新的科研途徑就是應(yīng)用拉動(dòng)的，即所謂top-down研究方式，計(jì)算機(jī)科學(xué)工作者應(yīng)當(dāng)和應(yīng)用領(lǐng)域?qū)＜乙黄痖_(kāi)發(fā)關(guān)鍵的并行應(yīng)用程序。”李國(guó)杰說(shuō)，計(jì)算機(jī)科學(xué)家與其他領(lǐng)域的科學(xué)家密切合作，已成為當(dāng)代科學(xué)研究的特點(diǎn)。
他指出，其他領(lǐng)域的學(xué)者運(yùn)用普遍流行的算法和軟件會(huì)解決一些局部性的問(wèn)題、獲得一些漸進(jìn)性的改進(jìn)，但要獲得算法上的根本性突破，需要與真正懂算法的計(jì)算機(jī)科學(xué)家深度合作。
“為解決腦科學(xué)的解剖成像等問(wèn)題，一些腦科學(xué)家這幾年一直和我的一個(gè)老朋友——中國(guó)工程院的外籍院士、普林斯頓大學(xué)計(jì)算機(jī)科學(xué)系講席教授李凱合作。這些腦科學(xué)家用傳統(tǒng)的技術(shù)重構(gòu)老鼠的大腦需要7000年，現(xiàn)在通過(guò)他的新算法、新模型，數(shù)據(jù)分析時(shí)間縮短了20萬(wàn)倍。”李國(guó)杰說(shuō)。
并行計(jì)算仍面臨不少挑戰(zhàn)
在分享的最后，李國(guó)杰提出，盡管并行計(jì)算大行其道，但“并行計(jì)算并不是萬(wàn)能藥”。
他提出，目前，智能計(jì)算、大數(shù)據(jù)計(jì)算主要是靠并行處理，不但GPU給人的希望是大規(guī)模并行，量子計(jì)算、生物計(jì)算等的威力也是并行處理。“并行計(jì)算雖然有很強(qiáng)大的功能、效率，但是它也不是萬(wàn)能的。”
“30多年前，我在美國(guó)讀博士的時(shí)候，就在我的博士論文中作出這樣的結(jié)論——并行處理只能夠提高串行計(jì)算可求解問(wèn)題的計(jì)算效率，不能用來(lái)擴(kuò)大求解指數(shù)負(fù)載性問(wèn)題的規(guī)模。”李國(guó)杰解釋道，也就是說(shuō)，如果某個(gè)問(wèn)題是指數(shù)復(fù)雜性問(wèn)題，僅僅采用并行計(jì)算，求解問(wèn)題的規(guī)模是擴(kuò)大不了的。
此外，并行計(jì)算目前還面臨著不少挑戰(zhàn)。李國(guó)杰提到，并行計(jì)算目前還面臨著“需要有全新的思路挖掘片內(nèi)并行性”“如何緩解因擴(kuò)展并行而惡化的訪存瓶頸”“并行算法也要緊緊圍繞低功耗這個(gè)更重要的目標(biāo)”“提高并行計(jì)算的通用性、覆蓋應(yīng)用的范圍”“必須對(duì)付智能應(yīng)用這類動(dòng)態(tài)、不確定的復(fù)雜負(fù)載”等重要命題。
來(lái)源：《中國(guó)科學(xué)報(bào)》
