當今，“算力”越來越成為科技進步、經(jīng)濟社會發(fā)展的底座，但“算力”并非千篇一律。
20世紀60年代，為解決大規(guī)模數(shù)值計算、仿真模擬等科學工程計算問題，超級計算中心應運而生，至今仍以大國重器的形象為諸多行業(yè)提供科學計算服務。
21世紀前10年，互聯(lián)網(wǎng)信息服務、高并發(fā)訪問等網(wǎng)絡計算與數(shù)據(jù)存儲所寄的云計算中心開始落地，各大公有云平臺拔地而起、攻城略地。
近10年來，人工智能（AI）計算中心開始出現(xiàn)，主要用來處理影像、語音、自然語言等識別問題，綜合應用多種技術(shù)實現(xiàn)推理、訓練模型開發(fā)。
這三類計算中心，雖然各自特點鮮明、用途有異，但超算與AI計算、云計算與超算、AI計算與云計算“我中有你、你中有我”的情形并不鮮見，相互之間的界限逐漸模糊。然而，隨之而來的以偏概全、以此代彼的亂象，竟逐漸成了一些地方建設算力中心的“糊涂賬”。
亂象源于缺乏相應測試標準
城市應該建設什么樣的算力中心？如何推動算力中心健康發(fā)展？近日，在一場以“數(shù)智創(chuàng)新，算力賦能”為主題的2021算力中心健康發(fā)展研討會上，中國工程院院士鄭緯民等業(yè)內(nèi)學者從不同角度提供了意見參考。
中國計算機學會高性能計算專家委員會秘書長、中國科學院計算技術(shù)研究所研究員張云泉在發(fā)言時提到，此前，某市建設了AI計算中心，號稱算力是超級計算機的數(shù)萬倍?！啊ㄥX少、算力高’這種不規(guī)范、不專業(yè)的對比讓業(yè)內(nèi)人士很反感?！?/p>
張云泉說， AI計算中心很熱門，但如何引導其健康發(fā)展，“是當下行業(yè)面臨的一個重要議題”。
國家信息中心2020年12月發(fā)布了《智能計算中心規(guī)劃建設指南》，定義“智能計算中心”是基于最新AI理論，采用領(lǐng)先AI計算架構(gòu)，提供AI應用所需算力服務、數(shù)據(jù)服務和算法服務的公共算力新型基礎設施。
“自從AI成為‘新基建’，各地政府爭先恐后，出錢建設AI計算中心，但總的來說，應用還不是太明確?！编嵕暶裨谏鲜鲅杏憰险f，無論超算中心還是AI計算中心，最重要的是應用匹配。“當前最應該做的事，不是以新基建之名攛掇政府建設算力中心，而是要真正做出來幾個實際應用。”
這代表了業(yè)界務實的態(tài)度。中國科學院數(shù)學與系統(tǒng)科學研究院研究員張林波也提出，很贊同各類算力中心應該各自發(fā)揮所長，做最適合的事情。但他話鋒一轉(zhuǎn)：“AI計算現(xiàn)在有點咄咄逼人，好多人甚至覺得AI計算能夠取代傳統(tǒng)的科學計算?！?/p>
“這是宣傳不當引起的概念混淆?！睆堅迫J為，在高性能計算（HPC）、云、AI融合發(fā)展的趨勢下，要清晰界定三類算力中心各自的內(nèi)涵與外延，以及它們之間的相互關(guān)系，明晰不同計算精度算力與不同應用之間的匹配。
對算力概念的混淆曾鬧出過啼笑皆非的事。一次，張云泉向某學會領(lǐng)導匯報HPC的研制，不料卻遭到“批評”：“現(xiàn)在都什么時代了，你還在談高性能計算，太過時了。”
概念混淆之后緊跟著的是價格亂象。一般而言，算力配置不同會導致造價迥異——即使同等算力，不同的CPU主頻、帶寬及時延要求也會讓機器造價差別巨大，但一些廠商拿AI計算中心“花錢少、算力高”作為賣點吆喝，就不屬此類了。
道理很簡單：同樣一個對外標稱100P的算力中心，用建設AI計算中心的預算一定造不出超算中心的效果。
“概念混淆、價格混亂的主要原因是沒有對應的測試標準，孰好孰壞一測就知道了。”張云泉建議，要在行業(yè)中推行與AI計算平臺相適應的標準。
清華大學教授陳文光與張云泉在2020年推出了相應的AIperf測試標準，并致力于將其國際化。但他坦言：“推出一個國際化的測試標準是很有難度的，后續(xù)還要努力。
“蠻算”的AI計算
在實際應用中，傳統(tǒng)超算最適合用于科學和工程計算，這類計算有可計算模型，可以發(fā)展有很高精度的算法，計算結(jié)果精度也非常高。但有些問題是科學計算力不能及的，如缺乏數(shù)學模型的問題和超高維問題。這時，以機器學習為代表的AI計算就派上了用場。
不過，張林波介紹，機器學習等是一種類似統(tǒng)計的方法，與科學計算相比其結(jié)果精度不高。另外，AI計算還有穩(wěn)定性問題、模型泛化受限等問題。
他舉例說，在新冠肺炎疫情暴發(fā)之初，許多人一窩蜂地用肺部影像識別來鑒定新冠病毒感染，發(fā)了很多論文，但后來發(fā)現(xiàn)這些論文的結(jié)論幾乎沒有可用的。
“圖像識別是機器學習最擅長的領(lǐng)域，發(fā)生上述情況的原因可能是訓練數(shù)據(jù)太小或是機理不清，但或許這才是AI計算要去深究的，比如摸清機理后設計更先進的算法等?！被诂F(xiàn)階段AI計算機的作用，張林波認為現(xiàn)在的“人工智能計算”簡稱為“智能計算”或“智算”有點誤導人——“這樣的AI計算并不‘智能’?！?/p>
“沒有知識庫、沒有邏輯處理能力，當我們搞不清楚某問題的機理時，拿一個神經(jīng)網(wǎng)絡靠機器的規(guī)模去模仿它，這不叫‘智算’，叫‘蠻算’?！睆埩植ㄕf。
國家氣象信息中心副總工程師沈文海對此產(chǎn)生了共鳴。他提出，氣象部門也在做AI應用方面的探索，但都是各自為戰(zhàn)——圍繞某個痛點，如AI識別云圖、臺風規(guī)模和路徑等，把數(shù)據(jù)拿來、接入計算資源、識別一番，確實有點“傻算”“蠻算”意味。
“我們?nèi)狈σ粋€長期計劃或整個氣象部門的AI規(guī)劃?！鄙蛭暮ＵJ為，長此以往就有很大的弊端，一是沒有對機理成因方面的探討，二是低水平重復。
“制定一個覆蓋整個氣象部門的AI應用發(fā)展規(guī)劃，確實很有難度，并且這會引發(fā)對算力中心的新需求。”沈文海說。
融合發(fā)展仍是趨勢
對算力中心提出新需求的，還有時下熱門的數(shù)字孿生。
數(shù)字孿生是機器學習領(lǐng)域非常重要的研究方向之一。在借由大量傳感器將物理世界數(shù)字化、虛擬化的數(shù)字孿生世界里，AI可以做的事情很多，包括預測物理世界未來如何進一步演進、衍生。
中國科學院半導體技術(shù)研究所研究員李衛(wèi)軍說，數(shù)字孿生“絕對需要超大的一個計算系統(tǒng)”，因為它不僅需要包含神經(jīng)網(wǎng)絡計算，也需要很多邏輯計算。“這是一個大型的邏輯計算與抽象思維相結(jié)合的應用場景”。
從本質(zhì)上來說，高性能計算和AI計算都是在模擬人的智能：前者模擬人的邏輯計算能力，后者模擬的是人的抽象思維。只不過，超級計算機現(xiàn)在在邏輯計算方面比人的計算能力強億萬倍，而AI計算機目前卻只能用深度神經(jīng)網(wǎng)絡來獲得一個近似的結(jié)果。
顯然，兩種不同的能力也不能用同一種標準評價孰好孰壞。
李衛(wèi)軍認為，將來數(shù)字孿生要發(fā)展，需要傳統(tǒng)超算與AI計算實現(xiàn)融合，這是邏輯計算和抽象思維的一種融合，雖然它需要怎樣的計算結(jié)構(gòu)和算法目前還不得而知。
在HPC和AI融合發(fā)展的道路上，排在全球超算TOP500榜單前列的“大機器”先走一步。
日本“富岳”超級計算機（Fugaku）和美國“頂點”（Summit）不僅科學計算能力出眾，而且能支撐大規(guī)模的AI計算（如圖計算）需求。這緣于它們的異構(gòu)架構(gòu)——高性能CPU支撐其高精度浮點計算性能，大量加速芯片支撐深度學習應用。它們作為世界上最先進的計算機，多少代表著未來計算融合發(fā)展的方向。
但看似矛盾的是，AI與HPC的“分化”也是最近的事情。
張云泉介紹說，自從巨參數(shù)模型（如GPT模型）誕生以來，其算力需求對于現(xiàn)存的超級計算機是“致命的”——我國七八家國家級超算中心，都不具備解決千億乃至萬億級模型參數(shù)計算的能力，這直接導致AI計算的架構(gòu)和概念獨立出來。
事實上，巨模型的計算問題，無論對超算更是AI計算都提出了巨大挑戰(zhàn)。張云泉認為，這意味著未來超級計算機的架構(gòu)和形態(tài)還要繼續(xù)演化。
陳文光認為，AI應用特別是基于巨模型的應用對網(wǎng)絡、I/O能力等的要求非常高，從融合發(fā)展的方向看，這些應用的特殊要求反過來會影響HPC的設計，比如對帶寬的要求和I/O的設計會有一些促進。
另外，陳文光提到，還應重視混合精度算力的發(fā)展。比如，AI算力的單精度性能高，就可以先用它解決一些低精度計算的問題，然后再拿到高性能計算機上完成高精度的計算要求，從而提升算力資源整體的性能和性價比。據(jù)透露，目前混合精度算力已被寫入計算領(lǐng)域“十四五”規(guī)劃相關(guān)的指南文件中。
自底向上來看，算力中心能提供何種計算能力，從根本上取決于芯片。比如AI芯片嚴格意義上屬于專用芯片，那么國內(nèi)一些以AI芯片為主的計算機，就注定無法勝任科學計算任務。
從事服務器芯片研發(fā)的中國科學院計算技術(shù)研究所研究員范東睿介紹說，即便AI芯片也有通用與專用之別，在他看來，專用芯片就應該越來越專，通用芯片就要做到能涵蓋所有的精度和算法，讓其各司其職。
“（一些供應商）把專用芯片當成通用芯片來講故事，那就不好了。”范東睿說，目前國內(nèi)對芯片的需求量越來越大，但作為核心器件，“芯片人”和“芯片廠”還是要有所堅持，“不能忽悠”。
來源:《中國科學報》
