日本在线www-日本在线播放一区-日本在线不卡免费视频一区-日本在线不卡视频-成人影院久久久久久影院-成人影院一区二区三区

ABB
關注中國自動化產業發展的先行者!
CAIAC 2025
2025工業安全大會
OICT公益講堂
當前位置:首頁 >> 資訊 >> 行業資訊

資訊頻道

概念莫混淆:智能計算機不是超級計算機
  • 點擊數:3500     發布時間:2021-07-20 10:04:00
  • 分享到:
中國科學院計算技術研究所研究員、中國計算機學會高性能計算專業委員會秘書長張云泉告訴《中國科學報》:“智能計算機不是超級計算機,兩者的概念應該區分清楚,否則可能會引起行業混亂。”
關鍵詞: AI , 智能計算機 , GPT-3模型

日前,武漢城市人工智能(AI)計算中心建成投用,媒體在報道該中心算力時稱:“中心一期建設規模100P FLOPS人工智能算力……其算力相當于5萬臺高性能計算機。”該報道一出,引發高性能計算領域專家關注。相關專家對《中國科學報》表示,該報道內容對“超級計算機”與“智能計算機”認識不清、概念混淆,極易引發誤導。 

中國科學院計算技術研究所研究員、中國計算機學會高性能計算專業委員會秘書長張云泉告訴《中國科學報》:“智能計算機不是超級計算機,兩者的概念應該區分清楚,否則可能會引起行業混亂。” 

超級計算機還是智能計算機 

目前業界用于衡量超級計算的Linpack測試,測試的是超級計算機的“雙精度浮點運算能力”,即64位浮點數字的計算(FP64)。在以二進制所表示的數字精度中,還有單精度(32位,FP32)、半精度(16位,FP16)以及整數類型(如INT8、INT4)等。數字位數越高,意味著人們可以在更大范圍的數值內體現兩個數值的變化,從而實現更精確計算。 

與許多科學計算等不同,AI所需的計算力不需要太高精度。“比如一些AI應用需要處理的對象是語音、圖片或視頻,運行低精度計算甚至整型計算即可完成推理或訓練。”張云泉說,這種專用計算機處理AI算法速度快、能耗低,這是由其特點決定的。 

智能計算機是一種專用算力,在推理或訓練等智能計算方面的確表現出色,但由于AI推理或訓練一般僅用到單精度甚至半精度計算、整型計算,多數智能計算機并不具備高精度數值計算能力,這也限制其在AI計算之外的應用場景使用。 

而超級計算機是一種通用算力,其設計目標是提供完備、復雜的計算能力,在高精度計算方面能力更強、應用范圍更廣,比如科學家常使用超級計算機進行行星模擬、新材料開發、分子藥物設計、基因分析等科學計算和大數據處理。 

中國工程院院士陳左寧曾形象地將使用超級計算機做AI計算比喻成“大馬拉小車”,來說明超級計算雖然“十項全能”,但畢竟不是為AI量身打造。智能計算機由此興起。 

此前曾一度熱炒的AI與超算融合,其實正是將改良的計算機“AI專用化”,嚴格意義上來說,它們已經不再屬于傳統超算范疇。 

“現在不論超級計算中心落成還是智能計算中心,都宣稱算力是多少‘FLOPS’,其實這個單位是‘每秒浮點運算能力’,而一些智能計算機的單位其實是‘OPS’——每秒操作次數。如果不加區別地報道,大家很容易誤認為是同一種計算精度、同一種計算能力。”張云泉說,這也導致一些地方以為花了小錢建了世界頂級的“大超級計算”,好像占了便宜;等項目上了馬,將項目介紹給超算業內人士時,才恍然大悟。 

用新指標引導行業健康發展 

張云泉告訴記者,除了混淆智能計算機和超級計算機之外,業內還存在另外一種誤導。 

“有些廠商還會模糊智能計算機的推理性能和訓練性能。”張云泉告訴《中國科學報》,“與推理相比,訓練性能往往需要計算精度高一些,比如32位甚至64位;而大部分性能‘耀眼’的AI芯片,往往指的是其推理性能,而且可能只是理論值。” 

對于AI計算而言,訓練性能往往更重要——許多智能模型正是依賴于此。張云泉說,訓練模型的計算量與參數量成正比,而且需要反復迭代,直到達到理想的效果。 

如果要畫一張AI所需算力的示意圖,“推理”位于算力矩陣的最下層,因為半精度算力(FP16)或整型算力(如INT8)即可滿足推理需要;排在其上的是“訓練”,一般需要使用單精度算力(FP32)或半精度算力(FP16);對算力需求最高的是類腦“模擬”,它需要雙精度算力(FP64)和低精度算力同時支持。 

“混淆傳統超級計算與智能計算、混淆智能計算的訓練性能和推理性能,這兩種情況都可能會導致用戶或地方政府錯誤決策——他們本意是建設強大的計算集群,最后卻只建成了一臺只有推理性能的機器。”張云泉說。 

對此,張云泉認為,需要一個簡單、有效的指標來幫助判斷系統的AI算力和整個高性能AI領域的發展狀況,從而防止行業亂象。

2020年11月,張云泉聯合清華大學教授陳文光、美國阿貢國家實驗室研究員Pavan Balaji和瑞士蘇黎世聯邦理工學院教授Torsten Hoefler,與ACM SIGHPC China委員會共同發起了基于AIPerf大規模AI算力基準評測程序的“國際人工智能性能算力500排行榜”。記者注意到,這一榜單的算力單位是OPS。 

“超級計算與AI計算,一碼歸一碼,需要一個新的標尺來引導AI計算行業走上健康發展的道路。”張云泉說。 

國產AI芯片正待奮起直追 

算力始于芯片。在AI芯片賽道上,我國擁有華為(昇騰)、百度昆侖、燧原等芯片設計企業,但即便如此,國內的智能計算機仍很少能繞過美國GPU巨頭英偉達。 

這是一個無奈的現實:國內上馬諸多智能計算中心,英偉達是切切實實的受益者。 

“專門做智能計算的AI芯片,只要核數足夠多、主頻足夠高,就可以實現速度更快、在低精度計算中高出幾個量級的性能。但如果某個計算集群既需要高精度計算又需要低精度計算,這對AI芯片的要求就高了。”張云泉說,英偉達的GPU各種精度的計算能力都很突出、比較均衡。這也是大部分國產AI芯片難以與英偉達GPU硬碰硬的原因之一。 

不過,國產AI芯片并非完全沒有機會。 

首先,當下我國的算力基礎設施,都有強烈的國產化意愿。即便英偉達、英特爾等巨頭虎踞龍盤,但基于綜合成本、生態等各類因素,國產化的大潮仍不可阻擋。 

其次,就AI當前發展而言,場景、數據、模型、算力缺一不可,這也就意味著,中國將是未來全球AI算力富集地。AI芯片作為核心需要,不可能被一種形態、一種生態所壟斷,寒武紀、昇騰等國產AI芯片的佼佼者仍坐擁巨大發展空間。 

專家認為,雖然芯片是算力的主要來源和最根本的物質基礎,但是算力的生產、聚合、調度和釋放是一個完整過程,需要復雜系統的軟硬件生態共同配合,才能實現“有效算力”。因此,不能只關注芯片的單一性能指標,更要注重上層軟件應用生態。 

沒有巨大算力無法發展AI?

在算力概念被混淆的背后,是AI計算有如脫韁野馬一般瘋長的算力需求。

由多位硅谷“大亨”聯合建立的人工智能非營利組織OpenAI,在2020年5月推出了其新一代無監督的轉化語言模型GPT-3,目前已有1750億參數,訓練數據量達到45TB(約1萬億單詞量)。 

GPT-3模型目前已經在語義搜索、文本生成、內容理解、機器翻譯等方面取得重大突破。其最大價值是證實了機器在無監督下的自我學習能力,驗證了純粹通過擴大規模即可實現性能提升。 

更壯觀的是,萬億參數模型已經在路上。6月初,北京智源人工智能研究院發布了“悟道2.0”,宣稱達到1.75萬億參數,超過之前由谷歌發布的Switch Transformer,成為全球最大的預訓練模型。 

迅猛增長的參數體量,也意味著更高的計算需求——有的可能需要數千塊GPU來提供必要的算力。張云泉說,類似GPT這樣的巨模型,對算力的需求“不是鬧著玩的”。

難道,沒有巨大算力就無法發展AI嗎? 

張云泉認為,在目前AI的發展階段(感知智能和認知智能)中,算力仍然是第一位的。 

他的理由是,發展AI可以通過算力提升、算法革命等途徑進行,但在“資本導向”的現階段,相比不確定性的算法模型突破,算力提升是個更容易的選擇。 

但必須要指出的是,運用巨大算力并不是人工智能發展的唯一方向,GPT-3這樣的巨模型同樣存在缺陷,如缺乏常識等;而探索人腦奧妙機理,實現小數據學習、遷移學習也是重要手段。

畢竟,大腦的功耗只有20瓦左右,創建低能耗的智能系統或許是更重要的努力方向。 

來源:《中國科學報》

熱點新聞

推薦產品

x
  • 在線反饋
1.我有以下需求:



2.詳細的需求:
姓名:
單位:
電話:
郵件:
主站蜘蛛池模板: 佐藤遥希在线播放一二区-佐山爱巨大肥臀在线-佐山爱痴汉theav-佐良娜被爆漫画羞羞漫画-麻豆视频传媒二区-麻豆视频传媒 | 国产精品v欧美精品v日本精品动漫-国产精品porn-国产精品jizzjizz-国产精品h片在线播放-热久久伊人-热久久亚洲 | 青青青青青青草-青青青青青青-青青青青青国产免费手机看视频-青青青青青国产免费观看-青青青青青草原-青青青青青草 | 亚洲乱伦熟女在线-亚洲精品国自产在线-亚州女人69内射少妇-亚州巨乳成人片-亚州激情视频-亚瑟在线中文影院 | 日本欧美大码aⅴ在线播放-日本欧美不卡一区二区三区在线-日本女同在线观看-日本女同在线-国产日韩在线-国产日韩视频一区 | 伊人色综合久久大香-伊人色综合久久-伊人色综合97-伊人色在线-免费永久在线观看黄网-免费永久国产在线视频 | 91精品久久久久久久久无码变态-91精品久久久久久久久中文字幕-91精品久久久久久久蜜臀-91精品久久久久久久青草-91精品久久久久久中文字幕-91精品久久久久久综合五月天 | www五月天,国产精品视频网站你懂得,精品国产你懂的在线观看,久久伊人成人,国产精品黄页网站在线播放免费,国产va在线 | 精品国产亚一区二区三区,91久久精品国产一区二区,久久精品国产国产精品四凭,91午夜精品亚洲一区二区三区,精品在线看,国产视频资源在线观看 | 亚洲1卡二卡3卡四卡不卡-亚洲1卡2卡三卡3卡4卡网站-亚洲18gay1069-亚洲18gay video-国内精品久久久久久-国内精品久久久久激情影院 | 天天色天天爽,久久综合九色综合狠狠97,五月天激情啪啪,国产精品网址你懂的,五月激激激综合网色播免费,国产成人精品久久亚洲高清不卡 | 中文区永久区乱码六区-中文欧美一级强-中文免费观看视频网站-中文免费-狼牙视频在线免费观看入口-狼窝by揽春全文免费阅读 | 国产系列欧美系列日韩系列在线-国产午夜在线视频-国产午夜在线观看视频播放-国产午夜在线观看视频-性夜影院爽黄a免费视频-性视频网址 | 亚欧成人毛片一区二区三区四区-亚欧成人乱码一区二区-亚久久伊人精品青青草原2020-亚飞与亚基在线观看-国产综合成人观看在线-国产综合91天堂亚洲国产 | 中文无码熟妇人妻av在-中文无码视频三区四区在线观看-中文无码视频-中文无码肉感爆乳在线-中文无码日韩欧免费视频-中文无码日韩欧毛 | 青草国产-青草草在线视频-青草草在线观看免费视频-青草草在线-国产高清自偷自在线观看-国产高清自拍视频 | 色综合天天综合网国产国产人-色综合天天综合网国产成人网-色综合天天综合网国产成人-色综合天天综合给合国产-国产成人精彩在线视频50-国产成人禁片在线观看 | 精品国产91乱码一区二区三区,成人国产一区二区三区精品,亚洲一区免费在线观看,日韩在线一区二区三区免费视频,波多野吉衣在线观看,日韩一级精品久久久久 | 亚洲日日操,国产乱视频在线观看播放,国产一区二区三区不卡观,日本精品久久久久久久,久久作爱视频,色狠狠婷婷97 | 婷婷五色,五月天激情婷婷大综合,亚洲综合久久久久久中文字幕,国产ww久久久久久久久久,婷婷综合缴情亚洲五月伊,欧美日韩不卡在线 九九香蕉-九九线精品视频-九九五月天-九九天天影视-天天干b-天天干2018 | 欧美在线观看一区,免费看日产一区二区三区,欧美一区二区三区在线,精品1区2区3区,亚洲国产一成人久久精品,久久国产精品最新一区 | 亚洲A片一区日韩精品无码-亚洲H成年动漫在线观看不卡-亚洲VA欧美VA天堂V国产综合-亚洲VA天堂VA欧美片A在线-亚洲爆乳精品无码AAA片-亚洲不卡高清免v无码屋 | 亚洲欧美日韩综合一区久久,欧美69式视频在线播放试看,日韩欧美国产精品第一页不卡,亚洲美日韩,精品国产欧美一区二区,婷婷综合七月激情啪啪 | 91噜噜噜在线观看-91露脸对白-91麻豆福利-91麻豆高清国产在线播放-91麻豆国产-91麻豆国产福利精品 | 激情综合五月亚洲婷婷,国内亚州视频在线观看,成人国产精品免费网站,欧美性猛交99久久久久99,久久国产欧美日韩精品,国产精品无码久久av | 青青青青青青草-青青青青青青-青青青青青国产免费手机看视频-青青青青青国产免费观看-青青青青青草原-青青青青青草 | 亚洲国产欧美精品-亚洲国产欧美国产综合一区-亚洲国产欧美国产第一区-亚洲国产模特在线播放-好吊色青青青国产在线播放-好吊色青青草 | 亚洲精品永久www嫩草-亚洲精品影院一区二区-亚洲精品影院久久久久久-亚洲精品影院-护士18p-护士16p | 国产精品盗摄一区二区在线-国产精品盗摄在线观看-国产精品对白刺激久久久-国产精品对白刺激音频在线观看-国产精品对白交换-国产精品对白交换绿帽视频 | 亚洲色图网站-亚洲色图图片专区-亚洲色图图片区-亚洲色图图片-精品久久久中文字幕一区-精品久久久中文字幕二区 | 欧美激情中文字幕一区二区-欧美激情在线精品video-欧美激情影院-欧美激情一区二区三区在线-欧美激情一区二区三区视频高清-欧美激情一区二区三区视频 | 日韩一区二区不卡-日韩一品道-日韩一级一欧美一级国产-日韩一级视频免费观看-亚洲精品AV中文字幕在线-亚洲精品爆乳一区二区H | 久久精品免费电影-久久精品免费-久久精品美乳-久久精品美女视频-亚洲最大福利视频-亚洲综合视频一区 | 欧美一级视频精品观看-欧美一级三级-欧美一级日韩一级亚洲一级va-欧美一级日韩一级亚洲一级-中文字幕精品一区-中文字幕精品视频在线观看 | 暧暧免费视频,国产成人+亚洲欧洲,国产成人免费视频精品一区二区,久久精品国产亚洲精品2020,久久伊人一区二区三区四区,欧美嫩交 | 波多野结衣的av一区二区三区-波多野结衣的电影-波多野结衣的中文-波多野结衣第二页视频-波多野结衣电影网-波多野结衣电影一区二区 | 人人澡人人爽人人精品-人人澡人人擦人人免费-人人在线碰碰视频免费-人人听力网mp3下载-俺也去最新地址-俺来也俺去也视频久久 | 亚洲黄色网页-亚洲黄色三级视频-亚洲黄色片免费看-亚洲黄色免费在线观看-国产中文字幕免费观看-国产中文字幕乱码一区 | 欧美在线一,91成人爽a毛片一区二区,在线播放国产精品,亚洲欧美日韩高清,zozozo欧美人禽交另类视频,久久精品无码一区二区日韩av | 美国a毛片-美国成人影院-美国毛片aa-美国毛片aaa在线播放-美国毛片基地-美国毛片基地a级e片 | 国产夜色福利院在线观看免费-国产夜趣福利免费视频-国产野花视频天堂视频免费-国产亚洲综合一区二区在线-日韩精品在线观看免费-日韩精品在线电影 |