• DeepSeek時(shí)代的終極硬件？憶阻器存算一體技術(shù)深度解析！

  DeepSeek掀起AI計(jì)算革命，算力瓶頸何解？ AI領(lǐng)域正在經(jīng)歷一場(chǎng)顛覆性的變革！DeepSeek，一款近期火爆全球的開(kāi)源AI大模型，正與GPT-4、Sora等模型一起，掀起一場(chǎng)前所未有的算力競(jìng)賽。隨著AI訓(xùn)練規(guī)模的指數(shù)級(jí)增長(zhǎng)，計(jì)算資源的短缺已經(jīng)成為無(wú)法忽視的問(wèn)題——算力不足，功耗爆表，傳統(tǒng)芯片難以支撐未來(lái)AI需求！ 當(dāng)前主流的馮·諾依曼架構(gòu)已無(wú)法跟上AI發(fā)展的步伐，存儲(chǔ)與計(jì)算分離導(dǎo)致數(shù)據(jù)搬移成

  與非網(wǎng)編輯

  1783

  02/17 08:17

  DeepSeek 可編程

  
• 算力遷徙，價(jià)格風(fēng)暴，AI芯片如何啟新局？

  國(guó)產(chǎn)AI芯片的發(fā)展歷程中，“泡沫破裂”似乎是一個(gè)難以回避的階段。特別是個(gè)別企業(yè)的市場(chǎng)表現(xiàn)引發(fā)了市場(chǎng)對(duì)AI芯片的擔(dān)憂。然而，這也并非全然是負(fù)面現(xiàn)象，更像是技術(shù)創(chuàng)新和市場(chǎng)篩選的必經(jīng)之路。

  張慧娟

  3111

  01/24 10:52

  與非觀察 AI芯片

  
• 大模型驅(qū)動(dòng)下的存算一體技術(shù)：2024年回顧與2025年前瞻

  2024年，大模型技術(shù)的迅猛發(fā)展成為人工智能領(lǐng)域的核心驅(qū)動(dòng)力，其對(duì)硬件算力和存儲(chǔ)效率的極致需求，促使存算一體技術(shù)在全球范圍內(nèi)迎來(lái)前所未有的關(guān)注與突破。隨著模型參數(shù)規(guī)模的持續(xù)膨脹和應(yīng)用場(chǎng)景的不斷拓展，存算一體技術(shù)作為解決數(shù)據(jù)傳輸瓶頸、提升計(jì)算效率的關(guān)鍵方案，展現(xiàn)出巨大的發(fā)展?jié)摿Α?在大模型的推動(dòng)下，存算一體技術(shù)在學(xué)術(shù)界和產(chǎn)業(yè)界均取得了顯著進(jìn)展。學(xué)術(shù)研究聚焦于如何通過(guò)存內(nèi)計(jì)算優(yōu)化大模型的訓(xùn)練與推理效率

  與非網(wǎng)編輯

  3143

  01/23 07:07

  大模型 存算一體
• 存算一體芯片，帶來(lái)了哪些驚喜？

  近年來(lái)，隨著AI應(yīng)用場(chǎng)景的爆發(fā)式增長(zhǎng)，AI算法對(duì)算力的需求急劇上升，這一增速已顯著超越了摩爾定律所預(yù)測(cè)的硬件性能提升速度。傳統(tǒng)的計(jì)算芯片，在計(jì)算資源、處理時(shí)延以及功耗控制方面，逐漸顯現(xiàn)出難以滿足AI高并行計(jì)算需求的局限性。

  半導(dǎo)體產(chǎn)業(yè)縱橫

  2911

  2024/08/22

  AI芯片 存算一體

  
• 清華團(tuán)隊(duì)發(fā)布3D DRAM存算一體架構(gòu)！

  近日，清華大學(xué)集成電路學(xué)院在2024 ACM/IEEE第51屆年度計(jì)算機(jī)體系結(jié)構(gòu)國(guó)際研討會(huì)(ISCA)上發(fā)表了國(guó)際首款面向視覺(jué)AI大模型的三維DRAM存算一體架構(gòu)，可大幅突破存儲(chǔ)墻瓶頸，并基于三維集成架構(gòu)特點(diǎn)，實(shí)現(xiàn)相似性感知計(jì)算，進(jìn)一步提高AI大模型的計(jì)算效率。

  全球半導(dǎo)體觀察

  2660

  2024/08/12

  dram 存算一體

  
• AI時(shí)代的存力騰飛

  在數(shù)字經(jīng)濟(jì)大潮下，數(shù)據(jù)已經(jīng)成為新型的生產(chǎn)資料。目前數(shù)據(jù)中心有三大力量：計(jì)算的力量——算力、存儲(chǔ)的力量——存力、運(yùn)輸?shù)牧α俊\(yùn)力，即網(wǎng)絡(luò)的力量。算力產(chǎn)業(yè)鏈正在火熱發(fā)展的同時(shí)，存力的需求也大幅度提升。2023年上半年，我國(guó)存力規(guī)模增長(zhǎng)了23%，達(dá)到了1080EB。

  半導(dǎo)體產(chǎn)業(yè)縱橫

  2180

  2024/06/17

  算力 存儲(chǔ)

  
• 用硅模擬人腦，進(jìn)度條走到了1/80

  貓頭鷹的大腦約有11.5億個(gè)神經(jīng)元、1280億個(gè)突觸。全部塞進(jìn)一個(gè)微波爐大小的機(jī)箱——就成了世界上最大的神經(jīng)擬態(tài)系統(tǒng)，英特爾Hala Point。

  量子位

  1193

  2024/05/31

  英特爾 存算一體

  
• AI的未來(lái)發(fā)展：分治法在左，端到端在右

  陽(yáng)萌或許是我接觸過(guò)的最懂技術(shù)的CEO：他是北大計(jì)算機(jī)本科，碩博連讀機(jī)器學(xué)習(xí)專業(yè)，但博士讀了一半就跑了；他是百億營(yíng)收大廠安克創(chuàng)新的創(chuàng)始人，也曾在谷歌做搜索算法的研發(fā)；他的公司主要做的是充電寶、掃地機(jī)器人這些消費(fèi)類電子產(chǎn)品，但我們聊的是人工智能、芯片等等硬科技。

  老石

  3316

  2024/05/17

  AI 存算一體

  
• 在當(dāng)前數(shù)字化高速發(fā)展的時(shí)代，數(shù)據(jù)處理和存儲(chǔ)的需求日益增長(zhǎng)，傳統(tǒng)的計(jì)算與存儲(chǔ)分離的模式已逐漸難以滿足高效、低能耗的需求。因此，業(yè)界迫切需要一種新型的解決方案來(lái)應(yīng)對(duì)這一挑戰(zhàn)。存算一體便是當(dāng)下最熱門的方案之一。

  半導(dǎo)體產(chǎn)業(yè)縱橫

  4991

  2024/04/09

  存算一體 存內(nèi)計(jì)算
  
  AI芯片黑馬一夜爆紅：成本推算爭(zhēng)議不斷，前員工現(xiàn)員工互撕

  2月21日?qǐng)?bào)道，在OpenAI推出又一爆款力作AI視頻生成模型Sora后，連帶著偏上游的AI芯片賽道熱度一點(diǎn)即著。創(chuàng)始成員來(lái)自谷歌TPU團(tuán)隊(duì)的美國(guó)存算一體AI芯片公司Groq便是最新贏家。這家創(chuàng)企自稱其自研AI推理引擎LPU做到了“世界最快推理”，由于其超酷的大模型速度演示、遠(yuǎn)低于GPU的token成本，這顆AI芯片最近討論度暴漲。連原阿里副總裁賈揚(yáng)清都公開(kāi)算賬，分析LPU和H100跑大模型的采購(gòu)和運(yùn)營(yíng)成本到底差多少。

  芯東西

  2189

  2024/02/22

  AI芯片 存算一體

  
• AI芯片格局震蕩，國(guó)產(chǎn)廠商“錢途”幾何？

  AI當(dāng)前面臨的形勢(shì)是極其復(fù)雜的，既需要底層技術(shù)的根本變革，也需要軟硬件生態(tài)、上下游供應(yīng)鏈的合力發(fā)展，同時(shí)，也要充分看到AI大模型的發(fā)展方向，下沉到邊緣、端側(cè)是必然方向，也將給多元算力發(fā)展帶來(lái)全新機(jī)遇。

  張慧娟

  3429

  2024/01/11

  與非觀察 GPU
• 2023年，國(guó)產(chǎn)存算一體走到產(chǎn)業(yè)化拐點(diǎn)

  AI算力在2023年呈現(xiàn)出快速增長(zhǎng)態(tài)勢(shì)。一方面，千行百業(yè)的AI應(yīng)用推動(dòng)了算力的結(jié)構(gòu)性增長(zhǎng)機(jī)會(huì)，AI芯片繼續(xù)多樣化演進(jìn)趨勢(shì)；另一方面，從大模型到AIGC，算力需求激增，且隨著模型規(guī)模和參數(shù)量的增長(zhǎng)，算力需求仍在暴漲。 這也引發(fā)了業(yè)界的持續(xù)討論：在競(jìng)逐更強(qiáng)、更快的未來(lái)算力時(shí)，還有哪些焦點(diǎn)問(wèn)題不容忽視？面向更大規(guī)模的數(shù)據(jù)密集型AI應(yīng)用中，居高不下的功耗問(wèn)題如何解決？ 國(guó)產(chǎn)存算一體，重大進(jìn)展 在新一輪算力

  張慧娟

  3689

  2023/10/26

  與非觀察 AI芯片
• 地方AI芯片政策大爆發(fā)！3省9城新規(guī)出臺(tái)，涉及大模型、存算一體、類腦計(jì)算

  多地拼搶AI芯片產(chǎn)業(yè)，政策密集出臺(tái)，除了給錢還有啥？根據(jù)芯東西不完全統(tǒng)計(jì)，今年以來(lái)，江蘇、南京、北京、深圳、成都、無(wú)錫、四川、上海、福建、重慶、杭州、寧夏等至少12個(gè)省市在最新公布的政策文件中明確提及對(duì)人工智能（AI）芯片的規(guī)劃支持。

  芯東西

  2006

  2023/08/27

  AI芯片 大模型

  
• 存算一體視覺(jué)SoC 破解端側(cè)Transformer處理難題

  目前，AI模型的主干網(wǎng)絡(luò)正從CNN轉(zhuǎn)變?yōu)門ransformer，因?yàn)楹笳呔哂芯雀摺⑷中蕴卣?、多模態(tài)和遷移性強(qiáng)的特點(diǎn)。在云端，用Transformer已經(jīng)可以實(shí)現(xiàn)虛擬教師、AI智能對(duì)話（例如ChatGPT），代碼自動(dòng)生成等場(chǎng)景，可以用GPU加速計(jì)算Transformer，但在端側(cè)——如機(jī)器人、智慧教育等場(chǎng)景——目前的處理器在Transformer的加速計(jì)算上還面臨難題。

  響指

  2340

  2023/05/16

  存算一體 Transformer

  
• 后摩智能大算力存算一體芯片用于智能駕駛，商用元年開(kāi)啟？

  對(duì)算力芯片來(lái)說(shuō)，最根本的追求就是計(jì)算效率，因此優(yōu)良的能效比一直是提升計(jì)算能力的關(guān)鍵。當(dāng)前，將內(nèi)存和計(jì)算更緊密地結(jié)合在一起的存算一體方案，正獲得越來(lái)越多的關(guān)注，并逐步由研究走入商用場(chǎng)景中。 存算一體架構(gòu)優(yōu)勢(shì) 在傳統(tǒng)的馮·諾依曼架構(gòu)中，由于計(jì)算與存儲(chǔ)分離，計(jì)算過(guò)程中需要不斷通過(guò)總線交換數(shù)據(jù)，將數(shù)據(jù)從內(nèi)存讀進(jìn)CPU，計(jì)算完成后再寫回存儲(chǔ)。而隨著深度學(xué)習(xí)的發(fā)展和應(yīng)用，計(jì)算單元和存儲(chǔ)單元之間的數(shù)據(jù)移動(dòng)尤為頻

  張慧娟

  2039

  2023/05/13

  與非觀察 智能駕駛

  
• AI算力的下一極——存算一體走向商用

  對(duì)算力芯片來(lái)說(shuō)，最根本的追求就是計(jì)算效率，因此優(yōu)良的能效比一直是提升計(jì)算能力的關(guān)鍵。并行計(jì)算、分布式計(jì)算，以及采用算法和硬件高度集成的專用芯片，都是業(yè)界這些年的主要實(shí)踐。 雖然多核CPU/眾核GPU的并行加速技術(shù)可以提升算力，但隨著摩爾定律逼近極限，存儲(chǔ)帶寬已經(jīng)在制約計(jì)算系統(tǒng)的有效帶寬，系統(tǒng)算力增長(zhǎng)步履維艱。也就是在這一背景下，存算一體成為探尋極致計(jì)算效率道路上一個(gè)新方向，業(yè)界甚至稱它為“AI算力

  張慧娟

  2414

  2023/05/12

  與非觀察 AI芯片
• 算力256TOPS，典型功耗35W，存算一體芯片殺入智能駕駛

  “最高物理算力256 TOPS，典型功耗35W，基于12nm制程工藝?！?月10日，后摩智能發(fā)布首款基于存算一體架構(gòu)的智駕芯片——鴻途?H30，并公布上述關(guān)鍵指標(biāo)。

  HiEV大蒜粒車研所

  1335

  2023/05/11

  智能駕駛 算力

  
• 把GPT時(shí)代引擎拉滿，國(guó)產(chǎn)AI大算力芯片換道狂飆

  當(dāng)ASIC、GPGPU發(fā)展道路面臨底層技術(shù)與產(chǎn)業(yè)需求的雙向夾擊，“換道”也許能開(kāi)辟新的可能。誰(shuí)能率先填補(bǔ)大模型算力需求的缺口，誰(shuí)就有機(jī)會(huì)搶占新一輪AI芯片搶位賽的前排。

  智東西

  1540

  2023/04/07

  算力芯片 AI計(jì)算
• 主控芯片大亂斗，“存算一體”將如何改變企業(yè)級(jí)SSD?

  ? 2021年12月國(guó)務(wù)院印發(fā)“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃，強(qiáng)調(diào)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型邁上新臺(tái)階的要求，自上而下明確數(shù)字化轉(zhuǎn)型方向。全球范圍內(nèi)數(shù)字經(jīng)濟(jì)占比持續(xù)提升，根據(jù)IDC數(shù)據(jù)顯示，2020年內(nèi)全球企業(yè)數(shù)字化轉(zhuǎn)型相關(guān)支出達(dá)1.3萬(wàn)億美元，預(yù)計(jì)到2024年支出將增長(zhǎng)至2.4萬(wàn)億美元，同期非數(shù)字化轉(zhuǎn)型的ICT投資將以-1.6%的CAGR收縮。 新興業(yè)務(wù)場(chǎng)景驅(qū)動(dòng)下，企業(yè)對(duì)于數(shù)據(jù)實(shí)時(shí)性需求正在不斷增加：

  李堅(jiān)

  3132

  2023/03/07

  SSD 存算一體
• 達(dá)摩院預(yù)測(cè)后摩爾時(shí)代的三駕馬車：芯粒、存算一體與CIPU

  編輯 | 包永剛

  雷鋒網(wǎng)

  776

  2023/01/12

  存算一體 芯粒

正在努力加載...