• 第三代昆侖芯萬卡集群點亮，全版本適配DeepSeek訓(xùn)練推理

  兩周之內(nèi)，DeepSeek成為全球增速最快的AI應(yīng)用。2月6日，昆侖芯宣布，已完成DeepSeek訓(xùn)練推理全版本適配，在追求低成本、高效率的基礎(chǔ)上支持卓越性能，能夠?qū)崿F(xiàn)一鍵部署，為廣大開發(fā)者提供更快、更強、更省的訓(xùn)練推理體驗。

  中國電子報

  3666

  02/10 15:45

  DeepSeek 昆侖芯片

  
• 人形機器人重大突破！英偉達攜中國初創(chuàng)企業(yè)登上世界舞臺

  NVIDIA打造的仿真環(huán)境，以及與業(yè)界在合成數(shù)據(jù)等方面探索，正在逐一打破落地瓶頸，為人形機器人注入新靈魂，開啟新范式，推動人形機器人產(chǎn)業(yè)步入快速發(fā)展期。

  張慧娟

  1608

  01/26 14:34

  與非觀察 大模型
• AI模型訓(xùn)練【偏差/方差】與【欠擬合/過擬合】

  在我們拿到一個數(shù)據(jù)集，高高興興準備訓(xùn)練一個模型時，會遇到欠擬合或過擬合的問題，業(yè)內(nèi)也喜歡用偏差和方差這兩指標去定義它們，那這些詞什么意思呢？有什么方法能避免/解決 欠擬合和過擬合呢？這其實是非常非常基礎(chǔ)的概念，但是其實即使是業(yè)內(nèi)人士很難一下子把它們完全講明白，并列出全面的解決方法，本文為你最通俗地解答。

  全棧O-Jay

  2084

  2024/12/26

  AI模型 AI訓(xùn)練

  
• Ubuntu人工智能訓(xùn)練環(huán)境搭建

  Ubuntu版本信息： cat /etc/lsb-release 1、創(chuàng)建部署用戶 創(chuàng)建一個用戶，非root用戶即可，創(chuàng)建用戶示例： # 創(chuàng)建用戶 sudo useradd -d /home/yeqinfang -m yeqinfang sudo passwd yeqinfang # 賦予免密sudo權(quán)限，可以不執(zhí)? echo "yeqinfang ALL = (root) NOPASSWD:AL

  Lion King

  381

  2024/12/13

  人工智能 ubuntu
• 強攻GPU，TPU芯片一夜躥紅

  自ChatGPT爆火之后，AI大模型的研發(fā)層出不窮，而在這場“百模大戰(zhàn)”激戰(zhàn)正酣之際，美國芯片公司英偉達卻憑借其GPU在大模型計算中的出色發(fā)揮賺得盆滿缽滿。

  半導(dǎo)體產(chǎn)業(yè)縱橫

  3084

  2024/08/19

  GPU TPU

  
• AI 2.0時代，服務(wù)器DDR5底層架構(gòu)迎來變革

  DDR5 內(nèi)存模塊是第一個在內(nèi)存模塊上集成PMIC的主要內(nèi)存類型，未來，隨著對更高性能和電源效率的需求不斷增長，可能會定義新型內(nèi)存模塊。而且，這些模塊很有可能繼續(xù)在模塊上集成 PMIC，以進一步優(yōu)化電源管理并提高整體系統(tǒng)性能。

  張慧娟

  1913

  2024/07/16

  與非觀察 大模型
• H100利用率飆升至75%！英偉達親自下場FlashAttention三代升級，比標準注意力快16倍

  大模型訓(xùn)練推理神作，又更新了！主流大模型都在用的FlashAttention，剛剛升級第三代。時隔一年，F(xiàn)lashAttention-3已經(jīng)全方位升級。訓(xùn)練速度提升1.5-2倍，F(xiàn)P16下計算吞吐量高達740TFLOPs/s，達理論最大吞吐量75%，更充分利用計算資源，此前只能做到35%。

  量子位

  999

  2024/07/14

  英偉達 大模型

  
• 臺達研究院闕志克：降伏AI訓(xùn)練“吃電怪獸”靠誰？

  數(shù)據(jù)中心機房內(nèi)，一排排機柜內(nèi)線纜虬結(jié)、風(fēng)扇呼嘯，燈光閃爍，徹夜不息……當(dāng)前，這樣的數(shù)據(jù)中心已經(jīng)遍及世界各地，并仍然在世界頭部科技廠商的引領(lǐng)下不斷增長。僅在今年6月內(nèi)，微軟就已宣布將在瑞典、馬來西亞、西班牙等國家投資建設(shè)數(shù)據(jù)中心，項目投資總金額超140億美元；同時，英偉達計劃在未來5年內(nèi)投資3萬億美元建設(shè)數(shù)據(jù)中心；亞馬遜云科技則規(guī)劃在未來15年內(nèi)投入約1500億美元用于全球數(shù)據(jù)中心的建設(shè)與運營……

  中國電子報

  661

  2024/06/25

  數(shù)據(jù)中心 AI加速器

  
• 黃仁勛“松弛感”演講談創(chuàng)新：偉大的智慧是退后一步

  在生成式AI的熱潮來臨之前需要思考：人工智能的背景是什么？深度學(xué)習(xí)的基礎(chǔ)是什么？長期的影響是什么？

  張慧娟

  4794

  2024/06/03

  與非觀察 GPU

正在努力加載...