久久久国产精品视频_国产成人精品日本亚洲专_日本午夜大片免费观看视频_97av麻豆蜜桃一区二区

首頁 > 活動線報 > 每日福利 > 群聯aiDAPTIV+ 技術破局“內存焦慮”:用NAND玩轉AI

群聯aiDAPTIV+ 技術破局“內存焦慮”:用NAND玩轉AI

發布時間:2025-03-19 20:36:09來源: 13041198719
3 月 19 日消息,科技媒體 NeoWin 昨日(3 月 18 日)發布博文,報道稱群聯(Phison)展示了其 aiDAPTIV+ 技術,該技術通過動態緩存擴展內存,有望突破 AI 應用的內存瓶頸。
 
IT之家援引博文介紹,人工智能(AI)和機器學習(ML)的處理能力已成為衡量現代硬件性能的重要指標,除了處理器本身的算力,AI 任務對內存的需求也十分巨大。
 
AI 模型參數和精度越高,對內存的需求越大。例如,單精度(float32)通常消耗四倍于參數值的內存。即使是 32GB 顯存的 RTX 5090,也可能被一個 80 億參數的模型“喂飽”。
 
而 aiDAPTIV+ 技術通過動態緩存,結合基于 NAND 閃存“aiDAPTIVCache”緩存技術,擴展可用的 HBM(高帶寬內存) / GDDR(專為高帶寬應用設計的同步動態隨機存取存儲器)。
 
在 GTC 2025 大會上,群聯攜手 Maingear 公司,推出了應用 aiDAPTIV+ 技術的 AI PRO 桌面工作站,并通過 aiDAPTIVLink 3.0 新版中間件,負責 SSD 的 NAND 和 GPU 之間的數據傳輸,提供更快的首個 Token 時間(TTFT)回調響應,并支持更大的 LLM(大型語言模型)提示上下文。
 
 
 
下圖展示了群聯 Aidaptiv+ 技術的應用結果,在參數量超過 130 億的模型上,群聯 aiDAPTIV+ 輕松超越了 Maingear 的四路英偉達 RTX 6000 Ada 設置(未采用 aiDAPTIV+)。
 
 
 
Maingear 介紹稱 PRO AI 工作站會動態切片 70B 訓練模型,將當前切片提供給 GPU 進行高速訓練,同時將模型的其余部分存儲在 DRAM 和群聯 AI100 SSD 中。每個 NVIDIA RTX 6000 ADA 在訓練中以最少的停機時間全面表現。

每日福利更多>>

廣汽集團升級智駕技術品牌 將不設上限支持昊鉑品牌發展 國產之光!麒麟 X90 自研 PC 處理器橫空出世,震撼科技圈 IDC:2024年中國PC顯示器市場出貨量2705萬臺 阿里正在開發殺手級AI應用,或比抖音更受歡迎 在眾贏財富通交了服務費怎么退?答案是:可以退!怎么申請退款流程公布!誤導性宣傳欺騙股民已退費! 農村夫妻養牛逆襲:靠抖音賣牛肉,年入百萬 京東外賣全職騎手已突破萬人,平臺承擔騎手繳納五險一金全部成本 大決 策36800元核心團隊可靠嗎?不靠譜,夸大收益坑慘投資者!真相不寒而栗!已退費! Alipay+攜手成都天府通:香港游客逛成都,可用港版“支付寶”乘坐公交、地鐵 降低購房成本 金融政策發力穩樓市 房產市場開啟“電車時刻”住宅升級浪潮下,你的房子該何去何從? 驍龍8 Gen3旗艦突降千元!真我GT5 Pro掀起價格戰,影像旗艦誰更值 超級移動娛樂終端 華為將推Pura X新形態手機 OPPO Find N5更多消息,Find N3低至百元網友直呼按打買 斯柯達Elroq SUV——縮小版的斯柯達Enyaq 雷克薩斯雙重驚喜來襲!“時光煥新計劃”最高19000元置換補貼禮 車長超5米的大型SUV也有操控?深度試駕東風奕派eπ008 小米SU7到底怎么樣?30萬級純電轎車真實測評 四五十歲中年人最適合的十款轎車深度解析 2025款起YA獅跑(Sportage):韓系猛將的銷量新貴,買它值不值? 2025 款起YA獅跑全面評測!家用 SUV 的 “六邊形戰士”? “電”亮未來 東風汽車以硬核實力加速科技躍遷 智駕普惠浪潮來襲!!傳祺向往 S7以“普及先鋒” 重塑智駕市場格局 全新大眾速騰來襲,1.5T最大功率160馬力,風阻0.25Cd,油耗5.71L 同樣的價格你選合資還是國產?賽科龍RT2 VS新大洲本田NS150GX 2025款比YA迪唐DM-i深度評測】家庭SUV新標桿,智駕升級值不值? 德系豪華:奔馳E300動力越級+油耗親民,家庭與商務的全能答案 都說豐田不好,但為什么全球銷量第一?到底值不值得買? 豐田 Rav4 插電式混合動力車:毫不妥協的 SUV 吉利XING愿起售不足7萬,至高續航410km,難怪它月銷近3萬