# 群聯aiDAPTIV搭上聯發科天璣9500平台 邊緣AI推論時代正式到來

生成式AI正快速從雲端走向終端裝置，而真正的挑戰從來不只是算力，而是如何在有限的DRAM與功耗條件下，讓大型語言模型真正落地於行動裝置。聯發科於天璣開發者大會（MDDC 2026）宣布，與記憶體控制晶片廠群聯共同達成一項重要技術里程碑，成功在「天璣9500」行動平台上單機運行200億參數的大型語言模型。這項成果代表過往需要16GB以上DRAM才能執行的大模型，現在僅需12GB DRAM即可流暢運作，大幅降低生成式AI落地在手機與邊緣裝置的硬體門檻。邊緣端AI推論的時代，已真正到來。

aiDAPTIV：重新定義邊緣AI的記憶體架構

群聯的專利aiDAPTIV技術，核心概念在於將NAND Flash有效延伸為AI記憶體資源，突破傳統GPU記憶體容量的限制。過往執行大型語言模型時，龐大的模型權重必須完整載入DRAM或GPU HBM，這對消費級裝置而言構成了難以跨越的硬體門檻。aiDAPTIV透過智慧的分層記憶體架構，將部分模型權重動態卸載至UFS存儲層，有效降低對DRAM的依賴。

具體而言，aiDAPTIV Hybrid UFS解決方案結合了aiDAPTIV Cache Memory與aiDAPTIV Middleware技術。當系統記憶體不足時，軟體中介層會聰明地將冷資料（較少使用的模型權重）分頁至高速UFS儲存裝置，並在需要時快速喚回。這種設計讓原本需要16GB以上DRAM的大模型，能在12GB DRAM環境下流暢運行，堪稱邊緣AI領域的重大突破。

聯發科天璣9500：旗艦AI晶片的完美搭配

聯發科的天璣9500旗艦5G AI晶片，採用業界先進的第三代3奈米製程，整合了超高性能與超節能的雙NPU設計。全新超性能NPU990生成式AI引擎2.0，搭配存算一體超節能NPU，支援4K超高清畫質影像生成與BitNet 1.58bit模型運算。全新大模型記憶體壓縮技術的加入，則為aiDAPTIV的整合提供了最佳平台。

天璣9500的設計理念強調「Agentic AI」，也就是讓手機從被動的工具轉變為主動的智慧助理。這種轉型需要更強大的本地端AI推論能力，因為敏感資料勢必需要在裝置端處理，而非傳送至雲端。aiDAPTIV技術恰好填補了這個缺口，讓200億參數的大模型能在手機上離線運行，實現真正隱私優先的AI體驗。

從雲端到邊緣：AI普及化的最後一哩路

群聯執行長潘健成指出：「傳統記憶體管理機制並非為AI應用所設計，而今日的AI基礎設施也已無法再依賴通用型的記憶體管理方式。」這番話道出了AI普及化所面臨的核心困境。隨著AI從雲端走向裝置端，模型規模與記憶體需求持續攀升，如何在成本、功耗與效能之間取得平衡，成為產業界共同的難題。

aiDAPTIV的出現，正是為了打破這個僵局。透過將NAND Flash作為AI延伸記憶體使用，這項技術有效突破了邊緣AI運算的瓶頸。群聯表示，過去各產業在部署邊緣AI解決方案時，往往面臨記憶體資源不足與成本過高的雙重挑戰，如今aiDAPTIV讓這些問題迎刃而解。企業與消費者都能以更實惠的價格，在日常裝置上享受AI所帶來的便利。

多元應用場景：PC與IoT全面覆蓋

aiDAPTIV的應用版圖不僅限於智慧手機。群聯在CES 2026期間宣布，將其獨家專利的aiDAPTIV+技術延伸至整合式GPU（iGPU）的PC架構。與宏碁合作的成果顯示，在僅32GB記憶體的Acer筆電上，即可順利支援並加速gpt-oss-120b這類大型AI模型的運行。搭載aiDAPTIV+的AI筆記型電腦，讓使用者在家中、辦公室或教室就能學習如何訓練LLM，大幅降低了AI教育的硬體門檻。

在IoT與機器人領域，aiDAPTIV+同樣展現出強大潛力。NVIDIA Jetson IoT裝置搭載群聯aiDAPTIV+技術後，不僅能進行LLM訓練，還能加速首次Token召回的時間，提高推論效能。透過增加Token長度，使用者還能獲得更長且更精確的回答，大幅提升了邊緣AI的使用體驗。

與聯發科天璣9500的深度整合

在天璣開發者大會上，群聯展示了如何在Dimensity 9500平台上實現單機運行20B大型語言模型。這項技術展示不僅是炫目的Demo，更代表AI正加速從資料中心延伸至智慧手機、IoT等邊緣設備。未來，AI將不再只是雲端服務，而是真正存在於每一台裝置之中。

群聯指出，這次合作展現了新一代邊緣端AI推論的關鍵突破。透過aiDAPTIV Hybrid UFS解決方案與聯發科天璣9500的深度整合，消費者級行動裝置也能本地運行完整的生成式AI功能。從影像生成、自然語言處理到個人助理應用，幾乎所有現今需要依賴雲端的AI功能，未來都有機會在本地端實現，既保護隱私又降低延遲。

---

**參考來源：**

1. [群聯攜聯發科 搶進邊緣AI推論市場 - 鉅亨網](https://news.cnyes.com/news/id/6458943) 2. [LLM真正落地！群聯攜聯發科秀手機平臺關鍵突破 - MoneyDJ理財網](https://www.moneydj.com/kmdj/news/newsviewer.aspx?a=cf5177b2-5360-46f3-ae31-03fba3ceea34) 3. [全球首款：群聯電子與聯發科在天璣9500平台實現手機端單機運行20B大語言模型 - IT之家](https://www.ithome.com/0/949/859.htm) 4. [群聯發表aiDAPTIV多層級記憶體架構技術 重新定義邊緣AI推論能力 - 群聯官網](https://www.phison.com/zh-tw/category/article/press-releases/%E7%BE%A4%E8%81%AF%E7%99%BC%E8%A1%A8aidaptiv%E5%A4%9A%E5%B1%A4%E7%B4%9A%E8%A8%98%E6%86%B6%E9%AB%94%E6%9E%B6%E6%A7%8B%E6%8A%80%E8%A1%93-%E9%87%8D%E6%96%B0%E5%AE%9A%E7%BE%A9%E9%82%8B%E7%B7%A3-ai-%E6%8E%A8%E8%AB%96%E8%83%BD%E5%8A%9B) 5. [群聯aiDAPTIV+技術支援範圍擴展至整合式GPU平台 - 新電子](https://www.mem.com.tw/%E7%BE%A4%E8%81%AFaidaptiv%E6%8A%80%E8%A1%93%E6%94%AF%E6%8F%B4%E7%AF%84%E5%9C%8D%E6%93%B4%E5%B1%95%E8%87%B3%E6%95%B4%E5%90%88%E5%BC%8Fgpu%E5%B9%B3%E5%8F%B0/)