生活趣味

AI PC選購指南:從TOPS算力到未來需求,如何選擇適合的AI筆電

2024/8/19
0
783
2

喵A吉拉

24 篇文章 1 追蹤中

最近在電商常看到AI PC的筆電 , 桌機版目前還沒有. 如果我們想要買一台AI PC前,
先來了解AI PC的定義:

TOPS 是什麼?

TOPS是Trillions of Operations Per Second的縮寫,中文為「每秒兆次運算」,是一種用來衡量AI硬體運算能力的單位,1 TOPS代表處理器每秒可進行1兆次運作。

最近超微執行長蘇姿丰在2024國際電腦展上端出第3代Ryzen AI處理器,其NPU(神經網路晶片)浮點(TOPS)可進行高達50兆次,號稱領先高通、蘋果、英特爾等競爭對手;

TOPS 要多少算力才夠?

微軟近期發布的Copilot+PC系列,最低規格就須達40TOPS的算力,
目前市面上的intel Ultra 系列的AI PC筆電, NPU算力大約10~20 TOPS. 算是非常輕量算力的 AI CPU.

因此如果想要未來能跑得動windows Copilot +PC的話,
可能要再等等其他家推出新的AI CPU再來採購。

AI PC的定義

目前從上述指標來看, NPU至少 40TOPS, 記憶體至少16GB以上.

因為記憶體除了作業系統佔用外, 內建的顯卡GPU晶片也會佔用, 
通常顯示晶片可能佔掉4~6GB, 16GB減掉6GB也只剩10GB,
對AI模型資料集來說已經不夠用. 

以筆者AI訓練經驗來看, 電腦至少要24GB~32GB以上記憶體比較好.

AI PC的功能

目前AI PC還在發展中, 目前像chatGPT, Copilot都是連網路才能使用.
未來待廠商提供離線使用時, NPU的算力就派上用場了.
如: 即時翻譯、照片編輯, 效能調節, 視訊會議去背...
這種早期發展已久的AI模型, 少量TOPS就可以跑了.

至於:文字生成、圖片生成...這種生成式AI (AIGC) 需要更大的訓練模型,
筆者的經驗是AIGC記憶體至少要32~64GB才跑得動,
短期市場想要離線生成像chatGPT這種等級的AIGC模型可能還要再等等。

結論

若只是跑小型AI模型修修照片, 即時翻譯等等,
目前手機的晶片已經做得到了如: 三星S24系列. Google Pixel 8, Pixel 9....
市售中的 intel Ultra CPU + 16GB RAM 筆電或許可以考慮。

像momo購物或24h pchome都有 AI PC的專區
Ultra 5 中階效能CPU、Ultra 7 高階效能CPU ,可以依自己的需求喜歡挑選。
較新的AI PC是鍵盤上有一顆"copilot"鍵,
可直接喚出windows Copilot。

若想要跑圖文生成的AI PC先考慮NPU算力要TOPS 40以上,
記憶體可擴充到32GB~64GB比較好.(因為AI模型要載入記憶體)
還要等等如: AMD新的Ryzen AI 300 CPU上市再買。

筆者也很期待新一代的AI PC來臨, 這樣子在工作上或學語言就更方便了. 
想像可以直接跟筆電或電腦對話、聊天、問問題....解決生活雜事.
這不就是科幻電腦才會出現的嗎?

以前什麼快譯通, 翻譯軟體, 線上翻譯...可能會消失...

 圖片由 copilot 生成






分享

檢舉文章

飲酒過量有害健康、禁止酒駕、未滿十八歲禁止飲酒

即時訊息