毫無疑問，AI 技術(shù)已經(jīng)成為了智能手機(jī)、電腦等個(gè)人運(yùn)算設(shè)備的下一個(gè)轉(zhuǎn)折點(diǎn)。在上游芯片領(lǐng)域，高通、英特爾等品牌已經(jīng)完成了 NPU、AI 芯片等產(chǎn)品的產(chǎn)品布局，正旗幟鮮明地朝著 AI 技術(shù)落地進(jìn)發(fā)。在產(chǎn)品側(cè)，自 2023 年驍龍峰會(huì)結(jié)束后，除 Apple 外各大品牌都爭先推出采用 AI 大語言模型技術(shù)的具體產(chǎn)品。在前段時(shí)間才結(jié)束的 CES 2024 上，三星、華碩、聯(lián)想、戴爾等知名電腦品牌都發(fā)布了自己的「AI 電腦」產(chǎn)品，在三星「開箱日」（Unpacked）活動(dòng)中，三星更是發(fā)布了其首批「AI 手機(jī)」——Galaxy S24 系列。

就連為了照顧老舊硬件兼容性而常常慢半拍的微軟，也決定在未來的 Windows 11/12 中加入更多的 AI 功能。在 2023 年 Ignite 2023 開發(fā)者大會(huì)上，微軟 CEO 納德拉甚至表示微軟成為了一家「Copilot 公司」。

圖片來源：微軟

但從硬件配置上，有些電腦似乎還沒有準(zhǔn)備好迎接 AI 時(shí)代。

市場調(diào)查機(jī)構(gòu) TrendForece 的一則資訊中提到：

微軟已將 AI PC 中的內(nèi)存基線設(shè)置為 16 GB。從長遠(yuǎn)來看，TrendForce 預(yù)計(jì)人工智能PC將促進(jìn)對(duì) PC 內(nèi)存的年度需求增加，消費(fèi)者升級(jí)趨勢進(jìn)一步推動(dòng)了這一需求。

換句話說，如果你電腦內(nèi)存小于 16GB，微軟的 Copilot AI 很可能與你無緣。

16GB 門檻并不高？

對(duì)于你我這種數(shù)碼愛好者，16GB 的內(nèi)存基線似乎不高，畢竟在 2023 年 12 月的 Steam 硬件調(diào)查中，內(nèi)存小于 16GB 的玩家占比只有不到 22%。但就像剛剛說的那樣，這個(gè)數(shù)字只能代表 Steam 玩家?？紤]到實(shí)際狀況，這個(gè) 22% 并不具有普適性。再說了，微軟的 Copilot AI 面向的更多的是工作場景，直接用 PC 玩家的高配游戲電腦來參考并不科學(xué)。

圖片來源：Steam

考慮到大多數(shù)公司的商用電腦更換周期為 3 年，我們不妨以 3 前，既 2020 年的配置來做參考。根據(jù) Digital Trened 的數(shù)據(jù)，2020 年普通消費(fèi)者的筆記本電腦通常只配備 8GB 內(nèi)存。 比如在 2020 年某市某數(shù)據(jù)中心的競價(jià)公告中，所采購的電腦內(nèi)存就只有 8GB，未達(dá)到「基準(zhǔn)線」。

圖片來源：重慶市政府采購網(wǎng)

當(dāng)然了，考慮到 Windows 11 的實(shí)際表現(xiàn)，微軟和 Copilot 其實(shí)沒有挑三揀四的底氣：根據(jù) Statcounter 公布的數(shù)據(jù)，截至 2023年 11 月，Windows 11 的系統(tǒng)占比僅為26.66%。與此同時(shí) Windows 10 占比高達(dá) 68%，其余的所有系統(tǒng)版本加起來占比都不到 Windows 10 的 50%。

再聯(lián)系到前段時(shí)間微軟正想盡一切辦法「驅(qū)趕」用戶改用 Windows 11，甚至不惜「開閘放水」允許用戶以自己的方式激活 Windows 11，小雷并不認(rèn)為微軟會(huì)在內(nèi)存上為未來的 Windows 11 用戶設(shè)計(jì)障礙，很有可能會(huì)在最后關(guān)頭放開內(nèi)存限制，或允許用戶全量升級(jí)，但不保證關(guān)鍵應(yīng)用的運(yùn)行結(jié)果。

不過話又說回來，現(xiàn)在的 AI 大語言模型在智能手機(jī)上都能正常運(yùn)行，高通甚至在 2023 驍龍峰會(huì)展示了極為高效的手機(jī) AI 大語言模型，難道 8GB 電腦就真的跑不動(dòng) AI 嗎？或者說有沒有什么辦法可以讓 AI 大語言模型應(yīng)用運(yùn)行在 8GB 手機(jī)上呢？

辦法自然是有的，比如將本地模型和線上模型混合調(diào)用的混合式 AI 大語言模型。

「分布式」混合大模型是未來？

從運(yùn)行位置來說，當(dāng)前AI 大語言模型應(yīng)用大致可以分為三類：本地運(yùn)行、遠(yuǎn)端運(yùn)行和混合運(yùn)行。本地運(yùn)行很好理解，即整個(gè)模型就跑在當(dāng)前正在交互的系統(tǒng)中，可以離線運(yùn)行的 AI 大語言模型應(yīng)用和專業(yè)玩家在自己電腦上部署的離線模型都屬于這一類。

遠(yuǎn)端運(yùn)行與之相反，指輸入輸出的設(shè)備和運(yùn)行大語言模型的設(shè)備不在同一系統(tǒng)下的情況。那些通過網(wǎng)頁、微信小程序交互、或整個(gè)模型運(yùn)行在遠(yuǎn)端服務(wù)器上的 AI 應(yīng)用就屬于遠(yuǎn)端運(yùn)行。

圖片來源：微軟

本地運(yùn)行和遠(yuǎn)端運(yùn)行各有各的優(yōu)勢和劣勢，比如本地運(yùn)行可以斷網(wǎng)運(yùn)行，將用戶數(shù)據(jù)保留在設(shè)備本地，降低數(shù)據(jù)泄露的風(fēng)險(xiǎn)；本地模型在響應(yīng)速度上也不依賴于網(wǎng)速，可以顯著提升用戶體驗(yàn)。遠(yuǎn)端運(yùn)行雖然要將數(shù)據(jù)發(fā)往遠(yuǎn)端服務(wù)器并等待輸出結(jié)果返回，但因?yàn)檫h(yuǎn)端服務(wù)器一般都是 HPC 集群，擁有的算力和用戶本地資源根本不是同一個(gè)數(shù)量級(jí)，所以在生成式模型應(yīng)用中擁有更快的生成速度和更好的運(yùn)算精度。

而混合運(yùn)行模式則取兩家之長，根據(jù)應(yīng)用的具體需求，可以靈活地在本地和云端之間分配計(jì)算任務(wù)。例如，一些對(duì)響應(yīng)速度要求高或需要即時(shí)處理的任務(wù)可以在本地執(zhí)行，而那些對(duì)計(jì)算能力要求更高的分析和學(xué)習(xí)任務(wù)則可以在云端進(jìn)行。這種靈活性使得AI系統(tǒng)能夠更好地適應(yīng)不同的使用場景，提供更加定制化的服務(wù)。

首先，混合模型在數(shù)據(jù)隱私和安全方面具有顯著優(yōu)勢。隨著數(shù)據(jù)泄露事件的頻繁發(fā)生，消費(fèi)者對(duì)于個(gè)人信息安全越來越關(guān)注。在混合模型中，敏感數(shù)據(jù)可以在本地處理，不必傳輸?shù)皆贫耍@大大降低了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。對(duì)于一般消費(fèi)者而言，這意味著他們可以更加放心地使用基于AI的應(yīng)用，如智能家居設(shè)備和個(gè)人健康數(shù)據(jù)分析工具，無須過分擔(dān)心個(gè)人隱私被侵犯。

其次，混合模型提供了更好的性能和響應(yīng)速度。對(duì)于需要實(shí)時(shí)反應(yīng)的應(yīng)用，如語音助手和在線游戲，本地計(jì)算能夠提供更快的處理速度，避免了因數(shù)據(jù)傳輸至云端而產(chǎn)生的延遲。而對(duì)于那些需要復(fù)雜計(jì)算和大量數(shù)據(jù)分析的任務(wù)，比如圖像識(shí)別和大型語言模型，可以利用云端的強(qiáng)大計(jì)算能力來處理，從而提供高效率的AI服務(wù)。對(duì)消費(fèi)者來說，這種結(jié)合了本地快速響應(yīng)和云端高效計(jì)算的模式能夠在不同場景下提供更加流暢和高效的體驗(yàn)。

圖片來源：微軟

靈活性是混合模型的另一個(gè)重要優(yōu)勢。它允許消費(fèi)者根據(jù)自己的需求和偏好來選擇數(shù)據(jù)處理的方式。例如在家里，消費(fèi)者可能更傾向于使用本地計(jì)算來處理個(gè)人數(shù)據(jù)，以確保隱私；而在外出時(shí)則可能更依賴云端服務(wù)來獲取信息和娛樂內(nèi)容。這種靈活性使得混合模型能夠適應(yīng)不同消費(fèi)者的多樣化需求。

此外，混合模型對(duì)于設(shè)備兼容性和更新維護(hù)也更加友好。由于云端計(jì)算可以提供最新的AI模型和算法，消費(fèi)者不必頻繁更換本地設(shè)備就能享受到最新的AI技術(shù)。同時(shí)，對(duì)于一些本地計(jì)算任務(wù)，舊設(shè)備依然可以有效運(yùn)行，這減少了設(shè)備更新的壓力，延長了設(shè)備的使用壽命，對(duì)于注重成本效益的消費(fèi)者而言，這是一個(gè)重要的優(yōu)勢。

甚至微軟自己也曾多次表示對(duì)混合 AI 大語言模型的重視，在 8GB 內(nèi)存的「死線」下，相信微軟也絕對(duì)有能力提供基本的 AI 決策能力，讓 AI 大語言模型成為一項(xiàng)「普惠」功能。

不過考慮到近幾年閃存技術(shù)突飛猛進(jìn)的發(fā)展，16GB 的基準(zhǔn)線未來也可能成為辦公電腦的標(biāo)配，畢竟這事關(guān) AI 和「生產(chǎn)力」。相信在 AI PC 的浪潮面前，16GB 內(nèi)存很可能會(huì)成為 2024 年筆記本市場的「起步配置」。

圖片來源：Apple

當(dāng)然了，售價(jià)高達(dá) 12999 元卻依舊只有 8GB 內(nèi)存的 M3 Macbook Pro 不在「AI 普惠工程」之內(nèi)。