Mac 用戶必看!用 exo 串聯多台閒置電腦,打造高性能 AI 運算集群 (免買新卡)

今天想要跟分享一個非常強大的開源軟體專案,叫做 exo。 如果你跟我一樣,手邊有不只一台 Mac 設備(例如一台新的 Mac Mini M4,加上一台舊的 MacBook Air M1),你可能會覺得舊電腦食之無味棄之可惜。今天這招教你把家裡所有支援 Apple Silicon 的 Mac 電腦「合體」,共享同一個網路並串接記憶體,直接變身成一個高性能的 AI 運算集群! 為什麼你需要 exo? 痛點:本地跑 AI 模型,記憶體永遠不夠用 想在本地跑像是 Llama 3 70B 或是 DeepSeek 這種大型語言模型 (LLM),最吃的就是 VRAM(視訊記憶體) 或 統一記憶體。 舉例來說,我的 MacBook Air M1 只有 8GB 記憶體,根本跑不動大模型;而我的主力機 Mac Mini M4 雖然強,但記憶體也是有限的。 解法:團結力量大 exo 的核心概念就是「分佈式運算」。它能將我 Mac Mini 的記憶體與 MacBook Air 的 8GB 記憶體串接起來,讓我瞬間擁有了大約 24GB 的可用記憶體!這樣一來,原本跑不動的模型,現在都能順暢運行了。 準備工作與環境設定 在開始之前,請確保你要串聯的 每一台 Mac 電腦 都完成以下準備: 安裝 Homebrew (如果還沒裝過): 打開終端機 (Terminal),輸入以下指令安裝: /bin/bash -c "$(curl -fsSL [https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh](https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh))" 檢查 Rust 環境 (重要): 如果你之前因為其他專案安裝過 rust,建議先卸載以避免衝突(這是我安裝時踩到的坑): ...

2025-12-21 · 1 min · AFA

在 Mac 上安裝 DeepSeek OCR 的完整指南

在Mac上安裝DeepSeek OCR的完整指南 想要在你的Mac上運行DeepSeek OCR嗎?這是一個強大的本地端OCR工具,能夠快速將圖片轉換為文字。今天,我將為你提供一步一步的安裝指南,讓你輕鬆上手! 步驟一:安裝Homebrew 首先,你需要在你的Mac上安裝Homebrew,這是一個非常方便的包管理工具。 打開終端機(Terminal)。 輸入以下指令並按下Enter: /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)" 等待安裝完成。 步驟二:安裝Rust 接下來,我們需要安裝Rust,這是DeepSeek OCR所需的開發環境。 在終端機中輸入以下指令並按下Enter: brew install rust 安裝完成後,重啟終端機,然後確認Rust版本: rustc --version 確保版本大於1.78。 步驟三:下載DeepSeek OCR 現在我們來克隆DeepSeek OCR的專案。 在終端機中,進入你的下載資料夾: cd ~/Downloads 使用以下指令克隆專案: git clone <專案URL> (將 <專案URL> 替換成DeepSeek OCR的GitHub URL) 進入下載的資料夾: cd Deepseek-OCR 步驟四:安裝相關檔案 在專案目錄中,我們需要下載相關的檔案。 輸入以下指令來下載所需檔案: cargo build --release 步驟五:執行OCR 準備好後,現在我們可以執行OCR了! 確保你的圖片已經放在專案資料夾中。 使用以下指令執行OCR: ./target/release/deepseek-ocr --image <圖片路徑> --output <輸出檔案名稱>.md (替換 <圖片路徑> 和 <輸出檔案名稱>) 步驟六:處理PDF檔案 如果你想要處理PDF檔案,還需要安裝MuPDF。 在終端機中執行: brew install mupdf 轉檔PDF為圖片: mutool convert -o <輸出圖片名稱>.png <PDF檔案名稱>.pdf 總結 恭喜你!現在你已經成功在Mac上安裝了DeepSeek OCR,並能夠開始進行OCR作業了。如果你對於這個工具感興趣,請進一步探索它的功能! ...

2025-11-02 · 1 min · AFA

DeepSeek R1 模型:開源AI的未來趨勢

深入探索DeepSeek R1 模型 嘿,大家好!今天我們來聊聊最近令人驚豔的DeepSeek R1模型,它不僅在AI界掀起波瀾,還是開源的!讓我們一起來了解它的特點和使用方式吧。 DeepSeek R1的亮點 開源模型:DeepSeek R1是開源的,所有人都可以使用。 低成本訓練:訓練成本僅需600萬美元,遠低於OpenAI的1億美元。 強大功能:R1模型的性能媲美ChatGPT的o1,甚至在不同應用中都表現出色。 如何使用DeepSeek R1模型 DeepSeek R1提供了四種使用方式,讓我們逐一來看看: 1. 網頁版使用 直接訪問DeepSeek的官網,使用網頁版進行對話。 2. 移動應用 下載DeepSeek的APP(提供Android和iOS版本)。 注意:目前新註冊用戶可能無法註冊,但已註冊用戶可以正常登入。 3. 使用開源軟體Ollama 在你的電腦上下載Ollama。 使用終端機執行指令來啟動R1模型。 例如:Ollama Run DeepSeek R1 7B。 4. 使用類似ChatGPT的APP 下載LM Studio,適用於Windows和macOS。 根據你的系統選擇適合的模型進行下載。 結語 DeepSeek的迅速崛起無疑為AI領域帶來了新的挑戰和機遇。隨著這些開源工具的普及,未來的AI發展將更加迅速且多樣化。如果你對DeepSeek R1模型感興趣,不妨親自試試! 如果你喜歡這篇文章,請分享給朋友並訂閱我的頻道!祝大家新年快樂,期待未來的更多AI創新!

2025-02-01 · 1 min · AFA