2026年8月18日 星期二

打造自已的AI 機器人

這是一份專為零基礎新手設計的入門指南。我運用了生活化比喻與條理化結構，將艱深的技術名詞轉化為直覺、易懂的語言，幫助初學者輕鬆跨過門檻。

打造自己的 AI 機器人：Ollama 完全新手入門指南

想像一下，如果你想在自己的電腦裡放一顆「AI 大腦」，讓它不需連上網路、不用付月費、也不會洩漏隱私就能為你工作——Ollama 就是幫你實現這件事的最佳工具！

簡單來說，Ollama 就像是 AI 界的 App Store 與驅動引擎，能讓你輕鬆把各種 AI 模型下載到電腦裡執行。

一、下載 Ollama 的 Model（AI 大腦）

在開始之前，請先至 Ollama 官網 下載並安裝 Ollama 軟體（就像安裝普通電腦軟體一樣）。

安裝完成後，我們就需要來「下載 AI 的大腦」（即 Model/模型）。

1. 什麼是 Model？

Model（模型）就是 AI 的知識庫與思考習慣。不同的模型有不同的強項，有些擅長寫程式，有些擅長中文對話，有些體積小速度快。

2. 如何下載與執行？

打開你電腦的「終端機」（Windows 請開 PowerShell，Mac 請開 Terminal），輸入簡單的指令即可：

# 下載並直接開始與 AI 對話（以 Meta 開源的 Llama 3.2 為例）
ollama run llama3.2
💡 新手小貼士：模型的「體積大小」
你可能會看到模型名稱後面帶有 3B、8B、70B 等字樣。B 代表 Billion（十億個參數）：
  • 3B ~ 8B：適合一般個人電腦/筆電，運作順暢，能力就很優秀。
  • 70B 以上：需要專業級顯示卡（VRAM），思考更聰明但佔用資源多。

二、調整部份參數的方式

預設的 AI 講話可能比較中規中矩，如果你希望它「更有創意」、「更嚴謹」或是「扮演特定角色」，你可以透過調整參數來改變它的行為。

簡單比喻：調整 AI 的「性格按鈕」

你可以透過建立一個名為 Modelfile 的設定檔來調整參數，最常見的調整項目如下：

1. Temperature（溫度：控制創意度）

  • 數值範圍：0.0 ~ 1.0
  • 低溫度（如 0.2）：AI 會變得非常嚴謹、理性、客觀，適合回答數學題、寫程式或分析數據。
  • 高溫度（如 0.8）**：AI 會變得富有想像力、活潑，適合寫故事、發想行銷企劃。

2. System Prompt（系統提示詞：設定角色）

告訴 AI 它現在是誰，例如：「你是一位專業的英文文案編輯，請用簡潔優雅的語氣回答問題。」

3. 實際設定範例

建立一個記事本檔案，檔名取為 Modelfile，寫入以下內容：

FROM llama3.2

# 設定溫度為 0.3（偏向嚴謹）
PARAMETER temperature 0.3

# 設定 AI 的角色與個性
SYSTEM """
你是一位親切且富有耐心的 AI 助理，回答問題時請多用條列式說明。
"""

最後在終端機輸入 ollama create my-ai -f ./Modelfile，你就擁有一個專屬設定的 AI 機器人了！

三、透過代理人（Agent）呼叫 Ollama 的模型

剛才我們是用「一問一答」的方式和 AI 對話，但如果你希望 AI 「自動幫你做事」，就需要引進 Agent（代理人） 的概念。

1. 什麼是 Agent（代理人）？

  • 一般 AI 對話：你問它「今天天氣如何？」，它回答「請去查氣象局」。
  • Agent 代理人：你問它「今天天氣如何？」，Agent 會自動幫你打開網頁、搜尋天氣、整理成簡報並發寄信給你。

代理人就是「給 AI 裝上手腳與工具」，讓它能幫你自動化執行連續任務。

2. 電腦如何與 Ollama 溝通？

Ollama 在背景執行時，會自動提供一個「通訊門牌號碼」（即 API 端點，預設為 http://localhost:11434）。

許多 Agent 框架（例如 LangChain、CrewAI、Dify 等）或 Python 程式碼，只要填入這個門牌號碼，就能直接呼叫你本地端的 Ollama AI 幫忙做決策與自動化任務！

四、如何 RAG 本地端的 Ollama（讓 AI 讀懂你的私人文件）

1. 什麼是 RAG？

RAG（Retrieval-Augmented Generation，檢索增強生成）聽起來很專業，其實概念就是：「開書考試」。

  • 沒用 RAG：AI 只憑它以前學過的常識回答（它不知道你公司的內部文件、你的個人筆記）。
  • 用了 RAG：當你問問題時，系統先去你的私人資料夾翻書（搜尋相關段落），把找到的資料貼給 Ollama 看，再讓 Ollama 根據這些資料回答問題。

2. RAG 的運作 4 步驟

[你的私人文件/PDF] ➔ [切割成小段落] ➔ [轉化為數位指紋] ➔ [AI 翻書並回答]
  1. 切碎（Chunking）：把長篇的 PDF 或 Word 文件切成一頁頁或一段段的小文字塊。
  2. 轉化數位指紋（Embedding）：利用專門的模型（例如 nomic-embed-text）把文字轉變成機器看得懂的數字特徵（向量）。
  3. 存入私人書櫃（Vector DB）**：把這些數位指紋存進本地資料庫。
  4. 檢索與回答（RAG）：
    • 你問：「我們公司的請假規定是什麼？」
    • 系統去書櫃找出「請假規定」相關段落。
    • 將段落與你的問題一起交給 Ollama，Ollama 就能準確回答出你公司的規定！
💡 新手快速上手建構 RAG 的推薦工具
如果你不想寫程式，可以使用 AnythingLLM 或 Open WebUI 這類軟體，只要安裝後選擇 Ollama，拖放你的 PDF 檔案進去，就能獨立與自己的文件對話了！

總結

  1. Ollama：讓你在本地電腦免費運行 AI 大腦。
  2. 參數調整：調整「溫度」與「角色」，讓 AI 依照你想要的性格運作。
  3. Agent：讓 AI 擁有工具與手腳，執行自動化任務。
  4. RAG：讓 AI 開書考試，輕鬆讀懂你的私人文件與筆記。
張貼者： 於

沒有留言:

張貼留言

訂閱： 張貼留言 (Atom)