RAG 系統實作

分類「RAG 系統實作」的全部文章(7)

2026-07-04 · @aihub.tw

RAG 是什麼:長 context 不是萬靈丹

「把整份文件全塞給模型」為什麼行不通?這堂課從零解釋 RAG 的核心概念:它到底解決了私有資料、即時性、成本這三個問題,何時反而是長 context 更划算,完整的索引管線與查詢管線長什麼樣,以及 2026 年的主流工具選型(Voyage、pgvector、Qdrant、Cohere Rerank)。最後帶你在本機跑通一個最小可用的 RAG,看完就知道 RAG 值不值得建、該從哪裡開始建。
2026-07-04 · @aihub.tw

Embedding:把語意變成向量

RAG 的核心引擎是 embedding:把句子轉成向量讓電腦比較語意距離。這堂課白話解釋語意座標、拆解 cosine 相似度,比較 OpenAI text-embedding-3 與 Voyage-4 的定價與中文表現,帶你用 Python 實作相似度矩陣並畫熱力圖,看出三個語意群如何自然浮現。
2026-07-04 · @aihub.tw

向量資料庫:選型與實作

光有 embedding 還不夠,你需要一個高速向量搜尋的專用資料庫。本課比較 pgvector、Chroma、Pinecone、Qdrant 四款的自架/託管/定價/規模,說明選 Qdrant 的理由,並手把手完成建庫、批次寫入 100 份文件、語義查詢與 metadata 過濾的完整實作。
2026-07-04 · @aihub.tw

切塊策略:RAG 成敗的隱形關鍵

多數 RAG 踩坑點不在模型選型,而在切塊方式。這堂課對比固定長度、按結構切、語意切塊三種策略的優劣,精算 chunk size 與 overlap 的取捨,說明表格與程式碼的特殊處理,並設計讓檢索更精準的 metadata 欄位。最後用同一份語料跑三種切法,讓你親眼看到差距。
2026-07-04 · @aihub.tw

檢索品質:hybrid search 與 rerank

純向量檢索在專有名詞、縮寫、版本號等精確匹配場景往往失靈。這堂課解釋失敗根因,教你用 BM25+向量雙路召回的 hybrid search 補上關鍵字盲點,再加二階段 rerank 精排提高排序準確度。最後從零建立黃金測試集、量出命中率與 MRR,讓你有數字依據來改善自己系統的檢索品質。
2026-07-04 · @aihub.tw

生成端:引用來源與防幻覺

RAG pipeline 的最後一哩路,也最容易翻車的一關。這堂課從 prompt 模板設計切入,教你把檢索結果正確地組進 context、強制模型標記引用來源,再用拒答工程讓「查無資料」的情境乾淨收場。接著講引用驗證、多輪對話的問題改寫策略,最後用一份完整可跑的 Python 實作把觀念串起來。
2026-07-04 · @aihub.tw

綜合實戰:個人文件問答系統上線

前六課的知識點終於要合體了。這堂課帶你從零搭起一個完整的個人文件問答系統:文件上傳、索引管線、查詢 API、簡易前端,一條龍跑通。同時精算 embedding、儲存、生成三塊的實際成本,設計增量更新讓索引不用重建,整理 ≥6 個最常踩的坑,幫你少走幾個月彎路。