把公司 LINE 官方帳號接上自家伺服器上的 AI 自動回覆客戶,沒把握或敏感狀況自動轉真人客服。資料不出公司、零 API 月費。
AI 模型跑在自家 AI 伺服器,客戶對話不傳給任何第三方雲端服務,符合資安與個資要求。
不像市售 AI 服務按用量付費——模型自架,只花電費;LINE 回覆走免費機制,不消耗推播配額。
客戶在 LINE 傳一句話,系統會依序處理:
| 類別 | 採用方案 | 目的 |
|---|---|---|
| AI 模型 | 本地大語言模型(評估中) | 跑在自家伺服器,免費、資料不外流 |
| 模型服務 | Ollama(起步)→ 視效能再升級 | 先求穩定跑通,流量大再強化吞吐 |
| 後端程式 | Python + FastAPI | 接收 LINE 訊息、串接 AI |
| 資料庫 | PostgreSQL + 向量擴充 | 儲存對話記錄、做歷史問答語意檢索 |
| 知識檢索 | RAG + 向量模型 | 讓 AI 依公司真實問答回覆,不亂編 |
| 對外連線 | Cloudflare Tunnel | 讓 LINE 安全連到自家伺服器,免開防火牆 |
| 轉真人通知 | LINE / Email | 需要人工時即時通知客服接手 |
| 硬體 | 公司自有 AI 伺服器 | 已具備,一次投資、長期零月費 |