RowSpeak Private Deployment:技術架構概述
本文面向正在評估 RowSpeak Private Deployment 的 IT 架構師、基礎設施工程師與安全審查人員。內容涵蓋系統元件、部署模式、硬體選型、網路需求、模型層與維運注意事項。
系統架構
RowSpeak Private Deployment 由四個主要層級組成,全部可在您的環境內執行。
| 層級 | 元件 | 主要職責 |
|---|---|---|
| 客戶端層 | Web Browser、PWA、API Client | 使用者上傳檔案、提交任務、檢視結果 |
| 應用層 | API Gateway、Spreadsheet Engine、Output Generator、Audit Logger | 驗證、解析、轉換、生成輸出與記錄操作 |
| AI / 模型層 | Model Router、Local Models、Optional API Models、Embedding Engine | 依政策選擇模型、執行推理、生成嵌入 |
| 資料層 | File Storage、Relational DB、Vector DB、Audit Logs | 儲存檔案、設定、索引、輸出與日誌 |
所有層級都可以部署在您的內部伺服器、私有雲或受控 Kubernetes 叢集中。
支援的部署環境
| 環境 | 支援 | 說明 |
|---|---|---|
| 裸機 Linux 伺服器 | 支援 | 適合追求最大效能與硬體控制 |
| Docker 單主機 | 支援 | 最快啟動,適合 POC 或小型團隊 |
| Docker Compose | 支援 | 標準多服務部署方式 |
| Kubernetes | 支援 | 適合高可用、多節點與企業級擴展 |
| AWS VPC | 支援 | 部署在您的 AWS 帳號內 |
| Azure VNet | 支援 | 部署在您的 Azure 訂閱內 |
| GCP VPC | 支援 | 部署在您的 GCP 專案內 |
| 空氣隔離環境 | 支援 | 需要預先準備模型權重與部署包 |
| Windows Server | 條件支援 | 通常透過 Docker Desktop 或 WSL2 |
硬體選型指南
硬體需求取決於使用者規模、並發量、檔案大小、任務複雜度,以及是否本地執行開源模型。
最小配置:最多 20 位使用者
| 元件 | 建議規格 |
|---|---|
| CPU | 8 核 x86_64 |
| RAM | 32 GB |
| GPU | NVIDIA GPU,16 GB VRAM 起 |
| 儲存 | 500 GB SSD |
| 作業系統 | Ubuntu 22.04 LTS 或 RHEL 8+ |
標準配置:最多 100 位使用者
| 元件 | 建議規格 |
|---|---|
| CPU | 16 核 x86_64 |
| RAM | 64 GB |
| GPU | NVIDIA A10 或 RTX 4090,24 GB VRAM |
| 儲存 | 1 TB NVMe SSD |
| 作業系統 | Ubuntu 22.04 LTS |
企業配置:100+ 使用者或高並發
| 元件 | 建議規格 |
|---|---|
| CPU | 32 核 x86_64,建議多節點 |
| RAM | 每節點 128 GB 起 |
| GPU | NVIDIA A100、H100 或同級 GPU |
| 儲存 | NVMe SSD 加共享儲存 |
| 網路 | 10 Gbps 內部網路 |
| 編排 | Kubernetes |
若您只使用閉源模型 API,GPU 需求會大幅降低,因為推理由外部模型供應商處理。
網路需求
入站連線
- 443:內部使用者連到 RowSpeak Web/API 服務
- 80:可選,用於 HTTP 轉 HTTPS
內部連線
- 應用服務到模型服務:可配置連接埠
- 應用服務到資料庫:例如 PostgreSQL 5432
- 應用服務到向量資料庫:依所選向量資料庫設定
- 應用服務到檔案儲存:本地磁碟、NFS、S3 相容儲存或雲端私有儲存
出站連線
- 使用本地開源模型時,核心功能不需要出站網際網路
- 使用閉源模型 API 時,需要連到相應模型供應商端點
- 初次取得模型權重時可能需要網路,也可以在外部機器下載後離線轉移
模型層與模型路由
RowSpeak 的模型層可支援不同策略:
- 本地開源模型:資料留在內部網路,適合敏感資料
- 閉源模型 API:使用您自己的 API 金鑰,適合非敏感工作流或快速試點
- 混合路由:不同工作流依資料分類使用不同模型
範例:
財務分析 -> 本地 DeepSeek / Qwen
人事資料 -> 本地模型
公開市場摘要 -> GPT / Claude / Gemini API
預設任務 -> 通用本地模型
請搭配模型選擇指南評估最適合的策略。
身分驗證與存取控制
RowSpeak Private Deployment 支援:
- 本地使用者帳號
- SAML 2.0 與 OIDC SSO
- LDAP / Active Directory 整合(企業方案)
- 基於角色的存取控制
- 工作區隔離
- 管理員權限與一般使用者權限分離
這些能力可協助您將 RowSpeak 納入既有 IAM 與安全治理流程。
稽核日誌
所有重要操作都可在本地記錄:
- 檔案上傳與刪除
- AI 查詢與回應事件
- 報告生成與匯出
- 登入、登出與權限變更
- 管理員設定修改
日誌可輸出為 JSON 或接入內部 SIEM 流程。日誌資料保留在您的環境中。
更新與維護
RowSpeak 更新以版本化映像檔或部署包交付。
- 更新由您的 IT 團隊依內部變更流程套用
- 不會自動更新
- 每個版本提供發布說明
- 可透過回復前一版本映像或部署包進行回滾
- 空氣隔離環境可使用離線更新流程
取得完整技術資料
- 參考部署架構
- 硬體選型工作表
- 模型相容性矩陣
- 部署檢查表
- 網路圖與安全審查素材
若您需要依自己的環境進行技術走查,可以預約演示。