RowSpeak Private Deployment:技術架構概述

本文面向正在評估 RowSpeak Private Deployment 的 IT 架構師、基礎設施工程師與安全審查人員。內容涵蓋系統元件、部署模式、硬體選型、網路需求、模型層與維運注意事項。


系統架構

RowSpeak Private Deployment 由四個主要層級組成,全部可在您的環境內執行。

層級 元件 主要職責
客戶端層 Web Browser、PWA、API Client 使用者上傳檔案、提交任務、檢視結果
應用層 API Gateway、Spreadsheet Engine、Output Generator、Audit Logger 驗證、解析、轉換、生成輸出與記錄操作
AI / 模型層 Model Router、Local Models、Optional API Models、Embedding Engine 依政策選擇模型、執行推理、生成嵌入
資料層 File Storage、Relational DB、Vector DB、Audit Logs 儲存檔案、設定、索引、輸出與日誌

所有層級都可以部署在您的內部伺服器、私有雲或受控 Kubernetes 叢集中。


支援的部署環境

環境 支援 說明
裸機 Linux 伺服器 支援 適合追求最大效能與硬體控制
Docker 單主機 支援 最快啟動,適合 POC 或小型團隊
Docker Compose 支援 標準多服務部署方式
Kubernetes 支援 適合高可用、多節點與企業級擴展
AWS VPC 支援 部署在您的 AWS 帳號內
Azure VNet 支援 部署在您的 Azure 訂閱內
GCP VPC 支援 部署在您的 GCP 專案內
空氣隔離環境 支援 需要預先準備模型權重與部署包
Windows Server 條件支援 通常透過 Docker Desktop 或 WSL2

硬體選型指南

硬體需求取決於使用者規模、並發量、檔案大小、任務複雜度,以及是否本地執行開源模型。

最小配置:最多 20 位使用者

元件 建議規格
CPU 8 核 x86_64
RAM 32 GB
GPU NVIDIA GPU,16 GB VRAM 起
儲存 500 GB SSD
作業系統 Ubuntu 22.04 LTS 或 RHEL 8+

標準配置:最多 100 位使用者

元件 建議規格
CPU 16 核 x86_64
RAM 64 GB
GPU NVIDIA A10 或 RTX 4090,24 GB VRAM
儲存 1 TB NVMe SSD
作業系統 Ubuntu 22.04 LTS

企業配置:100+ 使用者或高並發

元件 建議規格
CPU 32 核 x86_64,建議多節點
RAM 每節點 128 GB 起
GPU NVIDIA A100、H100 或同級 GPU
儲存 NVMe SSD 加共享儲存
網路 10 Gbps 內部網路
編排 Kubernetes

若您只使用閉源模型 API,GPU 需求會大幅降低,因為推理由外部模型供應商處理。


網路需求

入站連線

  • 443:內部使用者連到 RowSpeak Web/API 服務
  • 80:可選,用於 HTTP 轉 HTTPS

內部連線

  • 應用服務到模型服務:可配置連接埠
  • 應用服務到資料庫:例如 PostgreSQL 5432
  • 應用服務到向量資料庫:依所選向量資料庫設定
  • 應用服務到檔案儲存:本地磁碟、NFS、S3 相容儲存或雲端私有儲存

出站連線

  • 使用本地開源模型時,核心功能不需要出站網際網路
  • 使用閉源模型 API 時,需要連到相應模型供應商端點
  • 初次取得模型權重時可能需要網路,也可以在外部機器下載後離線轉移

模型層與模型路由

RowSpeak 的模型層可支援不同策略:

  • 本地開源模型:資料留在內部網路,適合敏感資料
  • 閉源模型 API:使用您自己的 API 金鑰,適合非敏感工作流或快速試點
  • 混合路由:不同工作流依資料分類使用不同模型

範例:

財務分析       -> 本地 DeepSeek / Qwen
人事資料       -> 本地模型
公開市場摘要   -> GPT / Claude / Gemini API
預設任務       -> 通用本地模型

請搭配模型選擇指南評估最適合的策略。


身分驗證與存取控制

RowSpeak Private Deployment 支援:

  • 本地使用者帳號
  • SAML 2.0 與 OIDC SSO
  • LDAP / Active Directory 整合(企業方案)
  • 基於角色的存取控制
  • 工作區隔離
  • 管理員權限與一般使用者權限分離

這些能力可協助您將 RowSpeak 納入既有 IAM 與安全治理流程。


稽核日誌

所有重要操作都可在本地記錄:

  • 檔案上傳與刪除
  • AI 查詢與回應事件
  • 報告生成與匯出
  • 登入、登出與權限變更
  • 管理員設定修改

日誌可輸出為 JSON 或接入內部 SIEM 流程。日誌資料保留在您的環境中。


更新與維護

RowSpeak 更新以版本化映像檔或部署包交付。

  • 更新由您的 IT 團隊依內部變更流程套用
  • 不會自動更新
  • 每個版本提供發布說明
  • 可透過回復前一版本映像或部署包進行回滾
  • 空氣隔離環境可使用離線更新流程

取得完整技術資料

RowSpeak Deployment Pack 包含:

  • 參考部署架構
  • 硬體選型工作表
  • 模型相容性矩陣
  • 部署檢查表
  • 網路圖與安全審查素材

申請 Deployment Pack

若您需要依自己的環境進行技術走查,可以預約演示