跳到內容

本機服務與模型

文件解析與網頁搜尋可以在同一台一鍵啟動,或改用外部端點;模型照建議部署好,再到模型頁登記;生圖修圖交給另一台的 dot studio。

地端版有兩種東西要自己準備。一是本機服務:文件解析與網頁搜尋,可以直接在營運後台按一下啟動。二是模型:agent(你在 Dot Agents 裡建立的 AI 同事)思考用的大腦,平台不替你跑,你照我們的建議部署好,再把網址登記進來。

在哪裡找到它

營運後台 → 本機服務:上面是文件解析與網頁搜尋兩張卡,下面是「模型建議部署」。模型部署好之後,到營運後台 → 模型登記。

雲端或地端,同一套產品示意圖
地端版的右半邊:平台裝在你的機房,模型接自己的,資料不出內網。

本機服務

服務 用途
文件解析 知識庫讀掃描 PDF、圖片、PowerPoint 與 Excel 時用,CPU 就能跑
網頁搜尋 agent 的網路搜尋,不需要任何 API 金鑰

在這台啟動:

  1. 按卡片上的在這台啟動。第一次會先下載,進度與結果顯示在卡片上。
  2. 狀態變成「已就緒,待採用」後按採用,服務就正式接上。
  3. 不用了按停止。

改用別台機器上的服務:

  1. 按改用外部端點,填那台的網址。
  2. 按測試連線,看到「連得上」。
  3. 按儲存並採用。

模型

平台不自己跑模型。「模型建議部署」列出我們建議的地端模型:對話、嵌入(知識庫與記憶的語意搜尋)、語音轉文字。你先選模型跟平台同一台還是另一台 GPU 主機,選好就會給你可以照貼的啟動指令與各模型需要的顯存。

生圖、修圖與生影要一整台 GPU 主機,交給 dot studio。卡片最下面有它的安裝指令,接法見 生圖與修圖:dot studio。

模型跑起來之後:

  1. 營運後台 → 模型 → 新增。
  2. 選對應的範本,網址填模型的端點。同一台時範本預設的網址不用改;另一台時把網址裡的主機換成 GPU 主機的位址。
  3. 儲存。

會遇到的狀況

網頁搜尋卡顯示某幾家引擎被擋

代表那幾家搜尋引擎暫時拒絕了這台的查詢,搜尋結果會變少甚至空的,不是網路上沒有。通常過一陣子會恢復。

相關頁

本頁對應 v0.111.1