本機服務與模型
文件解析與網頁搜尋可以在同一台一鍵啟動,或改用外部端點;模型照建議部署好,再到模型頁登記;生圖修圖交給另一台的 dot studio。
地端版有兩種東西要自己準備。一是本機服務:文件解析與網頁搜尋,可以直接在營運後台按一下啟動。二是模型:agent(你在 Dot Agents 裡建立的 AI 同事)思考用的大腦,平台不替你跑,你照我們的建議部署好,再把網址登記進來。
在哪裡找到它
營運後台 → 本機服務:上面是文件解析與網頁搜尋兩張卡,下面是「模型建議部署」。模型部署好之後,到營運後台 → 模型登記。
本機服務
| 服務 | 用途 |
|---|---|
| 文件解析 | 知識庫讀掃描 PDF、圖片、PowerPoint 與 Excel 時用,CPU 就能跑 |
| 網頁搜尋 | agent 的網路搜尋,不需要任何 API 金鑰 |
在這台啟動:
- 按卡片上的在這台啟動。第一次會先下載,進度與結果顯示在卡片上。
- 狀態變成「已就緒,待採用」後按採用,服務就正式接上。
- 不用了按停止。
改用別台機器上的服務:
- 按改用外部端點,填那台的網址。
- 按測試連線,看到「連得上」。
- 按儲存並採用。
模型
平台不自己跑模型。「模型建議部署」列出我們建議的地端模型:對話、嵌入(知識庫與記憶的語意搜尋)、語音轉文字。你先選模型跟平台同一台還是另一台 GPU 主機,選好就會給你可以照貼的啟動指令與各模型需要的顯存。
生圖、修圖與生影要一整台 GPU 主機,交給 dot studio。卡片最下面有它的安裝指令,接法見 生圖與修圖:dot studio。
模型跑起來之後:
- 營運後台 → 模型 → 新增。
- 選對應的範本,網址填模型的端點。同一台時範本預設的網址不用改;另一台時把網址裡的主機換成 GPU 主機的位址。
- 儲存。
會遇到的狀況
「在這台啟動」「停止」按不了
這兩個動作要靠安裝時的 ops 服務。卡片上方會提示怎麼補開:在主機上重跑安裝指令最省事。
模型放在另一台
那台的模型服務對區網開放而且沒有金鑰,請用防火牆只允許平台主機連進來。
網頁搜尋卡顯示某幾家引擎被擋
代表那幾家搜尋引擎暫時拒絕了這台的查詢,搜尋結果會變少甚至空的,不是網路上沒有。通常過一陣子會恢復。
相關頁
- 生圖與修圖:dot studio:把另一台 GPU 主機接成圖片模型。
- 安裝:文件解析在安裝時就能選擇一起裝。
- 知識庫上傳:哪些檔案需要文件解析。
- 工具:網路搜尋是 agent 的哪個工具。
本頁對應 v0.111.1