TAKI GPU加速,彈性運算

GPU 雲端主機|AI Server|AI 算力租用

AI 算力成本可預測、可控: 讓 AI 成為企業資產,而非維運風險
擺脫公有雲不可預期的流量與運算費用。透過 TAKI Cloud 固定月費 GPU 架構,建立穩定、安全且可擴展的 AI 基礎設施。

產品優勢

AI Server 是什麼?其實就是可以讓 AI 跑起來的 GPU 雲端主機

很多人聽到 AI Server 會覺得很複雜,但其實不用想得太難。 只要你想讓 AI 模型運作,不管是聊天機器人、圖片生成、公司內部知識問答,背後都需要一台有 GPU 的伺服器。

AI Chatbot(像 ChatGPT)

可用於網站客服、自動回覆與企業內部 AI 助理。透過 LLM(大型語言模型)理解使用者問題並生成自然語言回應,可整合網站、LINE、App 或客服系統。常見應用包含:24 小時客服、訂單查詢、FAQ 自動回覆與銷售轉換輔助。導入後可大幅降低客服人力成本,同時提升回應速度與客戶體驗。

公司內部問答系統(RAG)

將企業內部文件(PDF、Word、Excel、知識庫)導入 AI,建立專屬的智慧搜尋與問答系統。員工可以直接用自然語言詢問,如「合約條款是什麼?」或「SOP 流程怎麼做?」AI 會即時回覆並引用來源內容。特別適合法務、客服、技術支援與內部訓練,大幅提升查詢效率與知識傳承。

Stable Diffusion 圖片生成

利用 GPU 進行 AI 圖像生成,可快速產出商品圖、廣告素材、社群內容與設計草圖。支援 ComfyUI、自動化流程與批次生成,適合電商、品牌行銷與設計產業。相比傳統設計流程,可顯著降低成本並加快產出速度,同時支援客製風格與品牌視覺一致性。

AI API / SaaS 對外服務

將 AI 模型部署為 API 或 SaaS 平台,提供給內部系統或外部客戶使用,例如 AI 文案生成、客服 API、影像辨識或資料分析服務。適用於產品化 AI 能力與建立新營收模式。可搭配高頻寬與負載分流架構,支援多用戶同時使用與商業級穩定運行。
企業 AI 成本結構比較

從不可預測的公有雲費用,轉向穩定可控的企業 GPU 架構

評估維度
公有雲
TAKI Cloud (企業首選)
成本預測性
依使用量浮動,預算難以精準控管,不易預測
固定月費模式,財務計畫透明穩定,高度可預測
部署彈性
需自行處理複雜的網路與權限配置
預裝 AI 運行環境,支援快速上線
資料傳輸
隨數據量產生額外外網流量費
內網高速傳輸,無隱藏流量費用
硬體風險
需自行面對硬體更新與折舊風險
免除設備折舊與維護風險,由專家代管

現貨供應

台北機房、新加坡機房、日本機房、美國機房,最快 24 小時內可交付

預裝環境

內建 CUDA、Docker、PyTorch,開機即用

固定月費

固定月費模式,財務計畫透明穩定,財務更容易規劃

在地支援

台灣團隊協助導入諮詢、架構規劃、部署落地與後續擴展支援
給 CFO

輕資產運營:專注於 AI 應用,而非硬體折舊

企業無需承擔 GPU 汰換週期短、硬體折舊以及設備過時的風險。所有基礎設施升級、電力維護與冷卻系統,均由 TAKI Cloud 專業團隊負責,確保每一分預算都花在核心業務的成長上。

1. 固定月費模式,財務預算更容易控管

2. 免除 GPU 折舊與設備更新壓力

3. 將資本支出轉為可控營運支出

給 CTO:穩定、可擴展的 AI 架構

高效能 GPU 架構

支援 RTX 4090、A100 等 GPU,適用於 LLM 推論、RAG、AI API。

快速部署

預先配置 AI 環境,縮短部署時間,加速 PoC 與正式上線。

可擴展架構

可依需求擴充 GPU、頻寬與節點,支援企業級 AI 服務。

在地技術支援

台灣團隊協助溝通架構、部署需求與後續擴展。

你不是不需要 AI,而是不知道該怎麼開始

很多企業其實已經知道 AI 可以帶來效率提升或新的商業機會,但真正卡住的不是技術,而是「第一步要怎麼走」。 不確定該選哪種 GPU、不知道模型跑不跑得動、也不清楚成本會不會失控,這些不確定性讓專案一直停在評估階段。 我們常見的情況是:不是沒有需求,而是缺少一個能把需求轉成可執行方案的起點。

1. 不知道該選哪張 GPU 卡?

不同 AI 模型對顯存、運算能力需求差異很大,很多人一開始就卡在選型,不知道該從 RTX 4090 還是 A100 開始評估。

2. 買了才發現顯存不夠、模型跑不動

常見問題是模型載不進 GPU 或推論速度過慢,導致整個專案卡住,最後只能重新升級硬體配置,增加額外成本。

3. 怕一次買錯硬體,白花很多錢

GPU 主機單價高,一旦選錯規格,不但浪費預算,還可能影響整個 AI 專案進度與 ROI。

4. 沒算頻寬與流量,上線後反而卡住

很多人只看 GPU,不看網路與架構,導致 API 或多人使用時頻寬不足,服務延遲或不穩定。

不是讓你研究 GPU,而是幫你更快用起來

3 個選型步驟

Step 1

先了解你的用途:Chatbot、RAG、圖片生成或 API

不同用途對 GPU 的需求差異很大,例如 Chatbot 與圖片生成在顯存與運算模式上完全不同。我們會先了解你要做的是客服、內部系統還是對外服務,避免一開始就走錯方向。

Step 2

再判斷模型大小與顯存需求

根據你使用的模型(例如 7B、13B、70B)來評估需要多少 GPU 顯存與運算能力,確保模型可以順利運行,同時避免過度配置造成成本浪費。

Step 3

最後幫你縮小到 1~2 個適合方案

綜合用途、模型與預算,快速幫你從眾多 GPU 選項中縮小到最適合的方案,讓你不用自己研究複雜規格就能直接開始部署。

GPU 雲端主機 規格/價格

規格
CPU
RAM
Storage
Network In / Out
Transfer
Price價格/月
RTX4090-24GB x1 Standard型
16 vCPU
64 GB
100 GB
10M / 10M(頻寬可加購)
不限
$ 13,800 NTD
立即購買
RTX4090-48GB x1 PRO型
14 vCPU
120 GB
100 GB
10M / 10M(頻寬可加購)
不限
$ 16,800 NTD
立即購買
規格
CPU
RAM
Storage
Network In / Out
Transfer
Price價格/月
A100-80GB x1 M型
14 vCPU
120 GB
100 GB
10M / 10M(頻寬可加購)
不限
$ 36,800 NTD
立即購買
規格
CPU
RAM
Storage
Network In / Out
Transfer
Price價格/月
RTX4000 Ada x1 S型
4 vCPU
16 GB
512 GB
40 Gbps / 16 Gbps
0
$ 11,200 NTD
立即購買
RTX4000 Ada x1 M型
8 vCPU
32 GB
512 GB
40 Gbps / 16 Gbps
0
$ 14,280 NTD
立即購買
RTX4000 Ada x1 L型
16 vCPU
64 GB
512 GB
40 Gbps / 16 Gbps
0
$ 20,420 NTD
立即購買
RTX4000 Ada x1 X型
32 vCPU
128 GB
512 GB
40 Gbps / 16 Gbps
0
$ 32,710 NTD
立即購買
RTX4000 Ada x2 S型
8 vCPU
32 GB
1024 GB
40 Gbps / 16 Gbps
0
$ 22,400 NTD
立即購買
RTX4000 Ada x2 M型
16 vCPU
64 GB
1024 GB
40 Gbps / 16 Gbps
0
$ 28,550 NTD
立即購買
RTX4000 Ada x2 MHS型
16 vCPU
64 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 31,750 NTD
立即購買
RTX4000 Ada x4 S型
32 vCPU
128 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 63,240 NTD
立即購買
RTX4000 Ada x4 M型
48 vCPU
196 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 76,290 NTD
立即購買
規格
CPU
RAM
Storage
Network In / Out
Transfer
Price價格/月
RTX4000 Ada x1 S型
4 vCPU
16 GB
512 GB
40 Gbps / 16 Gbps
0
$ 11,200 NTD
立即購買
RTX4000 Ada x1 M型
8 vCPU
32 GB
512 GB
40 Gbps / 16 Gbps
0
$ 14,280 NTD
立即購買
RTX4000 Ada x1 L型
16 vCPU
64 GB
512 GB
40 Gbps / 16 Gbps
0
$ 20,420 NTD
立即購買
RTX4000 Ada x1 X型
32 vCPU
128 GB
512 GB
40 Gbps / 16 Gbps
0
$ 32,710 NTD
立即購買
RTX4000 Ada x2 S型
8 vCPU
32 GB
1024 GB
40 Gbps / 16 Gbps
0
$ 22,400 NTD
立即購買
RTX4000 Ada x2 M型
16 vCPU
64 GB
1024 GB
40 Gbps / 16 Gbps
0
$ 28,550 NTD
立即購買
RTX4000 Ada x2 MHS型
16 vCPU
64 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 31,750 NTD
立即購買
RTX4000 Ada x4 S型
32 vCPU
128 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 63,240 NTD
立即購買
RTX4000 Ada x4 M型
48 vCPU
196 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 76,290 NTD
立即購買
規格
CPU
RAM
Storage
Network In / Out
Transfer
Price價格/時
Price價格/月
RTX4000 Ada x1 S型
4 vCPU
16 GB
512 GB
40 Gbps / 16 Gbps
0
$ 11,200 NTD
立即購買
RTX4000 Ada x1 M型
8 vCPU
32 GB
512 GB
40 Gbps / 16 Gbps
0
$ 14,280 NTD
立即購買
RTX4000 Ada x1 L型
16 vCPU
64 GB
512 GB
40 Gbps / 16 Gbps
0
$ 20,420 NTD
立即購買
RTX4000 Ada x1 X型
32 vCPU
128 GB
512 GB
40 Gbps / 16 Gbps
0
$ 32,710 NTD
立即購買
RTX4000 Ada x2 S型
8 vCPU
32 GB
1024 GB
40 Gbps / 16 Gbps
0
$ 22,400 NTD
立即購買
RTX4000 Ada x2 M型
16 vCPU
64 GB
1024 GB
40 Gbps / 16 Gbps
0
$ 28,550 NTD
立即購買
RTX4000 Ada x2 MHS型
16 vCPU
64 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 31,750 NTD
立即購買
RTX4000 Ada x4 S型
32 vCPU
128 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 63,240 NTD
立即購買
RTX4000 Ada x4 M型
48 vCPU
196 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 76,290 NTD
立即購買
規格
CPU
RAM
Storage
Network In / Out
Transfer
Price價格/時
Price價格/月
RTX4000 Ada x1 S型
4 vCPU
16 GB
512 GB
40 Gbps / 16 Gbps
0
$ 11,200 NTD
立即購買
RTX4000 Ada x1 M型
8 vCPU
32 GB
512 GB
40 Gbps / 16 Gbps
0
$ 14,280 NTD
立即購買
RTX4000 Ada x1 L型
16 vCPU
64 GB
512 GB
40 Gbps / 16 Gbps
0
$ 20,420 NTD
立即購買
RTX4000 Ada x1 X型
32 vCPU
128 GB
512 GB
40 Gbps / 16 Gbps
0
$ 32,710 NTD
立即購買
RTX4000 Ada x2 S型
8 vCPU
32 GB
1024 GB
40 Gbps / 16 Gbps
0
$ 22,400 NTD
立即購買
RTX4000 Ada x2 M型
16 vCPU
64 GB
1024 GB
40 Gbps / 16 Gbps
0
$ 28,550 NTD
立即購買
RTX4000 Ada x2 MHS型
16 vCPU
64 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 31,750 NTD
立即購買
RTX4000 Ada x4 S型
32 vCPU
128 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 63,240 NTD
立即購買
RTX4000 Ada x4 M型
48 vCPU
196 GB
2048 GB
40 Gbps / 16 Gbps
0
$ 76,290 NTD
立即購買

GPU 方案比較

你不用先懂規格,先看哪一種用途最接近你

先用用途理解差異,再決定方案,會比一開始就看一堆硬體規格更容易做決策。
GPU
LLM推論
LLM微調
7B tokens/s
13B tokens/s
主要用途
產品適用
預算定位
NVIDIA RTX 4000 Ada
3B–7B
LoRA
80
40
AI開發
輕量 AI 推論、Chatbot、基礎 RAG、小型應用部署
入門 / 成本優化方案
NVIDIA RTX 4090 24GB
7B–13B
13B LoRA
150
80
AI推論
AI Chatbot、RAG、Stable Diffusion、7B–13B 推論
主流商用方案
NVIDIA RTX 4090 48GB
13B–34B
34B LoRA
150
90
LLM API
高顯存推論、ComfyUI、多工作流生成、13B–34B 模型
進階高顯存方案
NVIDIA A100 80GB
34B–70B
70B
140
90
AI訓練
大模型推論、LoRA 微調、企業級 AI 服務、34B–70B
企業級高階方案

擔心 GPU /AI 算力資料安全嗎?

別擔心,看看我們 GPU / AI 算力主機安全網路架構如何運作

Step 1 — 本地或企業端網路

客戶端可從辦公室、分點或資料中心,透過本地網路設備接入受控環境。

Step 2 — IPsec VPN 加密隧道

所有流量先進入加密隧道,傳輸過程採用 AES-256 等級保護。

Step 3 — 安全閘道 / 路由控管

流量進入安全閘道後,依白名單、政策與路由規則進行控管,再導向 GPU 私有網路。

Step 4 — 雲端私有資源

GPU 主機、運算資源與應用系統維持在私有子網內,不對公網直接開放。

GPU 雲端主機與自建 GPU 伺服器比較

項目
TAKI GPU 雲端主機
自行管理 GPU 伺服器
靈活性
· 讓您可輕鬆建立一個或多個 GPU 雲端主機。
· 支援不同 vCPU 數量和記憶體大小的主機類型線上更改,包括雲端主機類型升級和降級。
· 提供可調整之頻寬。
· 需要延長訂閱期限 · 具有不可更改的配置。
· 需要一次性訂購不可調整的出站頻寬。
方便易用
· 提供線上主控台以便進行網路管理 。
· 平台選擇 OS 系統,OS自動部屬,無需自行安裝。
· 不提供線上管理工具,需要人手管理維護。
· 需要自帶作業系統,自行安裝、更換。
· 必須人手準備並安裝作業系統。
災後恢復和備份
· 每項數據儲存三份副本,當一份副本損壞時,數據可被快速修復 。
· 硬體故障可以快速自動恢復。
· 必須人手搭建災後恢復環境,使用昂貴的傳統儲存裝置。
· 必須人手修復損毀的數據。
前期成本
· 支援訂閱和隨用隨附兩種計費方式,您可根據需求選擇合適的計費方式 。
· 無需大量前期投入即可自選購買資源。
· 需要先付費購買資源,以滿足高峰時段的配置需求。
· 前期投入較大,造成資源浪費。
買錯風險
可先評估再選型
AI Server 可以做什麼?

企業常見的四種 AI 應用場景

AI Chatbot

客服、自動回覆、銷售轉換與企業內部 AI 助理。

RAG

公司知識庫 AI 問答,提升查詢效率與知識傳承。

Stable Diffusion

圖片生成、設計素材與電商視覺內容產出。

AI API / SaaS

將 AI 模型包裝成產品或服務,對外提供使用。
適合對象

適合有明確 AI 導入需求的企業與團隊

  • 已有 AI 導入計畫或評估需求
  • 有 PoC、專案驗證或正式上線規劃
  • 希望兼顧成本控管、資料安全與可擴展性

不適合的需求

  • 算力投資、保證收益、分潤方案
  • 挖礦、套利、轉租收益承諾
  • 無明確場景、純試探型或僅尋找免費資源

FAQ - 您的問題,由我們來回答!

什麼是 GPU 雲端主機?

GPU 雲端主機是基於圖形處理單元(GPU)的伺服器類型,主要協助您在人工智慧中實現資源的靈活分配、彈性擴展、算力的提升以及成本的控制。GPU 雲端主機擅長深度學習、視訊編解碼、視訊處理、科學計算、圖形視覺化、線上遊戲等場景的應用。

AI Server 可以先簡單理解成「讓 AI 模型實際運作的 GPU 主機」。如果你想做 AI Chatbot、公司內部問答系統、圖片生成,或把 AI 做成 API 對外提供服務,背後都需要一台有 GPU 的伺服器來負責推論與運算。差別只是有些人選擇自建,有些人選擇直接租用 GPU 雲端主機。對多數企業來說,重點不是自己研究複雜架構,而是先找到一個能讓 AI 順利跑起來、成本可控、又能快速上線的方案。

這是最常見的問題,也是很多企業一開始最容易卡住的地方。實務上不需要一開始就先決定「我要 RTX 4090 還是 A100」,而是要先釐清三件事:第一,你要做什麼用途,例如 Chatbot、RAG、Stable Diffusion 或模型微調;第二,你的模型大約多大,例如 7B、13B、34B、70B;第三,你的預算範圍是多少。把這三件事講清楚後,就能快速縮小到適合的 1~2 個方案,避免買太大浪費,或買太小導致模型跑不起來。

這些 GPU 雲端主機可用於多種 AI 應用場景,例如 AI Chatbot、RAG 企業知識庫、Stable Diffusion 圖片生成、LLM 推論、LoRA 微調,以及 AI API / SaaS 對外服務。若是較入門或成本敏感的應用,通常可從 NVIDIA RTX 4000 Ada 或 RTX 4090 24GB 開始;若有更高顯存需求,例如較大模型推論、多工作流圖像生成或企業級 AI 服務,則可往 RTX 4090 48GB 或 A100 80GB 評估。重點不是單看 GPU 型號,而是看你的應用型態、模型大小與是否需要長時間穩定運行。

不是。TAKI Cloud 提供的是 AI 算力租用、GPU 雲端主機與技術支援服務,目的是讓企業或團隊可以部署 AI 應用、做模型推論、微調或系統上線。我們不提供任何算力投資、保證收益、分潤、套利、挖礦或轉租獲利模式,也不會以「保證賺錢」作為銷售方式。若你的需求是企業導入 AI、建立 AI 服務或租用 GPU 資源,這會是合適的服務;若是以投資收益為目的,則不在服務範圍內。

會,而且很多人一開始只注意 GPU,卻忽略了頻寬、流量與整體網路架構。若你的 AI 只是內部少數人使用,頻寬壓力可能不大;但如果要對外提供 API、多人同時使用、串接網站或 App,頻寬就會明顯影響回應速度與穩定度。常見狀況是 GPU 本身夠用,但因為網路沒有先規劃好,導致服務延遲高、尖峰時段卡頓,甚至影響使用體驗。所以在評估 GPU 時,最好同時把頻寬、流量與是否有對外服務需求一起納入。

很抱歉,我們 TAKI GPU 雲端主機不支援安卓模擬器。

CPU 或中央處理單元是一種硬體元件,它是伺服器中的核心運算單元。 它可處理執行操作系統和應用程式所需的所有類型的運算任務。 圖形處理單元 (GPU) 是類似的硬件元件,但更專業。 相較於一般 CPU,它能夠更有效地處理平行執行的複雜數學運算。 雖然 GPU 最初是為處理遊戲和動畫中的圖形翻譯任務而建立,但現在其用途遠遠超出這種情況。

GPU 與 CPU 的比較如下表所示:

對比項目

GPU

CPU

算術運算單元(ALU)

擁有大量擅長處理大規模並發計算的算術運算單元(ALU)。

擁有強大的算術運算單元(ALU),但數量較少。

邏輯控制單元

擁有相對簡單的邏輯控制單元。

擁有複雜的邏輯控制單元。

緩存快取

擁有很少的緩存,且緩存用於服務線程,而不是用於保存訪問的資料。

擁有大量的快取結構,能夠將資料保存至緩存,從而提高存取速度,降低延遲。

回應方式

需要將全部任務整合後,再進行批次處理。

即時響應,單一任務的響應速度較高。

應用場景

適用於運算密集,相似度高,且多執行緒並行的高吞吐量運算場景。

適用於對響應速度有要求,且邏輯複雜的串列運算場景。

電腦圖形和動畫的出現,產生了 CPU 根本沒有設計進行處理的首個運算密集型工作負載。 例如,電玩遊戲動畫需要應用程式處理資料,以顯示數千個像素,每個像素都有自己的色彩、光線強度和移動。 當時 CPU 上的幾何數學計算造成效能問題。

硬體製造商開始認識到,卸載常見的多媒體導向任務可減輕 CPU 並提高效能。 如今,相較於 CPU,圖形處理單元 (GPU) 工作負載可更有效地處理多個運算密集型應用程序,例如機器學習和人工智能。

功能
CPU 與 GPU 之間的主要區別在於其功能。 服務器無法在沒有 CPU 的情況下執行。 CPU 會處理服務器上所有軟件正確執行所需的所有任務。 另一方面,GPU 支援 CPU 來執行平行計算。 GPU 可更快地完成簡單且重複的任務,因為它可以將任務分解為更小的元件以及平行完成任務。

設計
GPU 透過多個核心或算法邏輯單元 (ALU),在並行處理中表現出色。 GPU 核心的功能不如 CPU 核心,而且記憶體較少。 雖然 CPU 可在不同的指令集之間快速切換,但 GPU 只需大量相同的指令,並以高速推送它們。 因此,GPU 功能在平行運算中發揮著重要作用。

差異範例
為了更好地理解,請考慮以下類比。 CPU 就像一間大餐廳的主廚,必須確保數百個漢堡被翻轉。 即使主廚可以親自做到,這也並非以最佳方式利用時間。 當主廚完成這項簡單但耗時的任務時,所有廚房操作可能會停止或減慢速度。 為了避免這種情況,主廚可使用平行翻轉幾個漢堡的初級助理。 GPU 則更像是擁有十隻手的初級助理,可在 10 秒內翻轉 100 個漢堡。

當您執行指令 nvidia-smi 無法找到 GPU 顯示卡時,通常是因為您的 GPU 雲端主機未安裝或未成功安裝 NVIDIA 驅動。 請根據您所購買的 GPU 雲端主機規格選擇對應的操作指引來安裝驅動,具體說明如下:

如果您購買的是 GPU 雲端主機,請務必安裝 GRID 驅動程式。 如需具體操作,請參閱在 GPU 雲端主機中安裝 GRID 驅動程式(Linux)或在 GPU 雲端主機中安裝GRID驅動程式(Windows)。

更多驅動安裝場景及操作指引,請參閱 NVIDIA 驅動安裝指引。

不同作業系統的 GPU 雲端主機,查看GPU顯示卡資訊的操作有所區別,說明如下:

  • 如果您的 GPU 雲端主機安裝了 Linux 作業系統,您可以執行命令 nvidia-smi,查詢 GPU 顯示卡的詳細資訊。
  • 如果您的 GPU 雲端主機安裝 Windows 作業系統,您可以在裝置管理員中查看 GPU 顯示卡的詳細資訊。

您執行指令 nvidia-smi 查詢到的 CUDA 版本代表您的 GPU 雲端主機能夠支援的最高 CUDA 版本,並不代表您建立GPU 雲端主機時所選擇的 CUDA 版本。

問題現象:使用 GPU 時出現 GPU 掉卡現象,例如在 Linux 系統上使用 GPU 時,出現 GPU 卡啟動失敗的錯誤提示。 執行 sh nvidia-bug-report.sh 指令後,在產生的日誌中,可以看到 Xid 119 或 Xid 120 錯誤訊息。 以 Xid 119 錯誤頁面為例,顯示如下:

可能原因:造成上述問題的原因可能是 GPU 的 GSP(Graphics Services Processor)元件運作狀態異常。 目前,NVIDIA 並未提供某個驅動版本來徹底解決該類問題,因此建議您關閉 GSP 功能後再使用 GPU 卡。 更多資訊,請參考 NVIDIA Common XID Errors。

解決方案:

1.登入 GPU 雲端主機。

具體操作,請參閱透過密碼或金鑰認證登入 Linux 雲端主機。

2.執行以下指令,關閉 GPU 的 GSP 元件。

echo options nvidia NVreg_EnableGpuFirmware=0 > /etc/modprobe.d/nvidia-gsp.conf

3.重啟 GPU 雲端主機。

具體操作,請參閱重啟主機。

4.再次登入 GPU 雲端主機。

5.執行以下指令,查看 EnableGpuFirmware 參數值。

cat /proc/driver/nvidia/params | grep EnableGpuFirmware:

如果回傳結果是 EnableGpuFirmware:0,表示 GPU 的 GSP 元件關閉,問題已修復。

說明
只要 EnableGpuFirmware:0,執行 nvidia-smi 檢查 GPU 卡狀態時,其回傳結果肯定是正常的。

如果回傳結果不是 EnableGpuFirmware:0,表示 GSP 元件沒有關閉,請繼續執行下一步。

6.執行以下指令,確認 NVIDIA GPU 卡是否正常。

nvidia-smi

如果傳回結果異常,表示 NVIDIA GPU 卡仍有問題,請聯絡 TAKI 客服運維技術人員進行關機遷移操作。

我們的方法

尋找一種能夠幫助您,為您的員工、您的企業和您客戶實現更多目標的合作夥伴關係。

諮詢與規劃服務

透過我們的專家團隊來幫助您制定正確的策略與實現目標。

管理服務

讓專家團隊協助管理與優化您託管環境與日常流程細節,使您領先於未來。

專業的服務

我們將設計一個解決方案,確保您充分使用您的應用程式,以便您可以加速為您的業務帶來新的機會。

狂熱的支援

我們會盡一切努力把工作做好,從第一次諮詢到持續運作,專注於您的成功,並在每一步細節為您提供支援。