產品優勢

GPU 雲端主機

一鍵部署開發環境

支援GPU驅動、CUDA及cuDNN,並提供部分作業系統預先安裝驅動鏡像,協助您一鍵部署環境,快速接取業務。

極致平行運算能力

GPU雲端主機具有超強的平行運算能力,配備新的Pascal架構,大幅提升吞吐量並降低購買成本。

高規格硬體

每個 GPU 可帶來 47 TOPS(兆次運算/秒)的推理效能和 INT8 運算能力,硬體加速視訊引擎:1 個解碼引擎、2 個編碼引擎。

便捷遠端管理

線上 Web VNC 管理(V3系列以上),享有和雲端主機同樣的便利管理功能。

GPU services

全場景支援異構計算

GPU 雲端主機提供軟體與硬件完整結合的服務,協助您在人工智慧中實現資源的靈活分配、彈性擴展、算力的提升以及成本的控制,通常適用於深度學習,視訊編解碼,視訊處理, 科學計算,圖形視覺化,線上遊戲等場景。


GPU 雲端主機提供GPU加速運算能力,實現GPU 運算資源的即開即用與彈性伸縮。 GPU 在執行複雜的數學和幾何運算方面有著獨特的優勢,特別是在浮點運算、平行運算等方面,GPU 可以提供數百倍於CPU 的運算能力。

多樣化運算能力

擁有大量處理大規模並發運算的算術邏輯單元(ALU),持續採用最新 GPU 加速晶片,提供 FPGA、GPU、ASIC 等多種加速卡,為 AI、圖形、轉碼、加密等不同行業提供服務。

簡單易用

TAKI 部署 GPU 雲端主機資源充裕,邏輯控制單元相對簡單,隨時可應對客戶業務彈性擴充。 提供 AIACC AI 加速引擎,FastGPU 套件,cGPU 套件等專有的輔助工具。

高網路效能

採用高運算架構提升伺服器效能降低IO延遲,最大支援 2,400 萬pps和64GbpsVPC 網路及 800G 高頻寬 RDMA 網路,能夠支援多執行緒並行的高吞吐量運算。

GPU 雲端主機 規格/價格

規格
CPU處理器
CPU
RAM
GPU
Price價格
GPU 計算型 A1
Intel Xeon Platinum 8369B
8 vCPU
30 GB
1 * NVIDIA A10
$ 41,471 NTD
立即購買
GPU 計算型 A2
Intel Xeon Platinum 8369B
16 vCPU
60 GB
1 * NVIDIA A10
$ 43,910 NTD
立即購買
GPU 計算型 A3
Intel Xeon Platinum 8369B
32 vCPU
188 GB
1 * NVIDIA A10
$ 48,789 NTD
立即購買
GPU 計算型 A4
Intel Xeon Platinum 8369B
48 vCPU
310 GB
1 * NVIDIA A10
$ 62,534 NTD
立即購買
GPU 計算型 A5
Intel Xeon Platinum 8369B
56 vCPU
346 GB
1 * NVIDIA A10
$ 75,041 NTD
立即購買
GPU 計算型 A6
Intel Xeon Platinum 8369B
64 vCPU
376 GB
2 * NVIDIA A10
$ 97,578 NTD
立即購買
GPU 計算型 A7
Intel Xeon Platinum 8369B
128 vCPU
752 GB
4 * NVIDIA A10
$ 195,154 NTD
立即購買
規格
CPU處理器
CPU
RAM
GPU
Price價格
GPU 計算型 V1
Intel Xeon Platinum 8163
12 vCPU
92 GB
1 * NVIDIA V100
$ 67,856 NTD
立即購買
GPU 計算型 V2
Intel Xeon Platinum 8163
48 vCPU
368 GB
4 * NVIDIA V100
$ 271,423 NTD
立即購買
GPU 計算型 V3
Intel Xeon Platinum 8163
96 vCPU
736 GB
8 * NVIDIA V100
$ 542,845 NTD
立即購買
規格
CPU處理器
CPU
RAM
GPU
Price價格
GPU 計算型 T1
Intel Xeon Platinum 8163
4 vCPU
15 GB
1 * NVIDIA T4
$ 20,229 NTD
立即購買
GPU 計算型 T2
Intel Xeon Platinum 8163
8 vCPU
31 GB
1 * NVIDIA T4
$ 23,991 NTD
立即購買
GPU 計算型 T3
Intel Xeon Platinum 8163
16 vCPU
62 GB
1 * NVIDIA T4
$ 31,515 NTD
立即購買
GPU 計算型 T4
Intel Xeon Platinum 8163
24 vCPU
93 GB
1 * NVIDIA T4
$ 39,501 NTD
立即購買
GPU 計算型 T5
Intel Xeon Platinum 8163
40 vCPU
155 GB
1 * NVIDIA T4
$ 58,868 NTD
立即購買
GPU 計算型 T6
Intel Xeon Platinum 8163
48 vCPU
186 GB
2 * NVIDIA T4
$ 79,035 NTD
立即購買
GPU 計算型 T7
Intel Xeon Platinum 8163
96 vCPU
372 GB
4 * NVIDIA T4
$ 156,123 NTD
立即購買
規格
CPU處理器
CPU
RAM
GPU
Price價格
GPU 計算型 P1
Intel Xeon E5-2682v4
4 vCPU
30 GB
1 * NVIDIA P100
$ 28,628 NTD
立即購買
GPU 計算型 P2
Intel Xeon E5-2682v4
8 vCPU
60 GB
1 * NVIDIA P100
$ 34,472 NTD
立即購買
GPU 計算型 P3
Intel Xeon E5-2682v4
28 vCPU
112 GB
1 * NVIDIA P100
$ 53,487 NTD
立即購買
GPU 計算型 P4
Intel Xeon E5-2682v4
8 vCPU
60 GB
2 * NVIDIA P100
$ 57,257 NTD
立即購買
GPU 計算型 P5
Intel Xeon E5-2682v4
16 vCPU
120 GB
2 * NVIDIA P100
$ 68,943 NTD
立即購買
GPU 計算型 P6
Intel Xeon E5-2682v4
56 vCPU
224 GB
2 * NVIDIA P100
$ 106,952 NTD
立即購買

已售完

規格
CPU處理器
CPU
RAM
GPU
Price價格
共享 GPU 計算型 G1
Intel Xeon Platinum 8369B
4 vCPU
8 GB
1 * NVIDIA A10*1/12
$ 6,163 NTD
立即購買
共享 GPU 計算型 G2
Intel Xeon Platinum 8369B
4 vCPU
15.5 GB
1 * NVIDIA A10*1/12
$ 6,163 NTD
立即購買
共享 GPU 計算型 G3
Intel Xeon Platinum 8369B
8 vCPU
16 GB
1 * NVIDIA A10*1/6
$ 11,107 NTD
立即購買
共享 GPU 計算型 G4
Intel Xeon Platinum 8369B
8 vCPU
31 GB
1 * NVIDIA A10*1/6
$ 11,107 NTD
立即購買
共享 GPU 計算型 G5
Intel Xeon Platinum 8369B
16 vCPU
32 GB
1 * NVIDIA A10*1/3
$ 20,738 NTD
立即購買
共享 GPU 計算型 G6
Intel Xeon Platinum 8369B
16 vCPU
62 GB
1 * NVIDIA A10*1/3
$ 20,738 NTD
立即購買
共享 GPU 計算型 G7
Intel Xeon Platinum 8163
4 vCPU
23 GB
1 * NVIDIA T4/4
$ 8,279 NTD
立即購買
共享 GPU 計算型 G8
Intel Xeon Platinum 8163
10 vCPU
46 GB
1 * NVIDIA T4/2
$ 14,945 NTD
立即購買

GPU 雲端主機與自建 GPU 伺服器比較

項目
GPU 雲端主機
自行管理 GPU 伺服器
靈活性
· 讓您可輕鬆建立一個或多個 GPU 雲端主機。
· 支援不同 vCPU 數量和記憶體大小的主機類型線上更改,包括雲端主機類型升級和降級。
· 提供可調整之頻寬。
· 需要延長訂閱期限 · 具有不可更改的配置。
· 需要一次性訂購不可調整的出站頻寬。
方便易用
· 提供線上主控台以便進行網路管理 。
· 內置主流作業系統(例如已啟用的正版 Windows 作業系統),並支援線上更換作業系統。
· 購買主機時,可購買並安裝 GPU 驅動程式。
· 不提供線上管理工具,需要人手管理維護。
· 需要自帶作業系統,自行安裝、更換。
· 必須人手準備並安裝作業系統。
災後恢復和備份
· 每項數據儲存三份副本,當一份副本損壞時,數據可被快速修復 。
· 硬體故障可以快速自動恢復。
· 必須人手搭建災後恢復環境,使用昂貴的傳統儲存裝置。
· 必須人手修復損毀的數據。
成本
· 支援訂閱和隨用隨附兩種計費方式,您可根據需求選擇合適的計費方式 。
· 無需大量前期投入即可自選購買資源。
· 需要先付費購買資源,以滿足高峰時段的配置需求。
· 前期投入較大,造成資源浪費。

應用場景

圖像視覺化

解決方案和高效能

提供業界領先的解決方案,可以在工程模擬和分析方面提供高效能、可擴展性和企業級可靠性。 借助大量 GPU 記憶體和高 GPU 效能,您可以善用其運算能力來進行複雜的模擬,解決挑戰性難題。

優點

已優化的解決方案

善用 CFD 建模顯著縮短解決時間。

加速運算電磁學電子設計

透過模擬電磁效能並預測電磁輻射、干擾和傳輸,協助設計高效能電子產品和組件。

工程模擬

雲端的虛擬化應用程式可提高生產力並節省 IT 預算。

影片處理

高清影片處理以達至最佳顯示效果

影片處理任務經常遇到問題(例如數據量大、處理時間長)。 GPU 可進行並行運算,並可用於影片處理優化。 GPU 主要應用於大規模高清影片轉碼、4K、8K直播、多用戶視像會議、影像來源修復等領域。

優點

高效能

優化以提升運算效能。

卓越運算能力

支援快速處理多幀數據,以及可處理大量運算任務的運算能力。

科學運算

高效能運算

GPU 在科學運算(例如氣象預測、碳氫化合物勘探、分子動力學研究)中發揮至關重要的作用,這些運算需要大規模並行運算。 GPU 加上彈性運算可提供大規模浮點運算所需的運算能力。 這種運算能力線上線下均可用。

優點

卓越運算能力

提供最新的 GPU 及快速部署方式,滿足科學運算的大量運算需求。

FAQ - 您的問題,由我們來回答!

什麼是 GPU 雲端主機?

GPU 雲端主機是基於圖形處理單元(GPU)的伺服器類型,主要協助您在人工智慧中實現資源的靈活分配、彈性擴展、算力的提升以及成本的控制。GPU 雲端主機擅長深度學習、視訊編解碼、視訊處理、科學計算、圖形視覺化、線上遊戲等場景的應用。

由於 Windows 自帶的遠端連線(RDP)協定本身並不支援 DirectX、OpenGL 等相關應用程式。 因此,您需要自行安裝 TightVNC 服務和用戶端,或其它支援 PCOIP、XenDesktop HDX 3D 等協定的遠端連線用戶端。

很抱歉,我們 TAKI GPU 雲端主機不支援安卓模擬器。

CPU 或中央處理單元是一種硬體元件,它是伺服器中的核心運算單元。 它可處理執行操作系統和應用程式所需的所有類型的運算任務。 圖形處理單元 (GPU) 是類似的硬件元件,但更專業。 相較於一般 CPU,它能夠更有效地處理平行執行的複雜數學運算。 雖然 GPU 最初是為處理遊戲和動畫中的圖形翻譯任務而建立,但現在其用途遠遠超出這種情況。

GPU 與 CPU 的比較如下表所示:

對比項目

GPU

CPU

算術運算單元(ALU)

擁有大量擅長處理大規模並發計算的算術運算單元(ALU)。

擁有強大的算術運算單元(ALU),但數量較少。

邏輯控制單元

擁有相對簡單的邏輯控制單元。

擁有複雜的邏輯控制單元。

緩存快取

擁有很少的緩存,且緩存用於服務線程,而不是用於保存訪問的資料。

擁有大量的快取結構,能夠將資料保存至緩存,從而提高存取速度,降低延遲。

回應方式

需要將全部任務整合後,再進行批次處理。

即時響應,單一任務的響應速度較高。

應用場景

適用於運算密集,相似度高,且多執行緒並行的高吞吐量運算場景。

適用於對響應速度有要求,且邏輯複雜的串列運算場景。

電腦圖形和動畫的出現,產生了 CPU 根本沒有設計進行處理的首個運算密集型工作負載。 例如,電玩遊戲動畫需要應用程式處理資料,以顯示數千個像素,每個像素都有自己的色彩、光線強度和移動。 當時 CPU 上的幾何數學計算造成效能問題。

硬體製造商開始認識到,卸載常見的多媒體導向任務可減輕 CPU 並提高效能。 如今,相較於 CPU,圖形處理單元 (GPU) 工作負載可更有效地處理多個運算密集型應用程序,例如機器學習和人工智能。

功能
CPU 與 GPU 之間的主要區別在於其功能。 服務器無法在沒有 CPU 的情況下執行。 CPU 會處理服務器上所有軟件正確執行所需的所有任務。 另一方面,GPU 支援 CPU 來執行平行計算。 GPU 可更快地完成簡單且重複的任務,因為它可以將任務分解為更小的元件以及平行完成任務。

設計
GPU 透過多個核心或算法邏輯單元 (ALU),在並行處理中表現出色。 GPU 核心的功能不如 CPU 核心,而且記憶體較少。 雖然 CPU 可在不同的指令集之間快速切換,但 GPU 只需大量相同的指令,並以高速推送它們。 因此,GPU 功能在平行運算中發揮著重要作用。

差異範例
為了更好地理解,請考慮以下類比。 CPU 就像一間大餐廳的主廚,必須確保數百個漢堡被翻轉。 即使主廚可以親自做到,這也並非以最佳方式利用時間。 當主廚完成這項簡單但耗時的任務時,所有廚房操作可能會停止或減慢速度。 為了避免這種情況,主廚可使用平行翻轉幾個漢堡的初級助理。 GPU 則更像是擁有十隻手的初級助理,可在 10 秒內翻轉 100 個漢堡。

當您執行指令 nvidia-smi 無法找到 GPU 顯示卡時,通常是因為您的 GPU 雲端主機未安裝或未成功安裝 NVIDIA 驅動。 請根據您所購買的 GPU 雲端主機規格選擇對應的操作指引來安裝驅動,具體說明如下:

如果您購買的是 GPU 雲端主機,請務必安裝 GRID 驅動程式。 如需具體操作,請參閱在 GPU 雲端主機中安裝 GRID 驅動程式(Linux)或在 GPU 雲端主機中安裝GRID驅動程式(Windows)。

更多驅動安裝場景及操作指引,請參閱 NVIDIA 驅動安裝指引。

不同作業系統的 GPU 雲端主機,查看GPU顯示卡資訊的操作有所區別,說明如下:

  • 如果您的 GPU 雲端主機安裝了 Linux 作業系統,您可以執行命令 nvidia-smi,查詢 GPU 顯示卡的詳細資訊。
  • 如果您的 GPU 雲端主機安裝 Windows 作業系統,您可以在裝置管理員中查看 GPU 顯示卡的詳細資訊。

您執行指令 nvidia-smi 查詢到的 CUDA 版本代表您的 GPU 雲端主機能夠支援的最高 CUDA 版本,並不代表您建立GPU 雲端主機時所選擇的 CUDA 版本。

問題現象:使用 GPU 時出現 GPU 掉卡現象,例如在 Linux 系統上使用 GPU 時,出現 GPU 卡啟動失敗的錯誤提示。 執行 sh nvidia-bug-report.sh 指令後,在產生的日誌中,可以看到 Xid 119 或 Xid 120 錯誤訊息。 以 Xid 119 錯誤頁面為例,顯示如下:

可能原因:造成上述問題的原因可能是 GPU 的 GSP(Graphics Services Processor)元件運作狀態異常。 目前,NVIDIA 並未提供某個驅動版本來徹底解決該類問題,因此建議您關閉 GSP 功能後再使用 GPU 卡。 更多資訊,請參考 NVIDIA Common XID Errors。

解決方案:

1.登入 GPU 雲端主機。

具體操作,請參閱透過密碼或金鑰認證登入 Linux 雲端主機。

2.執行以下指令,關閉 GPU 的 GSP 元件。

echo options nvidia NVreg_EnableGpuFirmware=0 > /etc/modprobe.d/nvidia-gsp.conf

3.重啟 GPU 雲端主機。

具體操作,請參閱重啟主機。

4.再次登入 GPU 雲端主機。

5.執行以下指令,查看 EnableGpuFirmware 參數值。

cat /proc/driver/nvidia/params | grep EnableGpuFirmware:

如果回傳結果是 EnableGpuFirmware:0,表示 GPU 的 GSP 元件關閉,問題已修復。

說明
只要 EnableGpuFirmware:0,執行 nvidia-smi 檢查 GPU 卡狀態時,其回傳結果肯定是正常的。

如果回傳結果不是 EnableGpuFirmware:0,表示 GSP 元件沒有關閉,請繼續執行下一步。

6.執行以下指令,確認 NVIDIA GPU 卡是否正常。

nvidia-smi

如果傳回結果異常,表示 NVIDIA GPU 卡仍有問題,請聯絡 TAKI 客服運維技術人員進行關機遷移操作。