ASUS L40S Üretken AI için Sunucu Sistemleri

ASUS RP-NVIDIAL40S dual-band range extender can extend wireless coverage of up to 2200 sq. ft., providing seamless WiFi across your home.

Teklif Alın

Yapay Zeka ve Grafik Performansını Artırın

Üretken yapay zeka ile dönüşüm için firmaların daha büyük ölçekte daha fazla bilgi işlem kaynağı ortaya koyması gerekir. ASUS birden fazla NVIDIA L40S sunucusu sağlayarak, daha hızlı GPU bulunabilirliği ve güçlü işlem performansı sayesinde performans için daha düşük maliyet ortaya koyarak yapay zeka kullanımını hızlandırır.

ASUS, teknolojideki açıkları kapatacak ve müşterilere optimize edilmiş çözümler sunacak bilgi ve yeteneklere sahip seçkin NVIDIA OVX sunucu sistemi ve deneyimli yapay zeka çözümleri sağlayıcısıdır.
Daha Fazla Bilgi

En Önemli 3 Neden ile
ASUS L40S Sunucu Sistemleri

Daha hızlı kurulum

Kısa teslim süresi
Daha İyi Fiyat-Performans

A100’den 2 kat daha iyi performans
Daha Yüksek Performans

Güçlü Yapay Zeka & Grafikler

NVIDIA L40S

Ada Lovelace mimarisini temel alan NVIDIA L40S GPU, veri merkezleri için en güçlü evrensel GPU’dur. Bu model, büyük dil modeli (LLM) çıkarımı, eğitim, grafik ve video uygulamalarındaki çoklu iş yüklerini inanılmaz şekilde hızlandırır.

Daha Fazla Bilgi

Özel Ayarlı LLM

4 saat

GPT-175B 860M Token
LLM Arayüzü

1.1X

Performans vs HGX A100
Yapay Zeka Arayüzü

1.5X

Performans vs A100 80GM SXM2

NVIDIA L40S Teknik Özellikler

	L40S	A100 80GB SXM
En iyi	Üretken Yapay Zeka için Evrensel GPU	En Yüksek Performans Birden Fazla Düğümlü Yapay Zeka
GPU Mimarisi	NVIDIA Ada Lovelace	NVIDIA Ampere
FP64	N/A	9.7 TFLOPS
FP32	91.6 TFLOPS	19.5 TFLOPS
RT Çekirdekleri	212 TFLOPS	Mevcut Değil
TF32 Tensor Çekirdekleri	366 TFLOPS	312 TFLOPS
FP16/BF16 Tensor Çekirdekleri	733 TFLOPS	624 TFLOPS
FP8 Tensor Çekirdekleri	1466 TFLOPS	Mevcut Değil
INT8 Tensor Çekirdekleri	1466 TOPS	1248 TFLOPS
GPU Belleği	48 GB GDDR6	80 GB HBM2e
GPU Bellek Bant Genişliği	864 GB/s	2039 GB/s
L2 Ön bellek	96 MB	40 MB
Medya Motorları	3 NVENC(+AV1) 3 NVDEC 4 NVJPEG	0 NVENC 5 NVDEC 5 NVJPEG
Güç	350 W'a kadar	400 W'a kadar
Form Faktörü	2-yuva FHFL	8-yönlü HGX
Interconnect	PCle Gen4 x 16: 64 GB/s	PCle Gen4 x 16: 64 GB/s

LLM Eğitimi için NVIDIA L40S

İnce ayar yapma, küçük modellerin eğitimi ve 4 bin GPU’ya varan küçük/orta ölçekli eğitim için harika çözüm

Mevcut Modellere Özel Ayar Yapma (860 Milyon Token Eğitme Süresi)
		TE/FP8 ile Beklenen Hız Artışı
	HGX A100	L40S	HGX H100
GPT-40B LoRA (8 GPU)	12 saat	1.7x	4.4x
GPT-175B LoRA (64 GPU)	6 saat	1.6x	4.3x

Küçük Modelleri Eğitme (10 Milyar Token Eğitme Süresi)
		TE/FP8 ile Beklenen Hız Artışı
	HGX A100	L40S	HGX H100
GPT-7B (8 GPU)	12 saat	1.7x	4.4x
GPT-13B (8 GPU)	6 saat	1.6x	4.3x

Temel Modelleri Eğitme (300 Milyar Token Eğitme Süresi)
		TE/FP8 ile Beklenen Hız Artışı
	HGX A100	L40S	HGX H100
GPT-175B (256 GPU)	64 saat	1.4x	4.5x
GPT-175B (1K GPU)	16 saat	1.3x	4.6x
GPT-175B (4K GPU)	4 saat	1.2x	4.1x