So sánh Benchmark hiệu năng GPU RTX 3090 vs RTX 2080 Ti vs Titan RTX vs RTX 6000/8000

Điểm Benchmark NVIDIA RTX 3090 cho TensorFlow

Ở bài này, chúng tôi đã tiến hành đánh giá hiệu suất học sâu cho TensorFlow trên GPU NVIDIA GeForce RTX 3090.

Máy trạm Deep Learning của chúng tôi được trang bị hai GPU RTX 3090 và chúng tôi đã chạy tập lệnh điểm chuẩn “tf_cnn_benchmarks.py” tiêu chuẩn được tìm thấy trong github chính thức của TensorFlow. Chúng tôi đã thử nghiệm trên các mạng sau: ResNet50, ResNet152, Inception v3, Inception v4. Hơn nữa, chúng tôi đã chạy các thử nghiệm tương tự bằng cách sử dụng cấu hình GPU 1, 2 và 4 (đối với phần 2x RTX 3090 so với 4x 2080Ti). Kích thước lô được xác định là kích thước lớn nhất có thể vừa với bộ nhớ GPU có sẵn.

Các điểm chính và kết quả thấy được

  • Các NVIDIA RTX 3090 vượt trội so với tất cả các GPU (hình ảnh / giây) trên tất cả các mô hình.
  • Hệ thống có 2x RTX 3090> 4x RTX 2080 Ti.
  • Đối với học sâu, RTX 3090 là GPU có giá trị tốt nhất trên thị trường và làm giảm đáng kể chi phí của một máy trạm AI.

RTX 3090 ResNet 50 TensorFlow BenchmarkĐiểm chuẩn RTX 3090

1x GPU 2x GPU kích thước lô
RTX 2080 Ti 522,52 959,78 128
RTX 6000 637,56 1248,54 512
RTX 8000 604,76 1184,52 1024
TITAN RTX 646,13 1287.01 512
RTX 3090 1139.15 2153,53 512

RTX 3090 ResNet 152 TensorFlow Benchmark

Điểm chuẩn đào tạo AI 3090

1x GPU 2x GPU kích thước lô
RTX 2080 Ti 209,27 348,8 64
RTX 6000 281,94 519,76 256
RTX 8000 285,85 529.05 512
TITAN RTX 284,87 530,86 256
RTX 3090 457,45 857,14 256

RTX 3090 Inception V3 TensorFlow Benchmark

RTX 3090 Benchmarks Deep Learning

1x GPU 2x GPU Batch size
RTX 2080 Ti 310.32 569,24 128
RTX 6000 391.08 737,77 256
RTX 8000 391,3 754,94 512
TITAN RTX 397.09 784,24 256
RTX 3090 697,98 1296,86 256

RTX 3090 Inception V4 TensorFlow Benchmark

RTX 3090 Benchmarks Deep Learning

1x GPU 2x GPU Batch size
RTX 2080 Ti 150,59 247,16 64
RTX 6000 203,9 392,14 256
RTX 8000 203,67 384,29 512
TITAN RTX 207,98 399,16 256
RTX 3090 360 679,61 256

2x NVIDIA RTX 3090 Vs. 4x RTX 2080 Ti – Cấu hình nào tốt hơn?

Nhiều người tò mò không chỉ về sự kết hợp hiệu suất 1:1 của RTX 3090 và RTX 2080 Ti mà còn về hiệu suất của cấu hình đa GPU. Như hiện tại, RTX 3090 có 3 khe cắm PCIe (so với 2 khe cắm thông thường như 2080 Ti có) trên một bo mạch chủ thông thường. Do kích thước của nó, một máy trạm thông thường hiện chỉ có khả năng chứa 2 RTX 3090 (không có sửa đổi tùy chỉnh mở rộng. Cấu hình 2x RTX 3090 có tương ứng với cấu hình hướng đến hiệu năng 4x 2080 Ti không? Nói một cách đơn giản là “có”. Hãy xem kết quả cụ thể dưới đây.Điểm chuẩn đào tạo AI

1x GPU 2x GPU GPU 4x Batch size
RTX 2080 Ti 522,52 959,78 1836,61 128
RTX 3090 1139.15 2153,53 N / A 512

Tham số Benchmark TF CNN

Description Type
Number of Batches 100
Number of Epochs 0.01
Data Format NCHW
Optimizer Momentum
Variables parameter_server

NVIDIA RTX 3090 có bộ nhớ 24GB GDDR6X và được xây dựng với lõi RT và lõi Tensor nâng cao, bộ xử lý đa xử lý phát trực tuyến mới và bộ nhớ G6X siêu nhanh để tăng hiệu suất đáng kinh ngạc.

Thông tin thêm về NVIDIA RTX 3090

So với 4352 lõi CUDA của RTX 2080 Ti, RTX 3090 tăng hơn gấp đôi với 10496 lõi CUDA. CUDA Core là GPU tương đương với lõi CPU và được tối ưu hóa để chạy một số lượng lớn các phép tính đồng thời (xử lý song song). Nhiều lõi CUDA hơn thường có nghĩa là hiệu suất tốt hơn và xử lý đồ họa chuyên sâu nhanh hơn.

Nguồn Exxt

Liên hệ tác giả