Developer nhiều hơn GPU? Kinesis Grid giúp mọi nhóm luôn tiến về phía trước.

• Grid / lab-a100 / Chính sách

  Chia sẻ công bằngTắtChia sẻ công bằng

  Thời gian được phân bổ

  4 giờ

  Ứng dụng mỗi người

  2

  Hoạt động

  • Đang chờ năng lực của grid (chia sẻ công bằng)ana · train-vit
  • Đã rời máy — hết lượt (chia sẻ công bằng)ben · sweep-12
  • Máy được dành cho ứng dụng (chia sẻ công bằng)ana · train-vit
  • Được nhận vào từ hàng đợi Grid (chia sẻ công bằng)ana · train-vit

  Chia sẻ công bằng

  Khi thiếu GPU, các ứng dụng chờ trong hàng đợi và lần lượt chạy. Hãy đặt thời lượng được phân bổ và số ứng dụng mỗi người; Grid chuyển công việc đi khi hết lượt.

• Grid / lab-a100 / Chính sách / Hạn mức

  • Giới hạn số GPU mỗi người4
  • Giới hạn số ứng dụng mỗi người3
  • Giới hạn số máy mỗi ngườiKhông giới hạn
  • Thời gian ân hạn trước khi dừng15 phút

  Ứng dụng được miễn trừ

  shared-inferencelab-jupyterhub

  Giới hạn container

  CPU 16 lõiBộ nhớ 64 GB

  Hạn mức và giới hạn

  Giới hạn GPU, ứng dụng và instance cho mỗi người trên từng Grid, đặt giới hạn CPU và bộ nhớ cho từng container, và miễn trừ các dịch vụ dùng chung mà mọi người đều cần.

• Máy chủ / gpu-node-07 / GPU slice

  H100 80GBChia MIG Bật

  Đơn vị

  VRAM

  Ứng dụng được gán

  3g.40gb40 GBthesis-llm

  2g.20gb20 GBcs231-notebook-04

  1g.10gb10 GBcs231-notebook-11

  1g.10gb10 GBMiễn phí

  GPU phân đoạn

  Chia các GPU trung tâm dữ liệu được hỗ trợ (dòng A100 và H100) thành các lát cô lập bằng NVIDIA MIG, để một card phục vụ cả lớp học hoặc nhiều tác vụ. Mỗi lát được tính là một GPU trong hạn mức. GPU không chia được sẽ được dùng chung nguyên chiếc, lần lượt theo chia sẻ công bằng.

• Đội máy · Tất cả Grid

  • dgx-018× A100 · lab-a100
  • colo-h100-028× H100 · research
  • lab-l40s-034× L40S · teaching
  • ws-rtx-112× RTX 6000 · teaching

  Tầm nhìnTìm kiếmNghiên cứuThực tập sinh

  Toàn bộ cụm máy của bạn trong một màn hình

  Mọi máy chủ trên mọi Grid, kèm thông tin công việc của ai đang chạy trên từng GPU. Mức sử dụng theo người và chi phí theo dự án chỉ cách một cú nhấp.

Màn hình minh họa · tên và số liệu đều là giả định

• Trường đại học và phòng nghiên cứu

  Một cụm cho mọi phòng lab và khóa học, không cần bảng đăng ký.

  • Mỗi phòng lab hoặc khóa học có một hạn mức. Chia sẻ công bằng xử lý cao điểm trước các hạn chót.
  • Chia GPU lớn để cả lớp học có thể làm việc cùng lúc.
  • Mức sử dụng theo từng người và chi phí theo từng dự án cho báo cáo tài trợ và phân bổ chi phí nội bộ.
  • Sinh viên tự triển khai notebook và mô hình. Không cần gửi ticket cho quản trị viên.

• Vườn ươm và chương trình tăng tốc khởi nghiệp

  Quyền truy cập GPU cho mọi startup trong khóa, trên chính phần cứng của chương trình.

  • Mỗi startup có giới hạn riêng, nên một tuần ra mắt sản phẩm không làm các startup khác thiếu tài nguyên.
  • Dự án và vai trò riêng cho từng nhóm. Dùng chung một Grid hoặc cấp cho mỗi nhóm một Grid riêng.
  • Nhân sự chương trình xem được mức sử dụng theo từng người và chi phí theo từng dự án cho cả khóa.
  • Startup vẫn giữ nguyên quy trình làm việc sau khi tốt nghiệp chương trình, trên Grid của riêng mình hoặc trên năng lực tính toán của Kinesis.