Ước tính chi phí hạ tầng LLM cho bệnh viện tỉnh
Chương 13 cho bạn khung 3 tầng hạ tầng và lập luận vì sao workstation RTX 6000 là điểm ngọt. Trong lab này, bạn đóng vai trưởng phòng CNTT một bệnh viện tỉnh: dùng calculator tương tác để so sánh TCO 3 năm của 3 phương án, rồi viết tờ trình đề xuất lên giám đốc.
Thông tin học viên
Câu hỏi
Bệnh viện tỉnh B. (800 giường, 600 nhân viên y tế) muốn triển khai AI. Thực hiện 4 nhiệm vụ trên calculator tương tác của lab: **1. Chọn use case và SLA (20 phút):** Chọn 1 trong 3 use case: (a) ambient scribe cho 50 phòng khám, (b) chatbot nội bộ tra cứu quy trình cho 600 nhân viên, (c) AI hỗ trợ đọc X-quang cho khoa CĐHA. Đặt SLA: số người dùng đồng thời, độ trễ chấp nhận được, yêu cầu dữ liệu (có được ra biên giới không?). **2. Tính 3 phương án (50 phút):** Với use case đã chọn, calculator cho bạn cấu hình 3 phương án L1 (cloud API), L2 (workstation RTX 6000), L3 (cụm GPU). Điều chỉnh tham số (số user, mức dùng token/ngày) và ghi lại BOM (danh mục vật tư/cấu hình) của từng phương án. **3. So sánh TCO 3 năm (30 phút):** Xuất bảng so sánh: đầu tư ban đầu + vận hành/năm + nhân sự của 3 phương án trong 3 năm. Vẽ hoặc mô tả điểm hòa vốn (break-even) giữa cloud và mua máy — ở mức dùng nào thì L2 rẻ hơn L1? **4. Viết tờ trình (30 phút):** Viết tờ trình 400–600 từ gửi giám đốc bệnh viện: đề xuất 1 phương án, lý do (chi phí, bảo mật dữ liệu theo NĐ 13/2023, năng lực vận hành hiện có), rủi ro chính và điều kiện tiên quyết (ví dụ: dữ liệu đã đạt mức nào theo chương 12?). Giá linh kiện trong calculator mang tính thời điểm 10/2026 — ghi rõ giả định giá trong tờ trình. Không bịa báo giá nhà cung cấp cụ thể.
🧰 Công cụ AI miễn phí gợi ý
Bạn có thể dùng bất kỳ công cụ nào dưới đây để nghiên cứu, so sánh, hoặc draft. Mục tiêu là giúp bạn làm bài có chất lượng — không phải nộp output của AI.
- ↳ Video: Keynote GTC 2025 — Jensen Huang (NVIDIA)Hiểu định hướng hạ tầng AI của NVIDIA trước khi chọn cấu hình.
- ↳ Video: Tóm tắt GTC 2025 (CNET, 16 phút)Nắm nhanh các công bố hạ tầng nếu không có thời gian xem keynote đầy đủ.
- ↳ NVIDIA DGX PlatformTham khảo kiến trúc cụm GPU cho phương án L3.