CPU 2,2 triệu đồng của AMD biến thành GPU 16GB để chạy ứng dụng AI, không cần tới GPU chuyên dụng giá gần tỷ đồng
Với giá bán trên thị trường lên tới 40.000 USD, thậm chí cao hơn ở ‘chợ đen’, không phải người dùng cá nhân nào cũng có đủ ngân sách để mua hoặc thuê GPU chuyên dụng Nvidia H100 (Hopper) để thử nghiệm các tác vụ AI.
Chưa kể đến, với ‘cơn khát’ card đồ họa chuyên dụng cho AI đang diễn ra toàn ngành công nghệ, việc tiếp cận một mẫu GPU như vậy được coi là điều không thể, ngay cả khi bạn có đủ tiền để mua. May mắn thay, bạn có thể sẽ không cần tới các GPU như H100, A100 (Ampe) đắt tiền, hay thậm chí là các card đồ họa chơi game top đầu như RTX 4090 hay RX 7900 XTX.
Theo đó, Ttiotech – một người dùng công nghệ trên mạng xã hội Reddit mới đây đã chứng minh APU Ryzen 5 4600G với giá 95 USD của AMD vẫn có thể xử lý các khối lượng công việc AI khác nhau.
Với các tác vụ AI, các công ty công nghệ thường phải sử dụng các card đồ họa chuyên dụng như H100 hay A100 của Nvidia, vốn cói hiệu năng xử lý tốt hơn so với các mẫu card đồ họa chỉ dùng để chơi game. Tuy nhiên, giá bán của các mẫu card đồ họa chuyên dụng có thể lên tới gần 1 tỷ đồng (như H100). Ảnh: Internet
Theo trang Tomshardware, một video vừa được Ttiotech hé lộ mới đây đã thổi sức sống mới vào Ryzen 5 4600G, biến APU kiến trúc Zen 2 ở phân khúc phổ thông này thành một card đồ họa (GPU) có dung lượng VRAM lên tới 16GB. Với thông số này, Ryzen 5 4600G hoàn toàn có thể chạy các ứng dụng AI trên Linux.
Cách biến APU giá 95 USD thành card đồ họa 16GB chạy tác vụ AI
Ryzen 5 4600G là một APU 6 nhân, 12 luồng với các lõi Zen 2 hoạt động với xung nhịp cơ bản và tăng tốc là 3,7 GHz và 4,2 GHz. Con chip có TDP 65W này cũng sử dụng iGPU (GPU tích hợp) Radeon Vega với bảy đơn vị tính toán với tốc độ xung nhịp xử lý lên tới 1,9 GHz. Giống như các APU khác, Ryzen 5 4600G không tích hợp bộ nhớ VRAM riêng biệt, mà tận dụng bộ nhớ RAM của PC cho việc lưu trữ dữ liệu đồ họa.
Trong trường hợp của người dùng Ttiotech trên Reddit, người dùng này đã trang bị cho PC của mình dung lượng RAM lên tới 32GB, thuộc chuẩn DDR4. Một nửa trong số này (16GB) đã được thiết lập để phân bổ cho Ryzen 5 4600G. Đây cũng là dung lượng bộ nhớ tối đa người dùng có thể dành cho iGPU.
APU Ryzen 5 4600G từng được coi là một trong APU chơi game tốt nhất trên thị trường khi ra mắt vào năm 2020, trước khi bị thay thế bởi APU mới hơn là Ryzen 5 5600G). Hiện tại, Ryzen 5 4600G có giá bán khoảng 95 USD (tức khoảng 2,2 triệu đồng) Ảnh: PhoneMantra
Xét về thông số kỹ thuật, Ryzen 5 4600G nếu trở thành một “card đồ họa” 16GB sẽ có dung lượng VRAM nhiều hơn một số dòng card đồ họa rời như GeForce RTX 4070 hay RTX 4070 Ti mới nhất của Nvidia, vốn chỉ trang bị 12GB VRAM. Thông thường, các tác vụ AI thường ‘ngốn’ rất nhiều dung lượng bộ nhớ của card đồ họa, đòi hỏi GPU phải trang bị VRAM dung lượng cao.
Tất nhiên, về mặt logic, các APU như Ryzen 5 4600G sẽ không mang lại hiệu năng tương đương với một card đồ họa cao cấp, nhưng ít nhất nó sẽ không cạn bộ nhớ khi thực hiện khối lượng công việc AI, khi 16GB là khá đủ cho các tác vụ có khối lượng tính toán không quá nặng.
Tuy nhiên, về mặt phần mềm, các APU như Ryzen 5 4600G không thuộc diện được AMD hỗ trợ sử dụng nền tảng điện toán mở Radeon (ROCm) của hãng này, vốn được coi là gói phần mềm giúp tối ưu toàn diện sức mạnh phần cứng cho các tác vụ AI. Thông thường, gói phần mềm này chỉ hỗ trợ các GPU chuyên dụng dành cho AI.
Sau khi thực hiện một vài thủ thuật ‘lách’ về phần mềm hỗ trợ, Ryzen 5 4600G đã có thể chạy các ứng dụng AI thông dụng như Stable Diffusion. Ảnh chụp màn hình
Tuy nhiên, các công ty bên thứ ba, chẳng hạn như BruhnBruhn Holding, cung cấp các gói ROCm thử nghiệm vốn sẽ hoạt động với APU như Ryzen 5 4600G. Điều đó có nghĩa APU này có thể hoạt động với các framework dùng để huấn luyện AI như PyTorch và TensorFlow, mở ra cánh cổng cho hầu hết các phần mềm AI.
Theo như video do Ttiotech đăng tải, Ryzen 5 4600G có thể chạy rất nhiều ứng dụng AI, bao gồm Stable Diffusion, FastChat, MiniGPT-4, Alpaca-LoRA, Whisper, LLM và LLaMA. Trong ứng dụng Stable Diffusion – một trình tạo ảnh bằng AI cực kỳ phổ biến, Ryzen 5 4600G có màn thể hiện rất tốt khi chỉ mất khoảng 1 phút 50 giây để tạo ra hình ảnh có độ phân giải 512 x 512 – với cài đặt mặc định là 50 bước.
Theo Wccftech, mặc dù không thể so sánh hiệu năng của một APU giá rẻ như Ryzen 5 4600G với GPU chuyên dụng dành cho AI như H100, thử nghiệm này cho thấy tiềm năng chưa được khai thác trong các APU của AMD. Chẳng hạn, nếu thay Ryzen 5 4600G bằng các APU thuộc thế hệ Phoenix mới nhất, hiệu suất xử lý tác vụ AI sẽ vượt trội hơn nhiều.
Tuy nhiên, với mức giá chỉ gần 2,2 triệu đồng, Ryzen 5 4600G vẫn là một thiết bị phù hợp cho những người dùng muốn tìm hiểu thêm về AI mà không muốn bỏ ra quá nhiều chi phí.
Tham khảo Tomshardware