Qwen3.8-27B đang gây sốt khi đạt hiệu năng tiệm cận các mô hình hàng đầu dù chỉ chạy trên GPU tiêu dùng 24GB. Đây hiện là thước đo mới cho cộng đồng mã nguồn mở.
MiniMax@MiniMax_AITeaming up with @ComfyUI for the H3 challenge🏄♀️ Build, submit by 9/1, win an RTX 5090 or 5060 Ti…
DịchMiniMax và ComfyUI vừa khởi động cuộc thi cộng đồng xoay quanh mô hình H3, diễn ra từ 20/8 đến 1/9 với giải thưởng hấp dẫn là card đồ họa RTX 5090 và 5060 Ti.
AMD vừa ra mắt driver Adrenalin 26.8.1, chính thức hỗ trợ card đồ họa Radeon RX 9050 (4GB). Phiên bản này bị cắt giảm một nửa dung lượng VRAM, băng thông và bộ nhớ đệm Infinity Cache so với bản 8GB, hướng tới phân khúc phổ thông.
Nvidia đang tích cực làm cầu nối giữa các công ty sở hữu GPU và các nhà vận hành trung tâm dữ liệu tại Bắc Âu, tận dụng lợi thế về năng lượng và khí hậu tại khu vực này để mở rộng hạ tầng AI.
Charlie Holtz@charlieholtzgood stuff:)
DịchCarl Peterson vừa gọi vốn thành công 13 triệu USD vòng Series A nhằm tối ưu hóa hiệu suất GPU. Công ty tập trung vào giải pháp ảo hóa để tận dụng 80% công suất GPU đang bị lãng phí trên thị trường hiện nay.
Steve Hou từ Silicon Data giải thích về chỉ số mới giúp Phố Wall định giá năng lực tính toán AI, phản ánh biến động thực tế của thị trường cho thuê GPU.
PTXBench là bộ benchmark mới đánh giá khả năng tối ưu hóa nhân GPU của LLM thông qua mã PTX trên H100 và B200. Kết quả cho thấy các mô hình hiện nay vẫn gặp khó khăn trong việc đạt hiệu suất tương đương với các thư viện chuyên dụng, đặc biệt là trong các tác vụ Attention phức tạp.
Nvidia dự định huy động 500 tỷ USD để biến sức mạnh tính toán thành tài sản đầu tư. Tuy nhiên, giới chuyên gia hoài nghi về tính khả thi khi nhu cầu thị trường có dấu hiệu bão hòa và các cam kết lớn trước đó vẫn chưa được hiện thực hóa.
Sự tăng trưởng mạnh mẽ của mảng điện toán đám mây GPU đã bù đắp cho đà tăng trưởng khiêm tốn hơn từ các ứng dụng AI, thu hút sự quan tâm lớn từ các nhà đầu tư Phố Wall.
Agentic ESOpt là khung tinh chỉnh toàn tham số dựa trên chiến lược tiến hóa, cho phép tối ưu hóa các tác nhân LLM mà chỉ cần bộ nhớ GPU ở mức suy luận, vượt trội hơn hẳn các phương pháp học tăng cường truyền thống.
Sau khi ra mắt phiên bản 1.0, Mojo đã chính thức mở mã nguồn trình biên dịch và bộ công cụ theo giấy phép Apache 2. Ngôn ngữ này hiện định vị là một thực thể độc lập, tập trung tối ưu hóa lập trình GPU với cú pháp gần gũi như Python.
Cùng sự kiện, tinh chọn hiển thị «Ngôn ngữ lập trình Mojo chính thức mã nguồn mở, công khai toàn bộ trình biên dịch»
Rohan Paul@rohanpaul_aiSomebody running an Opus 4.6-level intelligence on consumer GPU. Qwen3.8-27B-GGUF doing 80 tok/s on…
DịchMô hình Qwen3.8-27B đạt hiệu năng vượt trội so với Claude 3 Opus trong các bài kiểm tra lập trình và kiến thức, chạy mượt mà trên 2 card RTX 4090 với tốc độ 80 tok/s và cửa sổ ngữ cảnh lên tới 262k token.
CPU-Z phiên bản 2.21 vừa ra mắt, bổ sung hỗ trợ cho card đồ họa Lisan LX 7G100 sử dụng kiến trúc TrueGPU, đồng thời cập nhật tương thích cho AMD EXPO ULL và dòng card Radeon RX 9500.
Nghiên cứu này chứng minh khả năng xây dựng cụm máy chủ 128 GPU từ linh kiện cũ để chạy suy luận LLM với chi phí thấp hơn đáng kể so với phần cứng hiện đại, đồng thời phân tích tính bền vững và hiệu quả kinh tế của giải pháp này.
Rohan Paul@rohanpaul_aiAI research agents can generate experiment ideas faster than they can afford to run them. This Meta…
DịchMeta FAIR giới thiệu mô hình ưu tiên nghiên cứu (RPM) giúp dự đoán giá trị của các ý tưởng AI trước khi chạy thực nghiệm, giải quyết bài toán thiếu hụt tài nguyên tính toán cho các tác nhân nghiên cứu tự động.
Hugging Face vừa giới thiệu bộ phân bổ GPU mới giúp tối ưu hóa việc xử lý các tác vụ suy luận và batch, giúp tăng hiệu suất sử dụng phần cứng lên tới 33% mà không cần thay đổi hạ tầng.
Scott Gray, kỹ sư GPU hàng đầu được mệnh danh là 'thần nhân CUDA', đã xác nhận rời OpenAI sau một thập kỷ. Sự ra đi của ông đánh dấu thêm một tổn thất nhân sự cấp cao đáng chú ý của OpenAI trong năm nay.
GUNNIR vừa mở bán card đồ họa chuyên dụng Arc Pro B65 TF 32GB, được tối ưu hóa cho các tác vụ AI như tạo ảnh ComfyUI và video với hiệu năng mạnh mẽ nhờ 20 nhân Xe-core và mức tiêu thụ điện 200W.
Rohan Paul@rohanpaul_aiInteresting choice of title from The Wall Street Journal. Nvidia and 6 financial firms have signed…
DịchNVIDIA hợp tác với 6 tổ chức tài chính để thiết lập nền tảng huy động 500 tỷ USD vốn bên thứ ba, biến GPU thành tài sản thế chấp có thể thu hồi. Động thái này giúp NVIDIA củng cố vị thế độc tôn khi các ngân hàng lớn như Goldman Sachs bắt đầu cấp tín dụng dựa trên sức mạnh tính toán.
AI Notes@AYi_AInotesScott Gray, kỹ sư được mệnh danh là lập trình viên GPU giỏi nhất thế giới, đã rời OpenAI sau 8 năm gắn bó. Ông là nhân vật then chốt đứng sau các đột phá kỹ thuật giúp hiện thực hóa Scaling Laws cho GPT-3, GPT-4 và DALL-E.
Yuchen Jin@Yuchenj_UWBob, the king of GPU kernels, left openai? GPT-6.7 will run 2x slower….
DịchScott Gray, nhân vật chủ chốt đứng sau các nhân lõi GPU của OpenAI, vừa thông báo rời công ty. Sự ra đi của ông dấy lên lo ngại về hiệu suất vận hành của các thế hệ mô hình tương lai như GPT-6.7.
NVIDIA hợp tác cùng các định chế tài chính hàng đầu như BlackRock, Goldman Sachs để huy động 500 tỷ USD xây dựng hạ tầng AI, đồng thời cam kết bảo trợ giá trị tài sản lên tới 25% cho các thiết bị GPU.
Thêm 2 nguồn khác đưa tinX: Rohan Paul (@rohanpaul_ai)VietnamPlus Công nghệMô hình Qwen2.5-27B mới vừa thiết lập cột mốc ấn tượng khi vượt mặt Claude trên nhiều bảng xếp hạng, cho phép người dùng cá nhân chạy các tác nhân AI mạnh mẽ ngay trên GPU tiêu dùng.
AI Notes@AYi_AInotesQwen3.8-27B chính thức phát hành, cho phép chạy cục bộ trên card đồ họa 24GB với hiệu suất lập trình và tác vụ Agent vượt trội so với Claude Opus 4.6.
Qwen@Alibaba_QwenOne GPU, 1M context, Day-0 ready. Big props to the vLLM team for the seamless integration! 👍 Try Qwe…
DịchQwen3.8-27B sở hữu kiến trúc tối ưu cho phép chạy trên một GPU Blackwell duy nhất, hỗ trợ độ dài ngữ cảnh gốc 262K và mở rộng tới 1M token, đồng thời tích hợp sẵn công nghệ MTP giúp tăng tốc độ phản hồi vượt trội.
Thêm 1 nguồn khác đưa tinQbitAIStartup Pháp Kog phát triển giải pháp phần mềm giúp khai thác tối đa hiệu năng GPU trung tâm dữ liệu, đạt tốc độ 3.000 token/giây và hứa hẹn tăng tốc suy luận LLM gấp 30 lần.
NVIDIA đang chuyển hướng phát triển sang GPU "Feynman", dự kiến ứng dụng tiến trình A16 tiên tiến của TSMC cùng công nghệ đóng gói 3D SoIC và quang học tích hợp CPO để tối ưu hiệu năng.
Tác giả tận dụng các card đồ họa AMD V620 giá rẻ từ thị trường đồ cũ để xây dựng hệ thống AI cá nhân, giải quyết các thách thức về tản nhiệt và cấu hình phần cứng để tối ưu hóa hiệu năng.
DeepSeek-V4-Pro với 1,6 nghìn tỷ tham số đã chính thức phát hành, hỗ trợ API OpenAI và tối ưu cho GPU nội địa. Người dùng có thể trải nghiệm qua chế độ chuyên gia với cơ chế giá linh hoạt từ ngày 17/8.
Nvidia bắt tay với các định chế tài chính lớn để rót 500 tỷ USD vào hạ tầng AI, đồng thời cam kết bù lỗ tới 25% giá trị nếu GPU mất giá. Chiến lược này giúp thúc đẩy thị trường GPU cũ nhưng cũng tiềm ẩn rủi ro tài chính kép khi nhu cầu thị trường suy giảm.
Nghiên cứu giới thiệu phương pháp 'ready-cohort' nhằm xác định ranh giới thực thi trên GPU cho các tác nhân LLM, giúp giữ quyết định tại thiết bị và tăng tốc độ xử lý lên tới 2,39 lần so với cách tiếp cận truyền thống.
Rohan Paul@rohanpaul_aiSome really interesting numbers on GPU depreciation cycle. A 6-year-old NVIDIA GPU generation stil…
DịchCoreWeave kéo dài thời hạn khấu hao GPU A100 lên 6 năm và ký hợp đồng dịch vụ đến 2029, cho thấy sức sống bền bỉ của các dòng chip cũ nhờ hệ sinh thái CUDA và nhu cầu suy luận AI.
Sau Nvidia, AMD cũng bắt đầu tăng giá GPU tại thị trường Trung Quốc. Động thái này dấy lên lo ngại về tình trạng khan hiếm và đội giá linh kiện máy tính trên toàn cầu.
Sau Nvidia, GPU AMD tại thị trường Trung Quốc bất ngờ tăng giá tới 20%. Động thái này dấy lên lo ngại về tình trạng khan hiếm và đội giá linh kiện máy tính trên toàn cầu.
Thêm 1 nguồn khác đưa tinCafeF Kinh tế sốCoreWeave vừa ký hợp đồng cho thuê chip Nvidia A100 đến năm 2029, chứng minh rằng GPU cũ vẫn có giá trị kinh tế cao và vòng đời thực tế dài hơn nhiều so với dự đoán của thị trường.
Tencent báo cáo doanh thu quý 2 tăng 11% và đẩy mạnh đầu tư hạ tầng AI lên 52,8 tỷ NDT. Hãng dự kiến nguồn cung GPU sẽ ổn định từ cuối năm nay, giúp tối ưu hóa các mô hình Hy, WorkBuddy và dịch vụ đám mây.
Do tình trạng khan hiếm linh kiện bộ nhớ GDDR7 toàn cầu, giá card đồ họa chuyên dụng RTX PRO 6000 Blackwell đã tăng vọt 87-100% so với giá khởi điểm, gây áp lực lớn lên thị trường phần cứng AI.
Sàn giao dịch CME Group hợp tác cùng Silicon Data ra mắt hợp đồng tương lai dựa trên giá thuê GPU H100 và B200, giúp doanh nghiệp quản lý chi phí tính toán và tăng tính minh bạch cho thị trường AI.
Nhóm nghiên cứu từ CUHK và HSU giới thiệu Libra, hệ thống quản lý tài nguyên đột phá giúp giải quyết tình trạng mất cân bằng tải trong huấn luyện Agentic RL, tăng hiệu suất lên gấp 3 lần so với các phương pháp truyền thống.
Nvidia cùng các ngân hàng đầu tư lập quỹ 500 tỷ USD cho các công ty AI vay mua GPU, nhằm chia sẻ rủi ro và thúc đẩy nhu cầu hạ tầng tính toán trong cuộc đua AGI.
Cùng sự kiện, bài đại diện «NVIDIA bắt tay các ông lớn tài chính lập quỹ 500 tỷ USD, biến hạ tầng AI thành tài sản đầu tư»