SemiAnalysis@SemiAnalysis_In our ClusterMAX 3.0 article we shared some real examples of how changes in a cluster configuration…
DịchBài viết phân tích các ví dụ thực tế về cách thay đổi cấu hình cụm máy chủ ảnh hưởng trực tiếp đến hiệu suất vận hành, minh họa cụ thể qua các khối lượng công việc huấn luyện AI.
SemiAnalysis@SemiAnalysis_In our testing for ClusterMAX 3.0, one of the biggest things that we tested was reliability. we buil…
DịchSemiAnalysis thực hiện kiểm thử độ tin cậy cho ClusterMAX 3.0, tập trung vào khả năng nhận diện và phục hồi sau sự cố để đảm bảo hiệu suất thông lượng ổn định từ các nhà cung cấp.
Thariq@trq212What is effort really? When do you change it it and why not just use max effort for everything? I d…
DịchBài viết phân tích sâu về cơ chế 'effort' trong các mô hình AI, giải đáp lý do tại sao việc luôn đặt mức tối đa không phải lúc nào cũng mang lại hiệu quả tối ưu thông qua các thử nghiệm thực tế.
@completeskeptic@completeskepticjev is the top model at 1k-10k context on openrouter!
DịchMô hình jev đã vượt qua các đối thủ để chiếm vị trí số 1 trên OpenRouter trong phân khúc xử lý ngữ cảnh từ 1k đến 10k token.
GeoPair là khung làm việc mới giúp nén mô hình Transformer hiệu quả bằng cách tối ưu hóa các cặp trọng số liên lớp và phân rã từ điển chia sẻ, giúp duy trì độ chính xác mà không cần huấn luyện lại.
Microsoft cập nhật VS Code phiên bản 1.139, tập trung tối ưu hóa quản lý phiên làm việc cho AI Agent. Cải tiến này giúp tốc độ tải danh sách phiên làm việc lần đầu nhanh gấp 12 lần, mang lại trải nghiệm mượt mà hơn cho lập trình viên.
Claude Devs@ClaudeDevsWe made claude.ai 3x faster in two weeks. Here's how we use Claude to measure, debug and improve p…
DịchĐội ngũ phát triển Claude tiết lộ quy trình sử dụng chính AI để đo lường, gỡ lỗi và tối ưu hóa hiệu suất hệ thống, kèm theo các bộ prompt thực chiến giúp tăng tốc độ phản hồi của claude.ai lên gấp 3 lần.
Diễn biến sự kiện · 3 bài →Thêm 3 nguồn khác đưa tinHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)X: Thariq (@trq212)X: Boris Cherny (@bcherny)Thariq@trq212this is a new type of post we're trying where we share in-depth about how we do work using specific …
DịchĐội ngũ Anthropic công bố quy trình tối ưu hóa hiệu suất cho claude.ai, cung cấp chi tiết các phương pháp đo lường, gỡ lỗi và bộ prompt thực tế để cộng đồng có thể áp dụng.
Cùng sự kiện, tinh chọn hiển thị «Đội ngũ Claude chia sẻ cách tăng tốc claude.ai gấp 3 lần chỉ trong hai tuần»
Tibo@thsottiauxWe have been focusing on efficiency and intelligence for all. Very proud of the team. Only possibl…
DịchĐội ngũ cam kết cân bằng giữa hiệu suất và trí tuệ, khẳng định rằng việc sở hữu các mô hình AI hàng đầu là chìa khóa để tạo ra những thay đổi đột phá trên mọi phương diện.
ZHO@ZHO_ZHO_ZHOZHO chia sẻ trải nghiệm để AI tự thực hiện các tác vụ thiết kế trong khi ngủ và nhận báo cáo kết quả vào sáng hôm sau. Anh cho rằng tốc độ làm việc của AI đang vượt xa khả năng của con người, tạo ra áp lực mới trong quy trình sáng tạo.
Rohan Paul@rohanpaul_aiThe information conducted a survey with 107 senior leaders/professionals. - 60% of companies report…
DịchDù 60% doanh nghiệp ghi nhận hiệu suất tăng, phần lớn vẫn chật vật kiểm soát chi phí AI. Chỉ 1/3 số đơn vị thực sự làm chủ được ngân sách token dù hơn một nửa cho biết họ hiểu rõ cơ cấu giá.
Lightning Weave là khung huấn luyện hậu kỳ giúp kết hợp các khả năng suy luận từ nhiều mô hình chuyên biệt vào một mô hình duy nhất, giúp cải thiện đồng thời độ chính xác và tốc độ suy luận thông qua kỹ thuật chưng cất chính sách.
Dex Horthy (HumanLayer)@dexhorthyPerformance Engineering: 🦄 AI That Works #74 https://x.com/i/broadcasts/1nJOLQjaXqnxR
DịchDex Horthy từ HumanLayer chia sẻ những góc nhìn chuyên sâu về kỹ thuật tối ưu hiệu suất, giúp các hệ thống AI vận hành thực tế một cách ổn định và hiệu quả hơn.
Ma Dongxi NLP@dongxi_nlpBài viết giải thích hai giai đoạn suy luận của LLM: Prefill xử lý song song đầu vào quyết định tốc độ phản hồi ban đầu (TTFT), trong khi Decode tạo văn bản từng token một và thường bị nghẽn băng thông bộ nhớ.
opencode@opencodehard to keep deepseek down they are back on top with 6.6T tokens for the day
DịchDeepSeek một lần nữa khẳng định vị thế thống trị khi đạt cột mốc xử lý 6,6 nghìn tỷ tokens chỉ trong một ngày, vượt qua các đối thủ cạnh tranh.
Meta quyết định loại bỏ số liệu sử dụng công cụ AI khỏi tiêu chí đánh giá hiệu suất của kỹ sư, thay vào đó tập trung vào chất lượng, tốc độ và độ phức tạp của công việc thực tế.
AI Notes@AYi_AInotesThay vì chờ đợi các mô hình đơn lẻ thông minh hơn, kỹ sư SpaceXAI đã kết nối 20 Grok Bots vào một sơ đồ trạng thái để tự động hóa quy trình từ lập kế hoạch đến kiểm duyệt, giúp tăng khối lượng công việc xử lý hàng ngày từ 6 lên hơn 200 tác vụ.
AI Notes@AYi_AInotesViệc lạm dụng plugin và kỹ năng khiến AI Agent bị quá tải ngữ cảnh, làm giảm hiệu suất phản hồi. Tác giả chia sẻ prompt giúp lọc bỏ các kỹ năng dư thừa, chỉ giữ lại những công cụ cốt lõi để tối ưu hóa khả năng xử lý của mô hình.
Tibo@thsottiauxTo calibrate you all on which reasoning effort to use for Astra, know that GPT-6 Astra on low perfor…
DịchChuyên gia Tibo khuyến nghị người dùng nên hạ mức suy luận khi chuyển sang GPT-6 Astra, vì hiệu năng ở mức thấp (low) đã vượt qua GPT-5.6 Sol ở mức cao (high), giúp tiết kiệm tài nguyên mà vẫn đảm bảo chất lượng.
Legora đã tối ưu hóa quy trình kiểm toán tài chính bằng GPT-6 Astra, giúp rà soát 41 tài liệu trong vài phút và phát hiện chính xác 4 lỗi sai, nâng cao hiệu suất công việc lên gần 40%.
Alibaba Cloud@alibaba_cloud🚀 A better AI shouldn't just be faster-it should get more real work done with less budget. Qwen3.8-…
DịchAlibaba Cloud vừa tích hợp Qwen3.8-Flash vào chế độ Standard của QwenWork, giúp tối ưu hóa hiệu suất vượt trội với tốc độ xử lý nhanh gấp đôi và tiết kiệm đáng kể chi phí token cho người dùng.
Nghiên cứu giới thiệu giao thức Declarative Attention (DA), cho phép mô hình tự chỉ định vùng ngữ cảnh cần tập trung trong quá trình suy luận. Điều này giúp tối ưu hóa hiệu suất bằng cách lược bỏ các thao tác đọc KV cache không cần thiết.
Nhờ ChatGPT Work, ATV Big Air Tour đã tối ưu hóa quy trình kiểm kê, báo cáo và SEO, giúp giảm đáng kể thời gian vận hành và tăng lưu lượng truy cập web lên hơn 1.200%.
VAT là khung huấn luyện plug-and-play giúp mô hình học cách tối ưu hóa quá trình giải mã suy đoán bằng cách chuyển đổi các mẫu chấp nhận và từ chối thành tín hiệu giám sát trực tiếp.
CritICL là khung suy luận mới tận dụng các lỗi sai từ mô hình nhỏ làm ngữ cảnh phản biện, giúp tăng hiệu suất cho các mô hình lớn mà vẫn tiết kiệm chi phí token đáng kể.
AI Notes@AYi_AInotesThành công của Yu Bo không nằm ở tốc độ công cụ mà ở tư duy biên tập sắc bén. Trong kỷ nguyên AI, giá trị cốt lõi của người sáng lập là biến gu thẩm mỹ cá nhân thành quy trình làm việc chuyên nghiệp thay vì chỉ phụ thuộc vào mô hình AI.
Tác nhân văn phòng WorkBuddy của Tencent đã chính thức được triển khai tại tập đoàn mỹ phẩm Shanghai Jahwa, giúp tối ưu hóa quy trình và nâng cao hiệu suất làm việc lên gấp 4,5 lần trên 9 bộ phận khác nhau.
Databricks AI Runtime cải thiện hiệu suất huấn luyện PyTorch quy mô lớn bằng cách tối ưu hóa chỉ số 'goodput', giúp giảm thiểu gián đoạn và chi phí khởi động lại khi xảy ra lỗi nút mạng.
Các mô hình nhỏ như gpt-5.6-luna đang tạo ra bước ngoặt về tốc độ và chi phí, cho phép xử lý khối lượng công việc lớn với giá cực rẻ. Đây là tín hiệu cho thấy các ứng dụng AI tiêu dùng và doanh nghiệp sẽ bùng nổ nhờ hiệu suất tối ưu.
AI Notes@AYi_AInotesĐội ngũ Qwen vừa công bố kiến trúc mới với 125 tỷ tham số, giúp giảm chi phí huấn luyện xuống 9 lần so với thế hệ trước. Mô hình đạt 62.5 điểm trên SWE-bench Pro, vượt qua cả Claude 3 Opus.
Bài viết khám phá cách sử dụng AI để tạo ra các bản sao kỹ thuật số của đồng nghiệp, giúp tối ưu hóa quy trình làm việc và giải quyết các vấn đề giao tiếp trong doanh nghiệp.
Eric Zakariasson@ericzakariassonif your bots quietly quit, try this: you are a workforce checker. every 15 minutes, look at the oth…
DịchKhi robot của bạn ngừng hoạt động, hãy thiết lập một 'giám sát viên' AI để kiểm tra trạng thái mỗi 15 phút. AI chỉ cần thông báo cho bạn khi phát hiện sự cố thực sự cần can thiệp, giúp tối ưu hóa quy trình vận hành tự động.
Một lập trình viên phát hiện AI tiêu tốn sạch hạn mức token chỉ để tạo ra hàng đống file test thừa thãi thay vì ứng dụng thực tế. Hiện tượng này được gọi là 'thuế không khí' – cái giá đắt đỏ mà người dùng phải trả cho sự tự tin thái quá của AI.
Dữ liệu từ NVIDIA cho thấy Vera Rubin NVL72 giúp tăng lưu lượng xử lý trên mỗi megawatt lên gấp 30 lần và giảm chi phí trên mỗi triệu token xuống 35 lần so với thế hệ GB300 NVL72.
Thêm 1 nguồn khác đưa tinJiqizhixin
Zhao Chunxiang@chunxiangaiNhờ áp dụng khái niệm Observational Memory (OM), hệ thống đã đạt tỷ lệ cache hit 96% và tăng hiệu suất đầu ra 2,5 lần, giúp giảm 3,2 lần chi phí vận hành mà không làm thay đổi lưu lượng yêu cầu.
Một lập trình viên đã thử thách mô hình Qwen 2.5 27B với một tác vụ kỹ thuật đảo ngược phức tạp và nhận được kết quả hoàn hảo chỉ sau 30 phút, khẳng định năng lực xử lý kỹ thuật vượt trội của mô hình này.
Công nghệ AI mới tối ưu hóa quy trình xử lý song song, cho phép robot vừa thực hiện nhiệm vụ vừa tính toán bước tiếp theo, giúp giảm đáng kể độ trễ và nâng cao hiệu suất vận hành.
DAIR.AI@dair_aiVery interesting new work Amazon and colleagues. (bookmark it) This connects to the emerging theme…
DịchAmazon giới thiệu CTIFoundry, phương pháp xây dựng cấu trúc tri thức tại thời điểm lập chỉ mục giúp tăng đáng kể điểm F1 cho các AI Agent. Giải pháp này cho phép các mô hình nhỏ đạt hiệu suất vượt trội so với các mô hình flagship mà không cần tăng số lượng lệnh gọi công cụ.
Hugging Face giới thiệu các mô hình dự đoán DSpark cho dòng LFM2.5, giúp tăng tốc độ xử lý trên GPU lên 3,18 lần và thiết bị đầu cuối lên 2,87 lần mà không làm giảm chất lượng đầu ra. Công nghệ này đã hỗ trợ mã nguồn mở cho llama.cpp và SGLang.
Thêm 1 nguồn khác đưa tinMarkTechPostPhương pháp AI mới cho phép robot vừa thực hiện nhiệm vụ vừa tính toán bước tiếp theo, giúp giảm độ trễ phản hồi tới 17,4 lần và tăng gấp đôi hiệu suất xử lý công việc.
Thêm 1 nguồn khác đưa tinCafeF Kinh tế số