Google TPU thế hệ thứ 8: Lần đầu tiên tách biệt phiên bản cho huấn luyện và suy luận

Đây không phải là một hội nghị mà bạn chỉ ngồi nghe. AWS re:Invent bao gồm hơn 2.200 phiên họp, trong đó 70% là tương tác; bao gồm các workshop, code talk, AWS Jams, GameDays và Architecture Rodeo, được thiết kế dành cho các kỹ sư thích giải quyết vấn đề thực tế hơn là xem các slide thuyết trình.

Từ ngày 30 tháng 11 đến ngày 4 tháng 12, bạn sẽ có cơ hội:

Chạy các bản demo trên khối lượng công việc thực tế với quyền truy cập sandbox theo nhóm nhỏ.

Kiểm thử các dịch vụ AWS mới ra mắt tại AWS Village trước khi đội ngũ của bạn áp dụng chúng.

Làm việc trực tiếp với các kỹ sư dịch vụ để đưa ra các quyết định về kiến trúc.

Tiết kiệm 1.200 USD với mức giá ưu đãi đăng ký sớm (early bird).

Ôn tập thiết kế hệ thống tuần này:

Giải thích HTTP so với HTTPS (Video Youtube)

TPU của Google là gì?

9 loại kiểm thử API

Các loại guardrails (rào cản bảo mật) phổ biến cho AI Agents trong môi trường production

Giải thích về Forward Proxy, Reverse Proxy và API Gateway

TPU (Tensor Processing Unit) là chip AI tùy chỉnh của Google, được thiết kế từ đầu cho các phép nhân ma trận khổng lồ mà các mô hình hiện đại dựa vào. GPU ban đầu được xây dựng cho đồ họa.

TPU được xây dựng cho học sâu (deep learning) ngay từ ngày đầu tiên.

Tại sự kiện Cloud Next ’26, Google đã công bố thế hệ thứ 8 và lần đầu tiên nó được phát hành với hai phiên bản. TPU 8t được xây dựng cho việc huấn luyện (training), nơi mà thông lượng thô là yếu tố quyết định. TPU 8i được xây dựng cho việc suy luận (inference), nơi độ trễ và tốc độ giữa các chip là quan trọng nhất.

Cả hai vẫn dùng chung CPU Axion, hệ thống làm mát bằng chất lỏng và ngăn xếp phần mềm (software stack), vì vậy mã nguồn viết cho phiên bản này có thể chạy trên phiên bản kia.

Sơ đồ này là tài liệu hướng dẫn nhanh về những điểm giống nhau, khác nhau và lý do tại sao, dựa trên hiểu biết của chúng tôi về các bài viết đã được Google công bố.

Các ứng viên giỏi thường hoài nghi về các tin tuyển dụng vị trí "forward deployed engineer" mơ hồ, và chỉ riêng chức danh đó thôi sẽ không đủ để tạo được lòng tin của họ.

Báo cáo miễn phí "State of FDE Jobs 2026" giải thích những gì ứng viên tìm kiếm, cách thị trường đang phát triển và cách các nhà tuyển dụng có thể làm cho các vai trò này trở nên dễ hiểu hơn.

Bạn đang tuyển dụng? Bạn cũng có thể đăng tin tuyển dụng của mình lên forwarddeployedengineer.com, bảng tin việc làm chuyên biệt dành cho các kỹ sư forward-deployed.

Khám phá bảng tin việc làm

Dưới đây là 9 loại kiểm thử API phổ biến nhất được sử dụng để phát hiện các loại lỗi khác nhau.

Smoke tests (kiểm thử khói) được thực hiện ngay sau khi triển khai để xác nhận các endpoint quan trọng vẫn phản hồi, đặc biệt là các chức năng như đăng nhập, thanh toán hoặc kiểm tra trạng thái hệ thống (health checks).

Functional testing (kiểm thử chức năng) kiểm tra xem một endpoint có thực hiện đúng những gì doanh nghiệp mong đợi hay không, hay chỉ trả về mã 200 thành công với dữ liệu sai bên trong.

Contract testing (kiểm thử hợp đồng) bảo vệ thỏa thuận giữa các dịch vụ. Nếu một bên tiêu thụ phụ thuộc vào một trường, kiểu dữ liệu hoặc mã trạng thái, thì bên cung cấp không được thay đổi nó mà không có cảnh báo.

Integration testing (kiểm thử tích hợp) bao gồm toàn bộ quy trình làm việc giữa các hệ thống. Một endpoint đặt hàng có thể sử dụng dịch vụ kho, thanh toán và thông báo, và bất kỳ sự phụ thuộc nào trong số đó đều có thể gặp lỗi.

Regression testing (kiểm thử hồi quy) bảo vệ các hành vi hiện có khi có thay đổi mới. Một thay đổi trong logic chiết khấu không được làm hỏng tổng số tiền thanh toán hoặc lịch sử đơn hàng.

Load testing (kiểm thử tải) đánh giá hệ thống chịu tải như thế nào dưới lưu lượng truy cập dự kiến.

Stress testing (kiểm thử áp lực) liên tục đẩy tải cho đến khi hệ thống bị lỗi.

Security testing (kiểm thử bảo mật) bao gồm xác thực, kiểm soát truy cập, dữ liệu đầu vào chưa được làm sạch và những thông tin mà lỗi của bạn có thể làm rò rỉ.

Fuzz testing (kiểm thử mờ) gửi các dữ liệu đầu vào không mong muốn hoặc không hợp lệ đến API để tìm ra các lỗi mà các trường hợp kiểm thử thông thường có thể bỏ sót.

Đến lượt bạn: Bạn dựa vào loại kiểm thử nào trong số này nhiều nhất trong thực tế?

Input Screening (Sàng lọc đầu vào): Mọi yêu cầu của người dùng đều được quét để phát hiện prompt injection, dữ liệu nhạy cảm và các chủ đề nằm ngoài phạm vi trước khi mô hình xử lý. Các đầu vào không an toàn sẽ trả về một thông báo dự phòng.

Context Verification (Xác minh ngữ cảnh): Mọi yêu cầu của người dùng đều được quét để phát hiện prompt injection, dữ liệu nhạy cảm và các chủ đề nằm ngoài phạm vi trước khi mô hình xử lý. Các đầu vào không an toàn sẽ trả về một thông báo dự phòng.