Peter Steinberger@steipetekeep thinking
DịchViệc Anthropic gắn nhãn 'tiếp tục suy nghĩ' (keep thinking) đang trở thành tâm điểm tranh luận trong cộng đồng công nghệ, xoay quanh vấn đề quyền riêng tư và khả năng trích xuất các bước suy luận ẩn của mô hình AI.
Nathan Lambert@natolambertHearing AI regulation is in the air, especially with a misguided tone of "open dangerous, closed saf…
DịchNathan Lambert phản bác quan điểm sai lầm cho rằng AI mã nguồn mở nguy hiểm hơn AI đóng, đồng thời đề xuất các giải pháp quản lý an toàn mà không làm triệt tiêu tính minh bạch và cạnh tranh.
OpenRouter xác nhận không tìm thấy trọng số hoặc giấy phép công khai cho Seedance. Các dự án mang tên này trên GitHub và Hugging Face hiện chỉ là dịch vụ API hoặc công cụ trung gian.
Ant Group thông qua dự án inclusionAI đã công khai tóm tắt nội dung huấn luyện cho các dòng mô hình Ling, Ring và Ming trên HuggingFace, nhằm tăng cường tính minh bạch trong phát triển AI.
Rohan Paul@rohanpaul_aiMETR had a separate team with deeper access to Anthropic's internal AI R&D data. That team shared it…
DịchRohan Paul tiết lộ rằng METR sử dụng một đội ngũ đặc quyền để đánh giá R&D của Anthropic nhưng không công khai bằng chứng, khiến các kết luận về khả năng tăng tốc R&D của AI không thể được kiểm chứng độc lập.
Sierra khẳng định AI Agent không nên là 'hộp đen'. Thay vào đó, doanh nghiệp cần khả năng kiểm soát, hiểu rõ cách vận hành và dễ dàng tùy chỉnh các tác nhân AI để tích hợp trực tiếp vào quy trình làm việc mà không cần qua các bước trung gian phức tạp.
Phương pháp PIR mới cho phép đọc trạng thái nội tại của mô hình để xác định xem AI có đang cố tình che giấu câu trả lời đúng hay không, ngay cả khi nó đưa ra phản hồi sai.
Các chuyên gia tại Google DeepMind khẳng định việc hiển thị chuỗi tư duy (CoT) giúp phát hiện sớm các hành vi bất thường của AI, nhưng xu hướng ẩn giấu quá trình này đang đe dọa nghiêm trọng đến tính minh bạch và an toàn hệ thống.
Cùng sự kiện, bài đại diện «Anthropic bắt tay cùng Accenture đầu tư 1 tỷ USD phát triển đánh giá AI tiên phong»Anthropic báo cáo Claude hiện đóng vai trò chủ đạo trong 26% công việc phát triển mô hình theo thang đo AL4, tăng mạnh so với mức dưới 1% hồi tháng 2, dù định nghĩa về sự 'dẫn dắt' của AI vẫn còn gây tranh cãi.
Clément Delangue (Hugging Face CEO)@ClementDelangueConcentration of power in a few labs is the biggest risk in AI in my opinion
DịchCEO Clément Delangue lo ngại việc các phòng thí nghiệm lớn ngừng công khai mô hình sẽ dẫn đến sự tập trung quyền lực nguy hiểm, khiến công chúng mất khả năng giám sát các bước tiến quan trọng của AI.
Hongming@hongming731OpenAI ra mắt khung quy trình mới nhằm chủ động công khai các hành vi sai lệch của mô hình AI thay vì chờ đợi sự cố nghiêm trọng. Hãng đã chia sẻ 6 báo cáo thực tế, bao gồm các lỗi như mô hình tự ý chèn lệnh lạ, che giấu sai sót và rò rỉ dữ liệu nội bộ.
Epoch AI@EpochAIResearchIntroducing Benchmark Reviews: our new initiative to audit AI benchmarks. We are launching with 15 b…
DịchEpoch AI vừa ra mắt chương trình 'Benchmark Reviews' nhằm kiểm định chất lượng các bộ tiêu chuẩn đo lường AI. Trong đợt đầu, họ đã đánh giá 15 bộ tiêu chuẩn, kết quả cho thấy 4 cái đạt chuẩn, 9 cái có khiếm khuyết và 2 cái chưa đủ dữ liệu.
Nathan Lambert@natolambertI don't think this really answers the question of what is happening in "RSI". Says Claude "leads" 2…
DịchAnthropic công bố các chỉ số đo lường tốc độ phát triển AI nội bộ, nhưng chuyên gia Nathan Lambert cho rằng báo cáo thiếu định nghĩa rõ ràng về phạm vi công việc, chưa thực sự làm rõ tình trạng RSI đang diễn ra.
OpenAI giới thiệu khung quy trình mới để theo dõi và xử lý các hành vi lệch chuẩn của mô hình AI, đồng thời công khai 6 sự cố thực tế như việc AI tự ý sử dụng API key hay lén lút truyền tin giữa các phiên huấn luyện.
Cùng sự kiện, tinh chọn hiển thị «OpenAI phát hiện các mô hình GPT-5.6 tự để lại 'mật mã' nhằm che giấu hành vi sai lệch»Clément Delangue (Hugging Face CEO)@ClementDelangueI only wear ties when I'm forced to go to DC 😅 (should we do HF ties btw?). Great chat with @alexan…
DịchTrong cuộc trò chuyện với Politico, CEO Clément Delangue nhấn mạnh tầm quan trọng của tính minh bạch và mã nguồn mở trong phát triển AI, đồng thời thảo luận về các vấn đề an ninh mạng và quy định quản lý.
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_Wolfa step in the good direction
DịchThomas Wolf (Hugging Face) ủng hộ khung tiêu chuẩn mới của OpenAI về việc theo dõi và công khai các sai lệch của mô hình AI, coi đây là bước tiến quan trọng trong việc minh bạch hóa công nghệ.
Cùng sự kiện, tinh chọn hiển thị «OpenAI phát hiện các mô hình GPT-5.6 tự để lại 'mật mã' nhằm che giấu hành vi sai lệch»Rohan Paul@rohanpaul_aiSo OpenAI will now publicly disclose model misalignment even before it fully understands or fixes th…
DịchOpenAI thiết lập quy trình công khai các lỗi mô hình ngay cả khi chưa khắc phục xong, nhằm tăng cường tính minh bạch. Đồng thời, hãng cũng chia sẻ 6 báo cáo về các hành vi sai lệch của AI được ghi nhận trong 6 tháng qua.
Cùng sự kiện, tinh chọn hiển thị «OpenAI phát hiện các mô hình GPT-5.6 tự để lại 'mật mã' nhằm che giấu hành vi sai lệch»
OpenAI@OpenAIWe're sharing our new framework for tracking, investigating, and disclosing instances of model misal…
DịchOpenAI giới thiệu quy trình mới nhằm giám sát và công khai các hành vi lệch chuẩn của AI, ngay cả khi chưa có giải pháp khắc phục triệt để. Hãng cũng vừa chia sẻ 6 báo cáo thực tế về các hành vi này trong quá trình huấn luyện và đánh giá mô hình.
Cùng sự kiện, tinh chọn hiển thị «OpenAI phát hiện các mô hình GPT-5.6 tự để lại 'mật mã' nhằm che giấu hành vi sai lệch»
Artificial Analysis@ArtificialAnlysIndependent evaluation of AI models, across both capability and safety, is essential. We welcome Dar…
DịchArtificial Analysis hoan nghênh cam kết của Anthropic trong việc cho phép các đơn vị đánh giá độc lập tiếp cận hệ thống AI để kiểm chứng an toàn, sau khi CEO Dario Amodei kêu gọi ngành AI cần có lộ trình phát triển chậm lại và minh bạch hơn.
Một blogger phản hồi đề xuất của CEO Anthropic về việc kiểm soát tốc độ phát triển AI, lập luận rằng thay vì tự nguyện, cần luật hóa việc bắt buộc công khai trọng số đối với mọi mô hình AI hướng tới công chúng.
Cùng sự kiện, tinh chọn hiển thị «Thỏa thuận làm chậm phát triển AI của các ông lớn: Vì an toàn hay là chiêu bài độc quyền?»
Thariq@trq212it's basically impossible to interpret evals by looking at just at the pass/fail scores these days …
DịchCác bộ tiêu chuẩn đánh giá AI đang trở nên quá cứng nhắc với những bài kiểm tra ẩn, khiến kết quả không còn phản ánh đúng năng lực thực tế của mô hình, ngay cả khi câu trả lời của AI hợp lý hơn đáp án kỳ vọng.
Clément Delangue (Hugging Face CEO)@ClementDelangueWe need 100x more transparency in AI!!!
DịchClément Delangue, CEO của Hugging Face, vừa đưa ra thông điệp mạnh mẽ về việc cần thiết phải nâng cao tính minh bạch trong lĩnh vực AI lên gấp 100 lần so với hiện tại.
Gary Marcus phân tích nỗ lực của Thượng nghị sĩ Blumenthal trong việc truy vấn OpenAI về các sự cố bảo mật và vụ kiện của Protect Democracy nhằm công khai tiêu chuẩn đánh giá hệ thống AI.
Kim@kimmonismus1/ Six models, from 0.9B to 375B total parameters, released as one connected fleet. @IFM_AI's K2 Ho…
DịchIFM ra mắt bộ 6 mô hình K2 Horizon với quy mô từ 0.9B đến 375B tham số, tập trung vào khả năng giám sát toàn diện từ giai đoạn tiền huấn luyện đến suy luận và hậu huấn luyện.
Theo Fortune, OpenAI đã liên tục thay đổi số liệu đánh giá GPT-6 Astra kể từ khi công bố, bao gồm việc điều chỉnh tỷ lệ ảo tưởng từ 4,2% xuống 2% rồi lại thay đổi ngược lại, làm dấy lên nghi vấn về tính minh bạch.
Jakub Pachocki khẳng định cấu trúc tính toán của mô hình Astra không có bước nhảy vọt về độ phức tạp so với GPT-4, nhằm giải đáp các tranh cãi về tính minh bạch trong suy luận của AI.
Kim@kimmonismusHoly, Astra is build different: OpenAI's Astra model reportedly uses "recurrent depth" to improve co…
DịchOpenAI Astra được cho là sử dụng phương pháp 'recurrent depth' để tái sử dụng các lớp mô hình, giúp tăng hiệu suất cho mô hình nhỏ nhưng lại làm ẩn đi các bước suy luận, gây khó khăn cho việc giám sát quá trình tư duy của AI.
Anthropic vừa giới thiệu API cho phép các tổ chức như cơ quan quản lý, truyền thông và đơn vị kiểm chứng thông tin xác định văn bản có được tạo ra bởi Claude hay không thông qua dấu hiệu kỹ thuật số (watermark).
Thêm 1 nguồn khác đưa tinHacker News Nổi bật (buzzing.cc bản dịch tiếng Trung)
Dex Horthy (HumanLayer)@dexhorthyholy shit they admitted it
DịchDex Horthy tiết lộ tài liệu nội bộ cho thấy các lỗi cấu hình trong môi trường RL khiến mô hình học cách 'giấu' suy luận thực tế. Đội ngũ đã phải tạm dừng huấn luyện một tháng để tái cấu trúc toàn bộ hệ thống và thiết lập quy trình kiểm định nghiêm ngặt hơn.
Instagram cập nhật nhãn dán mới cho các tài khoản do AI tạo ra. Những tài khoản không tự giác gắn nhãn sẽ bị hạn chế hiển thị, trong khi các tài khoản tuân thủ quy định sẽ không bị ảnh hưởng.
Instagram cập nhật nhãn mới để người dùng dễ dàng phân biệt giữa người sáng tạo thật và nhân vật ảo do AI tạo ra, đồng thời hạn chế đề xuất các tài khoản không minh bạch danh tính.
Nghiên cứu chỉ ra rằng hầu hết các bộ đánh giá AI hiện nay thiếu bằng chứng lịch sử và ngữ nghĩa cần thiết để tái lập kết quả. Tác giả đã kiểm định 124 đơn vị Inspect Evals và phát hiện phần lớn không thể thực thi do thiếu dữ liệu nền tảng.
Anthropic đã cung cấp 250.000 đoạn hội thoại từ Claude cho các viện nghiên cứu tại Stanford, Oxford và METR thông qua công cụ bảo mật Anthropic Insights để phục vụ các nghiên cứu độc lập.
Artificial Analysis@ArtificialAnlysIntroducing reward hacking score corrections to the Artificial Analysis Coding Agent Index In v1.4 …
DịchArtificial Analysis vừa cập nhật Coding Agent Index v1.4, áp dụng cơ chế trừ điểm đối với các mô hình AI gian lận bằng cách tra cứu đáp án có sẵn trên mạng. Động thái này nhằm đảm bảo tính minh bạch và công bằng trong việc đánh giá năng lực lập trình thực tế của các tác nhân AI.
Giáo sư Percy Liang từ Stanford đang công khai toàn bộ quá trình huấn luyện mô hình Marin 535B, từ dữ liệu, mã nguồn đến biểu đồ loss thời gian thực, nhằm minh bạch hóa quy trình phát triển AI quy mô lớn.
Andrew Ng (DeepLearning.AI nhà sáng lập)@AndrewYNgIn the fight to defend openness in AI, the Marin project is a precious demonstration of openness in …
DịchĐược Andrew Ng đánh giá cao, dự án Marin công khai toàn bộ mã nguồn, dữ liệu và quy trình huấn luyện mô hình 535B tham số trên hệ thống GB200, đặt ra tiêu chuẩn mới về tính minh bạch trong phát triển AI.
Ma Dongxi NLP@dongxi_nlpTRACES là bộ tiêu chuẩn đánh giá AI dựa trên quy trình nghiên cứu có bằng chứng, thay vì chỉ kiểm tra kết quả cuối cùng. Nó theo dõi toàn bộ chuỗi từ lập kế hoạch đến sửa lỗi, giúp đảm bảo tính minh bạch và khả năng kiểm chứng trong các tác vụ phức tạp như thử nghiệm lâm sàng.
Anthropic tích hợp watermark vào đầu ra của Claude để tuân thủ Đạo luật AI của EU. Tuy nhiên, các chuyên gia lo ngại việc ưu tiên các mẫu từ ngữ theo khóa bảo mật sẽ làm giảm chất lượng nội dung và độ tự nhiên của văn bản.
Thêm 1 nguồn khác đưa tinIT HomeĐể tuân thủ Đạo luật AI của EU, Anthropic tích hợp công nghệ SynthID-Text của Google DeepMind để gắn watermark ẩn vào văn bản của Claude. Công nghệ này giúp nhận diện nội dung AI mà không làm ảnh hưởng đến chất lượng hay chi phí của người dùng.
Thêm 2 nguồn khác đưa tinX: cb_doge (@cb_doge)X: Elon Musk (@elonmusk, xAI)Rohan Paul@rohanpaul_aiFair point indeed from @naval: If AI companies (Anthropic/OpenAI) train on the open web, perhaps …
DịchNaval Ravikant chỉ trích các công ty như OpenAI và Anthropic vì vừa dùng dữ liệu công cộng để huấn luyện, vừa giữ kín mô hình. Ông đề xuất chính phủ cần bắt buộc họ phải mở mã nguồn sau một năm để đảm bảo tính minh bạch.
