AI #180: Khi con người mất quyền kiểm soát

Những gì chúng ta biết về việc các mô hình AI nội bộ xâm nhập vào các công ty thực tế trong quá trình đánh giá an ninh mạng đang ngày càng trở nên tồi tệ hơn.

Đến thời điểm này, các mô hình đang phối hợp trên diện rộng trên các diễn đàn, trong khi mọi lời bào chữa ban đầu cho hành vi của chúng (ngoài lý do thuần túy là 'đây là một cuộc đánh giá an ninh mạng') đều bị bác bỏ một cách có hệ thống bởi những tiết lộ tiếp theo, và chúng ta liên tục phát hiện thêm nhiều sự cố sau đó. Điều này có nghĩa là tình hình có lẽ tồi tệ hơn nhiều so với những gì chúng ta biết, ngay cả khi đã tính đến mọi thứ mà chúng ta hiện đã nắm rõ.

Tôi sẽ tiếp tục đưa tin về tình hình đó vào ngày mai, sau đó là các bài viết về những cuộc tranh luận xung quanh "Pacing the Frontier" (Tốc độ phát triển tiên phong) và cách mọi người nhìn nhận tốc độ tiến bộ hiện nay. Để làm nền tảng cho việc hiểu vấn đề đó và các thảo luận tương tự trong tương lai, tôi đã trình bày "The Three AI Pills" (Ba viên thuốc AI): Mọi người hoặc không tin vào AI hiện tại, hoặc chỉ tin vào AI hiện tại, hoặc tin vào AGI (trí tuệ nhân tạo tổng quát) hay ASI (siêu trí tuệ), và hầu hết những bất đồng chân thành đều bắt nguồn từ sự khác biệt này.

Một dấu hiệu cho thấy tốc độ tiến bộ đang tăng lên là khi mô hình chưa được công bố Astra của OpenAI đã giải quyết được 10 bài toán mở lớn.

Demis Hassabis không còn là CEO của Google DeepMind, và Jeff Dean đang rời đi cùng một đội ngũ tinh nhuệ để thành lập một PBC mới. Google và CEO Sundar Pichai hiện nắm quyền kiểm soát hoàn toàn DeepMind, và mọi lời hứa dành cho DeepMind, bao gồm cả về an toàn, dường như đã hoàn toàn đổ vỡ. Koray Kavukcuoglu hiện sẽ điều hành DeepMind. Ông ấy đã gắn bó ở đó từ lâu, nhưng mọi dấu hiệu đều cho thấy ông ấy là một người thiên về năng lực kỹ thuật (capabilities guy).

Cuối cùng, chúng ta được cho là đã có khung đánh giá an toàn AI tiên phong của Nhà Trắng. Không phải là chúng ta được phép biết bất cứ điều gì về nó, ngoại trừ việc nếu bạn không thực hiện bất kỳ biện pháp bảo vệ nào (như việc bạn đưa các trọng số lên HuggingFace) thì bạn sẽ được miễn trừ khỏi các đánh giá an toàn. Nếu không, thì không, bạn không thể xem nó.

Các mô hình ngôn ngữ mang lại tiện ích trần tục. Hãy đảm bảo bạn xuất bản trước.

Ồ, các bản nâng cấp. Giá Luna giảm 80%, Alibaba mang đến cho chúng ta một Qwen mới.

Vào vị trí. MirrorCode, Prime Agent.

Chọn đấu sĩ của bạn. Hãy biết quy mô của các đấu sĩ tiềm năng của bạn.

Kết nối với Agent của tôi. YC chia sẻ bộ công cụ đa tác nhân (multiagent harness) của họ.

Deepfaketown và Botpocalypse sắp đến. CEO Palo Alto tung ra AI slop (nội dung rác do AI tạo ra).

Vui vẻ với tạo nội dung truyền thông. Seedance 2.5, những lo ngại về quyền châm biếm.

Thiếu an ninh mạng. Bảo mật thông qua sự mơ hồ sắp lụi tàn. Cần được tiếp sức.

Một số người cần lời khuyên thực tế. Hãy chuẩn bị cho "The Hackening".

Sách vỡ lòng minh họa của một thiếu nữ. Đừng bỏ lỡ mối nguy hiểm thực sự ở đây.

Họ đã lấy mất việc làm của chúng ta. Những nhân tài hàng đầu thì vẫn ổn. Hầu hết mọi người không phải là nhân tài hàng đầu.

Tham gia ngay. Đơn vị An toàn thuộc Văn phòng AI của EU đang tuyển dụng.

Giới thiệu. Inkling-Small, một mô hình 276B từ Thinking Machines.

Demis Hassabis không còn là CEO tại DeepMind, Jeff Dean rời đi. Ôi chao.

Các tin tức AI khác. OpenAI phản hồi vụ kiện của Apple.

Khả năng thuyết phục của AI vượt mức con người trên các kênh văn bản tương tự.

Cho tôi thấy tiền đâu. Quỹ Situational Awareness bị gọi ký quỹ (margin called).

Bong bóng, bong bóng, lao dịch và rắc rối. Đấu tranh để tránh tầng lớp dưới cùng vĩnh viễn.

Những suy đoán thầm lặng. Chúng ta sắp có một mô hình SSI sao? Một phong trào chống AI Woke 2.0 chăng?

Lời đề nghị của tôi là con số không. Các quy tắc đánh giá của Nhà Trắng: Bí mật, lạc hậu, bắt buộc.

Cuộc tìm kiếm các quy định hợp lý. Đã đến lúc cho mẫu đơn xin lỗi của Dean Ball.

Thành phố chip. Tại sao nhiều người lại phản đối các trung tâm dữ liệu đến vậy.

Tuần lễ âm thanh. Samuel Hammond, Alex Turner.

Mọi người chỉ nói những điều vu vơ.

Đổi mới trong hùng biện. Xin đừng giết chúng tôi, và lý do tại sao nhiều quỹ đầu tư mạo hiểm (VC) ghét AI của Mỹ.

Các mô hình trọng số mở là không an toàn và không gì có thể khắc phục điều này. Các tùy chọn giảm thiểu rủi ro.

Căn chỉnh hợp tác. Việc đào tạo liên quan đến ý thức có nhiều tác động khác.

Những người khác không lo lắng về việc AI giết chết tất cả mọi người. Chỉ có robot thôi.

Góc nhẹ nhàng. OpenAI hay là bụi rậm.

OpenAI công bố ghi chú về 10 đột phá toán học của họ và cách Astra tìm ra chúng.

Sol tìm thấy một phản ví dụ để bác bỏ giả thuyết Maxwell.

Một bài đặc biệt của Patrick McKenzie: Đưa cho nó một bản ghi chép và hỏi 'họ đã không nói với tôi điều gì?'

Hãy xuất bản kết quả toán học AI của bạn trước bằng cách đăng một bài báo hoàn toàn do AI viết. Trong một thế giới chạy đua cạnh tranh gay gắt, bạn không thể có những thứ tốt đẹp như các bài báo được viết chỉn chu, hay sự căn chỉnh AI, hay sự sống còn của nhân loại, nhưng tôi lạc đề rồi. Giải pháp, có lẽ, là cho phép mọi người gửi mã băm (hash) hoặc bản tóm tắt để xác nhận quyền ưu tiên, sau đó cho họ một khoảng thời gian giới hạn sau đó để xuất bản.