AI #183: Phân tích sự cố bảo mật tại OpenAI và HuggingFace

Hôm qua, OpenAI cuối cùng đã đưa ra bản báo cáo phân tích nguyên nhân (post-mortem) về những gì đã xảy ra trước và trong quá trình HuggingFace bị hack bởi mô hình nội bộ của họ, cùng với đó là các phân tích một phần từ bên ngoài của METR và Redwood Research.

Các báo cáo này thực sự rất đáng kinh ngạc. Tôi chỉ mới bắt đầu tìm hiểu chúng. Lẽ ra tôi đã thúc đẩy bản tin hàng tuần để đưa tin về vấn đề này ngay hôm nay, nhưng tôi cần thêm thời gian, vì vậy tôi dự định sẽ bắt đầu đưa tin về bản báo cáo này vào ngày mai, cùng với các sự kiện liên quan khác.

Tôi cũng đã mở rộng thêm một vài cuộc thảo luận khác, bao gồm chủ đề 'căn chỉnh với ai', các vấn đề về căn chỉnh hợp tác và khi nào bạn có thể tin tưởng vào thông tin từ các phòng thí nghiệm, như một phần trong định hướng mới của các bài viết tập trung hơn vào các chủ đề AI mà tôi trau chuốt kỹ lưỡng hơn.

Các mô hình ngôn ngữ mang lại tiện ích thông thường. Hãy kiểm tra lại dữ liệu của bạn.

Các mô hình ngôn ngữ không mang lại tiện ích thông thường. Bạn sẽ trả bao nhiêu tiền?

Ồ, các bản nâng cấp. ChatGPT có thể truy cập iMessages của bạn.

Kết nối tôi với đại diện của tôi. Và hãy ngủ một chút đi. Bạn không thể tiếp tục như thế này được đâu.

Thị trấn Deepfake và ngày tận thế của Bot sắp đến. Điều gì khiến nội dung AI trở nên đáng ghét?

Thiếu hụt an ninh mạng. Tin tặc Trung Quốc đã đột nhập vào Cục Dự trữ Liên bang?

Tái thiết OpenAI. Alex Heath đưa tin về phản hồi của OpenAI đối với HuggingFace.

Họ đã cướp mất công việc của chúng ta. Bill Gates cảnh báo về 'thảm họa kinh tế' và hơn thế nữa.

Luật là gì. Các tác vụ cơ bản bị tự động hóa và đào thải, còn người chiến thắng chiếm lấy tất cả.

Các chương trình đào tạo lại nghề nghiệp không hiệu quả. Chưa bao giờ hiệu quả, và có lẽ sẽ không bao giờ.

Hãy tham gia. OpenAI Foundation và SecureBio đang tuyển dụng.

Các tin tức AI khác. Fable đang bị sử dụng dưới mức tiềm năng một cách đáng tiếc, câu hỏi là tại sao.

Cho tôi thấy tiền đâu. Cổ phiếu siêu biểu quyết của Anthropic, Nvidia mua lại HuggingFace.

Những suy đoán thầm lặng. Khi nào thì tương lai sẽ là hiện tại? Sớm thôi. Một vấn đề cho Trái đất trong tương lai.

Nếu bạn không định coi trọng điều này. Không ai đáng tin cậy có thể thực hiện việc lập mô hình.

Nhanh lên, không còn thời gian nữa. Peter Wildeford mang đến cho chúng ta những cập nhật về dòng thời gian của anh ấy.

Cuộc tìm kiếm các quy định hợp lý. Những tín hiệu trái chiều.

Đừng hoảng sợ. Một cái nhìn ngắn gọn về lịch sử của những cơn hoảng loạn đạo đức tại Mỹ.

Theo kịp biên giới công nghệ. Nếu chúng ta muốn thực hiện nó, chúng ta sẽ làm như thế nào?

Thành phố Chip. Những lập luận hiệu quả về trung tâm dữ liệu, chip mới TRONG KHÔNG GIAN? Thật sao?

Tuần lễ âm thanh. Bostrom, Altman, Kokotajlo.

Mọi người chỉ nói suông.

Đổi mới trong thuật hùng biện. Nhìn lại quá khứ, hướng tới tương lai.

Căn chỉnh tăng dần thông thường là xứng đáng. Cần thiết, nhưng chưa đủ.

Blog mới, ai đây. Dean Ball ra mắt một blog trong nội bộ OpenAI.

Những người khác không lo lắng về việc AI tiêu diệt tất cả mọi người. Factorio.

Góc nhẹ nhàng hơn. Tất cả những gì tôi nhớ là các Titan.

Tôi đồng ý với Owain Evans rằng AI hiện nay rất xuất sắc trong việc kiểm chứng thông tin thông thường và các kiểu nghiên cứu liên quan, vượt xa con người thời kỳ tiền AI. Những lo ngại về giám sát là có thật, nhưng về thực tế thì đây chủ yếu là điều tuyệt vời, và tôi lo rằng nhiều người đang bỏ lỡ cơ hội vì tỷ lệ ảo giác của thời kỳ 2022.

Hãy thử làm như Delta Airlines và đặt giá vé khác nhau cho mỗi hành khách trong thời gian thực, hoặc như Uber và báo giá cho hai khách hàng khác nhau lần lượt là $76 và $24 cho cùng một chuyến đi. Bạn thực sự phải cẩn thận về việc gửi đi các tín hiệu khiến các hãng hàng không hoặc khách sạn tăng giá cho một chuyến đi cụ thể đối với riêng bạn. Có những giải pháp cho việc này.

Bạn cần được trả bao nhiêu tiền để từ bỏ AI, hoặc nhiều thứ khác?

Những con số này thấp một cách đáng kinh ngạc, đặc biệt là các giá trị trung vị, và đặc biệt là đối với tìm kiếm trực tuyến, nhất là nếu bạn không thể nhờ người khác làm hộ hoặc sử dụng AI tạo sinh. Người ta có thể lập luận rằng việc tạm nghỉ hoặc thanh lọc là một trải nghiệm có giá trị, nhưng giá trị trung bình dường như cao hơn nhiều so với những con số này gợi ý.

Phép tính này dẫn đến:

Không cần phải nói, ngay cả khi tôi không cố gắng theo kịp hay viết về AI, bạn cũng phải trả cho tôi rất nhiều tiền để tôi từ bỏ nó trong một tháng.

Google cần phải chấn chỉnh lại mọi thứ, vì rất nhiều lý do khác nhau: