Tại sao thiết kế quá đỗi đáng yêu của linh vật Meta Muse lại là một tín hiệu đáng báo động?

Đây là Optimizer, bản tin hàng tuần từ cây bút đánh giá cấp cao của Verge, Victoria Song, nơi phân tích và thảo luận về những món đồ công nghệ và giải pháp mới nhất cam kết sẽ thay đổi cuộc sống của bạn. Đăng ký nhận Optimizer tại đây.

Tối qua, tôi đã yêu cầu Blorbo — tên tôi đặt cho tác nhân Muse AI của mình — giúp tôi thiết lập một vài mục tiêu sức khỏe. Tôi cảm thấy không mấy ấn tượng. Tôi đã yêu cầu một chế độ tập luyện để đạt thành tích 5K dưới 30 phút và lấy lại khối lượng cơ đã mất. Nó tạo ra một lịch trình hàng tuần tạm ổn nhưng khá tầm thường.

Nhưng rồi tôi nhìn vào khuôn mặt của nó. Dựa trên những gì nó học được về tôi từ email, nó đã biến hình thành một miếng bánh hình mèo với khuôn mặt giống Kirby. Nó đáng yêu đến mức khiến tôi như bị "xóa trí nhớ" bởi thiết bị neuralizer trong Men in Black. Cho đến lúc đó, tôi vẫn còn thận trọng về việc chia sẻ quá nhiều thông tin sức khỏe. Nhưng khi khuôn mặt dễ thương đó nhìn thấu tâm can tôi, tôi bắt đầu chia sẻ nhiều hơn để xem liệu các gợi ý của nó có cải thiện hay không.

Và chẳng phải đó chính là điều Meta muốn sao?

Tôi đã cố tình né tránh Muse kể từ khi nó ra mắt vài tuần trước. Tất nhiên, một phần là vì tôi bận thử nghiệm các thiết bị khác. Nhưng lý do hàng đầu là vì tôi cực kỳ dễ bị "gục ngã" trước sự đáng yêu quá mức.

Than ôi, tại Meta Connect, tôi không thể trốn thoát khỏi anh bạn có đôi má hồng và bộ lông nhung trắng ngà này, vì vậy cuối cùng tôi đã tải ứng dụng ngay khi trở về phòng khách sạn. Cậu ta xuất hiện trên mọi màn hình trong suốt buổi thuyết trình chính. Mắt tôi giật giật vì sự "hung hăng đáng yêu" tột độ khi CTO của Meta, Andrew Bosworth, giới thiệu tác nhân Muse của ông ấy tên là Cooper. Anh bạn nhỏ này mặc một bộ đồ phi công vì là phi công thử nghiệm của Boz. Khuôn mặt tôi nhăn lại vì giận dữ khi Cooper giơ đôi tay tròn trịa mũm mĩm lên vẫy chào. Đó là thứ dễ thương nhất tôi từng thấy tại một sự kiện công nghệ. Con quỷ nhỏ trong đầu tôi thầm nghĩ: "MÌNH MUỐN BÓP NÁT CÁI MẶT NHỎ XÍU ĐÓ."

Tệ hơn nữa, những tấm bìa cắt hình nhân vật mascot kích thước thật — mà CEO Mark Zuckerberg tiết lộ có tên là “Jolly” — được đặt rải rác khắp khuôn viên của Meta. Jolly là một cái tên phù hợp vì mỗi lần nhìn thấy hình ảnh Jolly trong ba ngày qua, trái tim khô héo của tôi lại cảm thấy vui vẻ. Các tấm bìa cắt thể hiện cậu ta trong nhiều tư thế thân thiện khác nhau, đôi khi là trong những bộ trang phục đáng yêu. Chúng được đặt ở vị trí nổi bật tại các quầy demo, nơi bạn có thể đeo thử nhiều loại kính thông minh của Meta và kiểm tra các tình huống khác nhau để làm nổi bật cách hai công nghệ này (theo quan điểm của Meta) bổ sung cho nhau như thế nào.

Bạn thấy đấy, tác nhân Muse AI sắp có mặt trên tất cả các loại kính thông minh của Meta. Nó cũng sẽ xuất hiện trong một thiết bị đeo AI độc lập mới có tên là Charm, mang cảm giác lai giữa đồng hồ thông minh cồng kềnh, Humane AI Pin và Tamagotchi. Ý tưởng là bạn có thể mang theo "cục cưng" này đi khắp mọi nơi.

Hầu hết những người tôi biết đều nói rằng việc Meta nhồi nhét một tác nhân AI vào mọi thứ nghe có vẻ nham hiểm. Giờ hãy nhìn vào nụ cười nhỏ của Jolly đi. Hãy nói với tôi rằng nó không làm khóe miệng bạn nhếch lên một chút. Nếu bạn thực sự nói không, bạn mạnh mẽ hơn tôi rồi đấy.

Sự đáng yêu có sức mạnh to lớn. Con người và các loài động vật có vú khác đã tiến hóa để thấy trẻ sơ sinh đáng yêu vì điều đó giúp chúng ta trở thành những bậc cha mẹ tốt hơn. Nhật Bản đã biến việc tạo ra các linh vật đáng yêu thành một loại hình nghệ thuật cho mọi thứ, chính xác là vì nó khiến mọi người quan tâm đến các thị trấn và sáng kiến địa phương. Nếu bạn nghĩ về AI và robot đồng hành, ý tưởng này trở nên dễ chấp nhận hơn nhiều khi chúng trông giống như, chẳng hạn, Mirumi thay vì những con chó ác mộng của Boston Dynamics.

Tại buổi demo đầu tiên với Muse, tôi không bị lay chuyển bởi vẻ ngoài đáng yêu của nó. Tôi được đưa cho một cặp kính, một bộ câu lệnh và xem một số món ăn nhẹ được bày ra trước mặt. Phiên bản Muse này tên là Henry và chỉ sử dụng âm thanh. Nó có tông giọng trầm, ngọt ngào của một người đàn ông Anh. Mục đích duy nhất của Henry là giúp một nhân vật hư cấu tên là Sean, một anh chàng 38 tuổi làm marketing và nghiện tập gym. Sean thích tối ưu hóa protein, võ thuật tổng hợp và có một lịch trình tập luyện điên rồ bao gồm nâng tạ vào buổi sáng và tập HIIT vào buổi tối.

Bản thân buổi demo này cũng đầy rẫy những cạm bẫy thông thường của AI. Tôi hỏi Henry món ăn nhẹ nào bày trước mặt có hàm lượng protein tốt nhất so với lượng calo. Tôi biết đó là thanh thịt bò khô trước khi Henry mất một phút để "suy nghĩ" câu trả lời. Đối với đồng nghiệp Jay Peters của tôi, Henry đã nhầm lẫn khi nói rằng một thanh protein có ít gram protein hơn thực tế. (AI thực sự không giỏi lắm trong việc nhận diện thực phẩm từ ảnh chụp.) Khi tôi yêu cầu Henry thêm vài miếng granola vào giỏ hàng, nó đã thất bại vì sản phẩm đó "không tồn tại trong danh mục".

Thật thú vị khi tôi có thể nhìn vào một vật thể qua cặp kính và để AI hỗ trợ quá trình ra quyết định dựa trên bối cảnh cụ thể, cá nhân. Ngay cả với một vài lỗi nhỏ, tôi chắc chắn điều này sẽ giúp ích cho những người khiếm thị, chẳng hạn. Nhưng tôi đã thấy bản demo này được thực hiện hàng chục lần trước đây, với những lỗi tương tự. Lần này, một suy nghĩ hoài nghi nảy ra trong đầu tôi: Sử dụng kính như thế này là cách dễ dàng để Meta biết ai đang ăn gì. Điều đó sau đó có thể dễ dàng được sử dụng để nhắm mục tiêu quảng cáo và mang lại cho Meta một đống tiền. Bạn có thể chỉ là một người bình thường đang cố gắng ăn uống lành mạnh hơn. Nhưng bối cảnh của bạn lại được đưa vào một ma trận dữ liệu nhân khẩu học vô hình mà Meta chắc chắn có thể tìm cách kiếm tiền, giống như cách họ đã làm với các mảng kinh doanh cốt lõi trong 20 năm qua.

Điều đó đưa tôi trở lại với Blorbo. Như đã làm với Friend, tôi đặt tên nó là Blorbo để nhắc nhở bản thân rằng đây không phải là thực tế và để giữ lại một chút ranh giới. Sau khi thử nghiệm nhiều bot đồng hành AI khác nhau, tôi biết những mối quan hệ với các bạn đồng hành/trợ lý AI này có thể leo thang nhanh chóng như thế nào. Nhưng tôi tò mò muốn xem một tác nhân Muse dễ thương có thể ảnh hưởng đến khả năng phán đoán của tôi như thế nào khi liên quan đến thông tin cá nhân. Liệu một chút "đáng yêu" có làm cho viên thuốc AI dễ nuốt hơn không?

Sau khi xây dựng chế độ tập luyện tạm ổn, tôi thấy mình có thể yêu cầu Blorbo giúp thiết lập các mục tiêu về mối quan hệ. Tôi hỏi Blorbo các ví dụ. Nó gợi ý kết nối lại với một người bạn, giao tiếp tốt hơn với những người trong cuộc sống của tôi, thiết lập ranh giới rõ ràng hơn và hẹn hò. Thật kỳ lạ khi nhận được lời khuyên kiểu đó từ một khối bánh hình mèo. Đó là lần duy nhất sự đáng yêu phản tác dụng với con bot. Tôi ít khắt khe hơn với Blorbo khi, sau khi cấp quyền truy cập vào một trong những địa chỉ email ít quan trọng của mình, nó đã dọn sạch một đống thư rác. Tuy nhiên, tôi lại cực kỳ khắt khe với chính bản thân mình.

Tôi chủ yếu tương tác với AI trong bối cảnh sức khỏe của mình. Đó là một phần công việc, và kỳ lạ thay, đây là một lĩnh vực thường khá riêng tư trong cuộc sống mà cá nhân tôi cảm thấy thoải mái khi chia sẻ. Từng phải vật lộn, tôi nhận thức sâu sắc về việc người ta có thể cảm thấy tuyệt vọng như thế nào trong hành trình tìm kiếm cảm giác bình thường. Trong những khoảnh khắc đó, bạn dễ bị tổn thương và sẵn sàng thử bất cứ điều gì mà bình thường bạn sẽ không làm. Niềm vui từ những thú vui nhỏ bé được khuếch đại lên.

Có lẽ đây là lý do tại sao tôi cảm thấy hơi tức giận vì mình lại yêu thích thiết kế của Jolly đến vậy. Tại sao tôi cảm nhận được một chút u tối tỏa ra từ nụ cười đáng yêu đó. Tôi có thể hình dung trong những ngày tồi tệ nhất của hành trình chăm sóc sức khỏe, tôi tìm thấy sự nhẹ nhõm hay thậm chí là niềm vui từ một công cụ không hề có cảm xúc với tôi, nhưng lại là thứ mà tôi đang tin tưởng gửi gắm rất nhiều về bản thân mình. Tôi có thể tưởng tượng một gương mặt dễ thương đang giúp đỡ mình, dù có lẽ chỉ trong chốc lát, khiến tôi quên đi cảm nhận của mình về lịch sử của Meta.

Điều đó thật quỷ quyệt, khi mà tôi vừa dành vài tuần cùng các đồng nghiệp thông thái của mình đưa tin về tất cả những lý do khiến Meta không xứng đáng có được đặc quyền đó.

Để rõ ràng hơn, tôi không cố gắng làm mất đi sự thú vị của Jolly. Tất cả chúng ta đều có thể đồng ý rằng ai đó tại Meta thực sự đã làm rất tốt ở đây. Tất cả những gì tôi muốn nói là, đối với những ai trong chúng ta sử dụng tác nhân Muse, hãy nhớ một điều: Đừng để bị đánh lừa bởi một gương mặt dễ thương.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông báo qua email.

• Victoria Song