Thống đốc New York Kathy Hochul: AI cần bớt 'tà ác' và cần quản lý chặt chẽ hơn

Hôm nay, tôi trò chuyện với Thống đốc New York Kathy Hochul, và tôi xin cảnh báo trước — tập này sẽ diễn ra với tốc độ rất nhanh. Xét cho cùng, đây là năm bầu cử với hàng loạt chính sách công nghệ quan trọng đang bị đặt lên bàn cân, và Thống đốc Hochul đã đưa ra những lập trường cứng rắn về hầu hết các vấn đề công nghệ lớn hiện nay.

Ví dụ, Meta vừa đạt được thỏa thuận dàn xếp với hàng chục tiểu bang, trong đó có New York, nhằm hạn chế cách thanh thiếu niên sử dụng các nền tảng như Instagram theo những cách rất cụ thể. Như các bạn sẽ nghe thấy, Thống đốc Hochul là người ủng hộ mạnh mẽ các hạn chế đó và hơn thế nữa. Tuy nhiên, điều này cũng đi kèm với cái giá phải trả — việc xác minh độ tuổi trên diện rộng đồng nghĩa với việc người lớn cũng sẽ phải xuất trình giấy tờ tùy thân để sử dụng internet, điều về cơ bản sẽ khiến việc ẩn danh trực tuyến trở nên bất khả thi.

Các thuê bao của Verge, đừng quên rằng bạn có quyền truy cập độc quyền vào Decoder không quảng cáo ở bất cứ nơi nào bạn nghe podcast. Hãy truy cập tại đây. Bạn chưa phải là thuê bao? Bạn có thể đăng ký tại đây.

Vì vậy, tôi đã hỏi về vấn đề đó, và liệu những hạn chế mới này có đồng nghĩa với việc Meta thừa nhận trong một vụ kiện rằng các quy định về ngôn từ như thế này có thể không vượt qua được sự giám sát của Tu chính án thứ nhất nếu Thống đốc cố gắng áp đặt chúng thành luật hay không.

Tôi cũng có những câu hỏi tương tự về các hạn chế của New York đối với "ghost guns" (súng tự chế), vốn ngăn cản máy in 3D in các bộ phận của súng. Luật đó hiện đang bị thách thức — không phải tại tòa án, mà bởi các nhà hoạt động như Cody Wilson, người điều hành cơ sở dữ liệu lớn nhất về các tệp súng in 3D và đã bắt đầu thay đổi các tệp đó trong một quy trình mà ông gọi là "Hochulization" để chứng minh rằng lệnh cấm này về mặt kỹ thuật là vô hại. Tôi đã hỏi Thống đốc về điều này, và chà, bạn sẽ nghe thấy bà ấy thách thức lại Cody ngay lập tức.

Ồ, vẫn còn nữa: Chúng tôi cũng đã thảo luận về giám sát và camera Flock, và tất nhiên là cả chính trị về AI và các trung tâm dữ liệu trong năm bầu cử. Thống đốc Hochul đã ký lệnh tạm dừng xây dựng trung tâm dữ liệu trong một năm vào tháng 7, và tôi muốn biết bà ấy đang tìm kiếm điều gì khi lệnh đó hết hạn để biến các trung tâm dữ liệu thành một đề xuất khả thi.

Chúng tôi cũng đã nói chuyện một chút về Thị trưởng Zohran Mamdani ở Thành phố New York và tất nhiên là cả sơ đồ tổ chức của bà cho chính quyền tiểu bang. Tôi nghĩ tập này có rất nhiều nội dung thú vị, bạn sẽ thích nó.

Được rồi: Thống đốc New York Kathy Hochul, chúng ta bắt đầu thôi.

Bài phỏng vấn này đã được biên tập nhẹ để đảm bảo độ dài và sự rõ ràng.

Thống đốc Kathy Hochul, bà là thống đốc của tiểu bang New York! Chào mừng bà đến với Decoder.

Cảm ơn bạn. Rất vui được tham gia chương trình.

Tôi có rất nhiều điều muốn thảo luận với bà. Chúng ta không có nhiều thời gian, nên chúng ta sẽ đi nhanh nhé. Bà đã sẵn sàng chưa?

Tôi sẵn sàng.

Được rồi. Tôi muốn bắt đầu với những gì tôi gọi là các câu hỏi Decoder, theo phong cách trả lời nhanh. Tôi nghĩ cách vận hành văn phòng và chính quyền tiểu bang của bà thực sự rất mơ hồ đối với hầu hết mọi người. Vì vậy, tôi hỏi mọi người câu hỏi này. Văn phòng Thống đốc được cơ cấu như thế nào? Bà đã đưa ra quyết định về cách cơ cấu văn phòng đó như thế nào? Bà đã tổ chức nó ra sao?

Thống đốc đứng đầu. Sau đó là một đội ngũ lãnh đạo, đội ngũ lãnh đạo cấp cao. Có một thư ký cho thống đốc, người là cố vấn hàng đầu. Nghe có vẻ giống như người ghi chép trong các cuộc họp, nhưng thư ký của thống đốc là vị trí không qua bầu cử quyền lực nhất trong tiểu bang. Khi tôi mới trở thành thống đốc cách đây 5 năm, tôi đã nói: "Tôi muốn những người thông minh nhất, giỏi nhất, sáng giá nhất mà tôi có thể vây quanh mình". Tôi không biết nhiều người trong số họ, nhưng họ được đánh giá rất cao nhờ kinh nghiệm kinh doanh, kinh nghiệm chính phủ hoặc kinh nghiệm công nghệ. Tôi đã nói: "Hãy mang đến cho tôi những người thông minh nhất".

Có một lớp các thành viên trong đội ngũ cấp cao. Có một cá nhân giám sát tất cả các cơ quan. Có 45 cơ quan khác nhau cho mọi thứ, từ Bộ Giao thông Vận tải đến môi trường, đến cơ quan phát triển nhà ở, phát triển kinh tế của chúng tôi. Tất cả đều đổ dồn vào một bộ máy hành chính khá lớn. Tôi là người ra quyết định, nhưng tôi tiếp nhận ý kiến từ nhiều cấp chính quyền khác nhau trước khi đưa ra quyết định cuối cùng. Nhưng tôi là người ra quyết định khá nhanh. Hãy cho tôi thấy sự thật và tôi có thể đưa ra quyết định ngay lập tức.

Bà đã tiếp quản một cách phức tạp từ người tiền nhiệm và sau đó bà đã thắng cử nhiệm kỳ tiếp theo. Bà có ngồi xuống và lập một sơ đồ tổ chức về cách bà muốn văn phòng của mình hoạt động không?

Có, tôi đã làm.

Việc đó mất bao lâu?

Theo một nghĩa nào đó, tôi đã thừa hưởng một sơ đồ, nhưng ngay từ đầu tôi cũng không có nhiều công cụ. Thực tế là, chúng tôi đã gặp một cơn bão ngay trong tuần đầu tiên tôi làm việc. Tôi không biết cách tuyên bố tình trạng thảm họa. Tôi vẫn chưa thuê người đó, người đứng đầu dịch vụ khẩn cấp. Chúng tôi đã hơi bị động. Tiểu bang vẫn hoạt động, nhưng tôi biết mình cần phải làm nhiều hơn nữa.

Tôi luôn tìm kiếm nhân tài, những người thông minh và cố gắng luân chuyển nhân sự. Đôi khi tôi thành lập các ủy ban như Ủy ban Future Works để mời các chuyên gia, không chỉ từ chính quyền của tôi mà còn từ khắp cả nước, những người hiểu về sự dịch chuyển việc làm do AI: ai là người dễ bị tổn thương nhất, cách chúng ta đối phó với điều đó, và cách chúng ta đào tạo mọi người để có thể vượt qua những trở ngại đó hoặc đón nhận AI như một nghề nghiệp tiềm năng. Tôi luôn tìm cách bổ sung cho đội ngũ của mình bằng các chuyên gia cụ thể về ngành hoặc vấn đề.

Câu hỏi này nghe có vẻ nực cười, nhưng tôi đã hỏi rất nhiều người một biến thể của câu hỏi này. Hầu như không ai bao giờ ngồi xuống và nói: "Tôi cần viết một sơ đồ tổ chức mới cho văn phòng Thống đốc New York". Bà đã làm điều đó trên bảng trắng sao? Bà có mở PowerPoint không? Có phải chỉ mình bà với một chiếc máy tính xách tay? Thực tế nó như thế nào?

Tôi có thể nói với bạn một điều mà tôi cảm thấy xấu hổ không, vì cách bạn đặt câu hỏi như vậy? Tôi đã làm nó trên một tập giấy ghi chú pháp lý (legal pad).

Tuyệt.

Kiểu cũ. Xin lỗi nhé.

Vâng, bút và giấy. Không, nó rất tuyệt. Rất ít người làm điều đó. Bạn sẽ ngạc nhiên với một số câu trả lời mà chúng tôi nhận được cho những câu hỏi như vậy.

Tôi chỉ vạch ra: "Đây là những gì tôi cần, đây là đội ngũ tôi cần". Đó là chuyện của 5 năm trước. Bây giờ tôi đã làm tốt hơn một chút rồi. Có lẽ tôi sẽ hỏi Claude hoặc ChatGPT để xin một vài gợi ý.

Ồ chà. Chúng ta sẽ đến phần đó. Đừng lo lắng về điều đó. Bà đã bắt đầu trả lời câu hỏi này, nhưng đây là câu hỏi Decoder khác. Bà đưa ra quyết định như thế nào? Khung làm việc của bà là gì?

Tiếp nhận tất cả thông tin nhanh nhất có thể, kiểm tra áp lực, và sau đó làm theo bản năng của mình.

Một trong những phần độc đáo hơn về cơ cấu trong chính quyền New York là mối quan hệ giữa tiểu bang và thành phố. Chúng ta đang nói chuyện trực tiếp tại Thành phố New York ở đây. Thị trưởng Zohran Mamdani đã khá quyết liệt trong việc nhắm vào các tỷ phú và các công ty công nghệ. Gần đây nhất, thành phố đã nhắm vào Amazon vì các hoạt động lao động của họ. Bà có nghĩ rằng điều đó đã hiệu quả ở đây không?

Tôi cần đảm bảo rằng Thành phố New York và toàn bộ tiểu bang tiếp tục là nơi chúng tôi hỗ trợ đổi mới, tạo việc làm mới. Công nghệ đang dẫn đầu xu hướng hiện nay. Tôi thực sự tự hào rằng chúng tôi hiện đã được vinh danh là nơi tạo việc làm công nghệ số một cả nước, vượt qua California, nơi luôn thống trị trong lĩnh vực này. Điều đó nói lên điều gì đó về hệ sinh thái của chúng tôi và tôi muốn thúc đẩy điều đó. Tôi muốn những người chỉ có một ý tưởng có thể sử dụng công nghệ để tạo ra thứ mà chưa ai từng nghĩ đến và thành công trong việc tiếp thị nó. Đó là điều tôi đang dồn sức vào.

Thị trưởng có cách tiếp cận riêng của ông ấy, nhưng tôi nghĩ nhìn chung cả hai chúng tôi đều muốn Thành phố New York thành công. Đối với tôi, thành công cũng có nghĩa là tạo ra nhiều cơ hội việc làm hơn nhờ hiệu ứng lan tỏa. Năm người trong một văn phòng ngay tại tòa nhà này có thể dẫn đến 500 việc làm trong vài năm tới. Những cơ hội đó giúp nâng cao đời sống của mọi người và đạt được điều tôi hy vọng là nhiều cơ hội hơn cho nhiều người hơn.

Có một văn phòng WeWork ngay phía trên chúng ta. Chúng ta phải đi tìm năm người đó thôi.

Tôi đang hỏi cụ thể về cách tiếp cận quyết liệt hơn mà Thị trưởng đã thực hiện. Ông ấy đã có một cách tiếp cận rất quyết liệt. Và như bà đã nói, các con số cho thấy các tỷ phú không bỏ chạy, họ thực sự đang đầu tư; các công ty công nghệ không bỏ chạy, họ thực sự đang tuyển dụng với tốc độ vượt qua cả San Francisco. Điều đó có đang khuyến khích bà thực hiện cách tiếp cận quản lý nghiêm khắc hơn đối với các công ty công nghệ không?

Tôi không chỉ thực hiện cách tiếp cận quản lý vì mục đích làm điều đó. Tôi không tăng thuế chỉ để cho có. Tôi làm mọi việc một cách thông minh khi cần thiết. Ví dụ, chúng tôi có các quy định đối với các công ty công nghệ khi nói đến mạng xã hội cho những người trẻ dưới 18 tuổi. Công việc của tôi là bảo vệ những người trẻ tuổi của tiểu bang chúng ta vì họ đã và đang rơi vào vòng xoáy của các thách thức về sức khỏe tâm thần — vâng, trầm trọng hơn do đại dịch, nhưng nhiều người trong số họ vẫn chưa vượt qua được cảm giác diệt vong và lo âu đó. Nó đang lan tràn, đặc biệt là ở thanh thiếu niên của chúng ta.

Tôi xem vai trò của mình là quản lý các công ty công nghệ trong không gian đó. Trước khi có thỏa thuận dàn xếp với Meta, chúng tôi đã đổi mới và đưa ra các cải cách có giá trị tương đương khoảng ba năm để buộc các công ty phải làm những việc mà họ không tự nguyện làm, và người ta sẽ ước họ làm điều đó nhưng có lẽ đó là quá lạc quan. Ví dụ, chúng tôi đã áp dụng quy định không gửi thông báo cho bất kỳ ai dưới 18 tuổi trong khoảng thời gian từ nửa đêm đến 6 giờ sáng. Những đứa trẻ này cần phải ngủ.

Chúng tôi đang nói rằng các thuật toán gây nghiện không còn có thể oanh tạc những người trẻ tuổi, có — đây là một vấn đề lớn — các kiểm soát quyền riêng tư tự động đã được thiết lập sẵn. Cha mẹ không được kỳ vọng phải hiểu mọi nền tảng mà con cái họ có thể truy cập hoặc bất kỳ trang web trò chơi nào và phải đi trước chúng. Việc nó tự động sử dụng xác minh độ tuổi là thực sự quan trọng.

Hạn chế quyền truy cập vào các chatbot AI đối với những người trẻ tuổi và đảm bảo có các tuyên bố từ chối trách nhiệm để họ hiểu rằng đây không phải là một người thực mà bạn nghĩ là bạn đang có mối quan hệ: đó là một ví dụ mà tôi nghĩ công nghệ cần được quản lý. Nó đã vượt khỏi tầm kiểm soát và bây giờ chính phủ phải thực hiện chức năng bảo vệ cư dân và những người trẻ tuổi của chúng ta, những người dễ bị tổn thương nhất. Tôi không chỉ quản lý để kìm hãm sự phát triển của họ. Tôi muốn họ phát triển. Đó là một cách tiếp cận thông minh, chiến lược và có tính phẫu thuật hơn đối với các quy định.