Oracle chi hàng tỷ USD cho AI nhưng mất cả năm mới tìm ra cách ứng dụng hiệu quả

Theo tin từ IT ngày 18/9, trong hai năm qua, Oracle đã chi hàng tỷ USD để hỗ trợ các doanh nghiệp khác vận hành AI. Tuy nhiên, so với điều đó, thời điểm công ty tự mình áp dụng toàn diện AI lại muộn hơn rất nhiều.

Theo báo cáo từ Business Insider vào tối nay (18/9), đồng CEO của Oracle, Clay Magouyrk, đã thừa nhận tại một cuộc họp nội bộ rằng cho đến tận năm ngoái, công ty vẫn chưa tìm ra cách để Generative AI thực sự phát huy hiệu quả trong toàn bộ đội ngũ nhân viên.

Sau khi ChatGPT và Codex được đưa vào sử dụng, tốc độ viết mã của nhân viên Oracle đã tăng lên đáng kể, đồng thời cũng làm lộ ra những nút thắt cổ chai vốn ẩn giấu trong các khâu khác. Magouyrk cho biết: "Nhìn lại tình hình một năm trước, tôi cảm thấy lúc đó chúng tôi vẫn chưa hiểu rõ làm thế nào để AI thực sự trở nên hữu ích với chính mình."

Năm ngoái, Oracle đã thử nghiệm áp dụng AI vào hỗ trợ khách hàng, nhưng các bộ phận như phát triển, tài chính và kinh doanh vẫn chưa ứng dụng rộng rãi. Giám đốc thông tin (CIO) của Oracle, Jay Evans, chia sẻ với nhân viên rằng bước ngoặt xảy ra vào tháng 4 và tháng 5 năm nay, khi công ty bắt đầu triển khai ChatGPT Enterprise và Codex.

Thay vì chỉ đơn thuần mở quyền truy cập công cụ cho nhân viên, Oracle đã đồng thời thiết lập các tiêu chuẩn công ty, biện pháp kiểm soát an ninh và chính sách nội bộ, giúp tỷ lệ sử dụng đạt 80% chỉ trong vòng ba tháng. "Chúng tôi đã làm cho các công cụ này quá dễ sử dụng, kết quả là có thể chúng tôi sẽ hơi bị sốc bởi chi phí."

Do đó, Oracle đã thiết lập cơ chế giám sát nội bộ để có thể theo dõi nhân viên đang sử dụng những mô hình nào và chi phí phát sinh cho từng loại là bao nhiêu.

Evans chỉ ra rằng chi phí sử dụng OpenAI GPT-6 Astra cao gấp 2,5 lần so với các mô hình khác, trong khi nhiều tác vụ không cần thiết phải gọi đến những mô hình đắt đỏ như vậy. Ví dụ, các công việc hàng ngày có thể giao cho Terra xử lý với chi phí thấp hơn.

Hai vị lãnh đạo cho biết, AI đã tăng tốc đáng kể quá trình phát triển phần mềm, nhưng cũng đẩy các nút thắt cổ chai trong quy trình kỹ thuật sang những khâu khác. Evans nói: "Chúng tôi thấy rằng các nhà phát triển có thể tạo mã bằng công cụ này chỉ trong khoảng một tuần. Trước đây, một đội ngũ phát triển thường phải mất từ hai đến ba quý mới hoàn thành."

Tuy nhiên, hiện tại, việc tăng tốc độ phát triển vẫn chưa chuyển hóa thành việc bàn giao sản phẩm nhanh hơn. Magouyrk giải thích rằng công ty vẫn đang nghiên cứu cách thiết kế lại các quy trình kiểm thử, xác thực, triển khai và quản lý phát hành để theo kịp tốc độ tạo mã. "Việc viết mã nhanh hơn không có nghĩa là mọi thứ đột nhiên sẽ nhanh hơn gấp 1000 lần."

Trải nghiệm của Oracle cũng làm lộ ra bài toán khó tiếp theo sau khi doanh nghiệp áp dụng AI trên quy mô lớn: các mô hình mạnh mẽ có thể rút ngắn đáng kể thời gian cần thiết cho từng tác vụ đơn lẻ, nhưng đồng thời có thể mang lại hóa đơn chi phí khổng lồ và chuyển dịch nút thắt cổ chai sang các khâu khác.

Oracle cũng được cấp quyền truy cập sớm vào mô hình Mythos Preview của Anthropic dùng để quét các lỗ hổng bảo mật trong mã nguồn. Evans cho biết, sau khi mô hình này được đưa vào sử dụng, chỉ trong hai tuần ngắn ngủi, số lượng vấn đề tiềm ẩn được phát hiện đã vượt quá tổng số lượng phát hiện của Oracle trong cả năm trước đó.

Anthropic Mythos, được công bố vào tháng 4 năm nay, được coi là một trong những hệ thống AI mạnh mẽ nhất hiện nay. Nhiều chính phủ và cơ quan an ninh đã cảnh báo rằng khả năng của nó vượt trội hơn các mô hình khác, đặc biệt nổi bật trong lĩnh vực an ninh mạng.

Khả năng quét mạnh mẽ như vậy cũng dẫn đến một lượng lớn cảnh báo sai (false positive). IT được biết từ báo cáo rằng, Evans ước tính khoảng 60% đến 70% các vấn đề mà Mythos phát hiện là cảnh báo sai. Vì vậy, Oracle đã thiết lập quy trình xác minh mới, trong đó các kỹ sư sẽ xác nhận xem lỗ hổng có thực sự tồn tại hay không trước khi tiến hành sửa chữa.