Cách xAI ứng dụng Grok Bot để tối ưu hóa đội ngũ hỗ trợ khách hàng

Khi Cursor trở thành một phần của SpaceXAI vào ngày 14 tháng 8, hai đội ngũ hỗ trợ khách hàng của chúng tôi bắt đầu hợp tác với nhau để quản lý một danh mục sản phẩm rộng lớn hơn nhiều.

Cùng lúc đó, chúng tôi đang chuẩn bị ra mắt Grok Bot, một cộng sự AI mà bạn có thể giao phó công việc thực tế. Chúng tôi dự đoán sản phẩm này sẽ tăng trưởng nhanh chóng, mang đến một làn sóng người dùng mới cùng nhu cầu hỗ trợ gia tăng.

Chúng tôi quyết định sử dụng chính Grok Bot để đáp ứng nhu cầu đó, đưa nó vào vận hành trong toàn bộ quy trình hỗ trợ. Nó đăng nhập vào các công cụ mà đội ngũ của chúng tôi sử dụng và vai trò của nó mở rộng từ việc giải quyết từng yêu cầu hỗ trợ (ticket) riêng lẻ đến việc giúp chúng tôi hiểu và cải thiện toàn bộ hoạt động.

Đội ngũ hợp nhất mới của chúng tôi đã ghi nhận lượng ticket hỗ trợ tăng 175%, nhưng chúng tôi không cần phải tuyển thêm bất kỳ nhân sự mới nào nhờ có Grok Bot. Nếu không có nó, có lẽ chúng tôi đã phải tuyển thêm 200 người.

Chúng tôi cũng thực hiện điều này với chi phí chỉ bằng một phần nhỏ so với thông thường. Các công cụ hỗ trợ AI truyền thống tính phí cố định từ 1 đến 4 USD cho mỗi lần giải quyết. Với Grok Bot, bạn chỉ trả phí dựa trên mức sử dụng thực tế, vốn đã được bao gồm trong gói dịch vụ của bạn. Với những tối ưu hóa nhỏ, chúng tôi đã có thể giải quyết các ticket với chi phí thấp chỉ từ 0,20 đến 0,30 USD.

Thiết lập nền tảng

Chúng tôi đã áp dụng phương pháp "bò, đi, chạy" để thiết lập Grok Bot. Chúng tôi bắt đầu bằng việc kết nối nó với một vài hệ thống cốt lõi, bao gồm Plain để quản lý ticket và Linear để theo dõi vấn đề. Sau đó, chúng tôi để nó đóng vai trò như người chịu trách nhiệm xử lý ticket, trong khi giới hạn quyền hạn ở các ghi chú nội bộ và yêu cầu sự phê duyệt của con người cho mọi hành động ghi dữ liệu. Điều này cho phép chúng tôi kiểm tra xem liệu nó có hiểu đúng từng vấn đề và đề xuất bước tiếp theo chính xác hay không mà không ảnh hưởng đến trải nghiệm của khách hàng.

Khi kết quả trở nên đáng tin cậy hơn, chúng tôi đã thêm các dấu vết (traces) và đánh giá (evaluations) vào mỗi lần chạy. Khi có sự cố xảy ra, chúng tôi có thể thấy Grok Bot đã đi chệch hướng ở đâu, thực hiện điều chỉnh và thử lại. Grok Bot cũng có thể tự phân tích các lần chạy này. Vòng lặp phản hồi này cho phép chúng tôi di chuyển nhanh chóng trong khi vẫn giữ quy trình được kiểm soát.

Khi nền tảng đó đã sẵn sàng, chúng tôi bắt đầu triển khai Grok Bot cho những ticket ít phức tạp nhất. Trong ngày đầu tiên, chúng tôi xem xét thủ công cách nó diễn giải và đề xuất phản hồi để đảm bảo độ chính xác, tông giọng và việc tuân thủ các hướng dẫn của chúng tôi. Đến cuối ngày, chúng tôi đã đủ tự tin để cho phép nó bắt đầu phản hồi trực tiếp cho khách hàng. Từ đó, chúng tôi dần mở rộng phạm vi các loại ticket mà nó có thể xử lý.

Từ tiếp nhận đến giải quyết

Nếu xét đến tổng thời gian cần thiết để giải quyết một ticket, phần lớn thời gian nằm ở khâu khám phá, điều tra và khắc phục sự cố. Chúng tôi bắt đầu áp dụng Grok Bot cho mọi ticket như một bước tiền điều tra ngay khi nó đi vào hệ thống của chúng tôi. Việc này có thể trở nên tốn kém, vì vậy chúng tôi đã xem xét các ticket phổ biến và phân loại các vấn đề thường gặp để giảm lượng token cần tiêu thụ. Chúng tôi cũng không lãng phí đáng kể năng lực khắc phục sự cố khi chỉ cần một bước kiểm tra đơn giản trong trung tâm trợ giúp là đủ.

Bất cứ khi nào gặp phải một vấn đề đã biết (nó kết nối với instance Linear của chúng tôi), hoặc nếu gặp lỗi phổ biến trong backend (nó kết nối với Datadog), chúng tôi đã huấn luyện Grok Bot để bổ sung vào vấn đề hiện có hoặc tạo một vấn đề mới. Grok Bot cũng tái hiện vấn đề bằng video, giúp đội ngũ kỹ thuật giải quyết nhanh chóng.

Tất nhiên, chúng tôi cũng cần đảm bảo rằng khách hàng nhận được phản hồi rõ ràng từ chúng tôi. Chúng tôi đã huấn luyện Grok Bot trên hơn một triệu tương tác với khách hàng để nó học được tông giọng và phong cách của chúng tôi trực tiếp từ con người. Grok Bot được huấn luyện không chỉ để phản hồi mà còn luôn thúc đẩy ticket đi đến hướng giải quyết. Nó thực hiện điều này bằng cách đặt các câu hỏi liên quan (ví dụ: nó sẽ không hỏi những câu mà câu trả lời đã có sẵn trong nhật ký của chúng tôi).

Grok Bot cũng có thể thực hiện hành động thay mặt khách hàng của chúng tôi. Ví dụ, chúng tôi đã cung cấp cho nó các hướng dẫn hoàn tiền rõ ràng, trong đó 99% các yêu cầu hoàn tiền được giải quyết mà không cần sự can thiệp của con người.

Quản lý hàng đợi theo thời gian thực

Giải quyết từng ticket chỉ là một phần của công việc. Chúng tôi cũng cần hiểu những gì đang diễn ra trên toàn bộ hàng đợi. Grok Bot liên tục theo dõi lưu lượng đầu vào và điều chỉnh hàng đợi dựa trên những gì cần được ưu tiên. Nó có thể sắp xếp lại thứ tự ưu tiên của các ticket, phân công lại người chịu trách nhiệm dựa trên mức độ khẩn cấp và cảnh báo cho tổ chức khi chúng tôi sắp vi phạm SLA về thời gian phản hồi.

Grok Bot cũng quan sát các ticket để tìm ra các mô hình chung. Khi lưu lượng xung quanh một vấn đề cụ thể đạt đến ngưỡng thiết lập, nó có thể tự động tuyên bố một sự cố. Nó giám sát X để phát hiện những thay đổi về cảm xúc và các báo cáo lặp đi lặp lại về cùng một vấn đề, mang lại cho chúng tôi cái nhìn vượt ra ngoài những khách hàng liên hệ trực tiếp với bộ phận hỗ trợ. Cùng với nhau, các tín hiệu này giúp chúng tôi phát hiện sớm các vấn đề mới nổi.

Ở quy mô hiện tại của chúng tôi, các cảnh báo về lưu lượng thô sẽ tạo ra rất nhiều nhiễu. Grok Bot đánh giá xem liệu một sự tăng đột biến có phản ánh một vấn đề hỗ trợ thực sự hay không và bắt đầu điều tra trước khi cảnh báo cho đội ngũ. Điều đó cung cấp cho chúng tôi nhiều ngữ cảnh hơn về những gì cần hành động, đồng thời bảo toàn thời gian và năng lực của đội ngũ.

Liên tục cải thiện hệ thống hỗ trợ khách hàng

Khi Grok Bot đảm nhận nhiều công việc hỗ trợ khách hàng hơn, nó cũng mang đến cho chúng tôi một cách mới để cải thiện chính hoạt động này. Nó xem xét các tương tác của khách hàng được xử lý bởi cả con người và Bot, cung cấp phản hồi cụ thể về những gì có thể cải thiện và đưa ra các cơ hội huấn luyện cho từng thành viên trong đội ngũ cũng như các Bot.

Mỗi tuần, Grok Bot gửi cho đội ngũ lãnh đạo của chúng tôi bản tóm tắt về những điểm mà các phản hồi AI của chúng tôi còn thiếu sót. Đôi khi câu trả lời là cần đào tạo thêm hoặc tài liệu tốt hơn. Những lần khác, bản tóm tắt xác nhận rằng các rào cản (guardrails) mà chúng tôi đặt ra đang hoạt động hiệu quả. Điều này cung cấp cho chúng tôi cái nhìn cập nhật thường xuyên về chất lượng và giúp chúng tôi giải quyết các mô hình vấn đề từ sớm.

Khi ngày càng có nhiều người dùng yêu cầu Grok hỗ trợ, trung tâm trợ giúp của chúng tôi ngày càng đóng vai trò là tài liệu nguồn cho các câu trả lời của nó. Để giữ cho các câu trả lời đó chính xác, Grok Bot xem xét các thay đổi đối với cơ sở mã (codebase) của chúng tôi và đề xuất các cập nhật tương ứng cho trung tâm trợ giúp.

Chúng tôi hiện đã đạt đến điểm mà các Grok Bot có thể huấn luyện các Grok Bot khác. Chúng xác định các lỗ hổng trong hệ thống tri thức, lấp đầy những lỗ hổng đó và đưa những gì chúng học được trở lại hệ thống. Chúng tôi đang mở rộng vòng lặp này trên toàn bộ danh mục sản phẩm để nó bao phủ mọi bề mặt sản phẩm.

Biến dữ liệu hỗ trợ khách hàng thành các quyết định

Grok Bot đã trở thành nhà phân tích dữ liệu mặc định của chúng tôi, biến những gì nó thấy được qua hỗ trợ khách hàng thành các báo cáo hàng ngày cho các kênh Slack của chúng tôi. Khi phát hiện những dấu hiệu sớm của trải nghiệm khách hàng kém, nó sẽ gắn cờ tình huống để đội ngũ có thể can thiệp khi vẫn còn thời gian để thay đổi kết quả.

Một ví dụ về điều này là bất cứ khi nào một ticket được trao đổi qua lại hơn ba lần giữa khách hàng và một thành viên trong đội ngũ của chúng tôi (con người hoặc Bot). Khi đó, Grok Bot gắn cờ tương tác để quản lý xem xét và tạo cơ hội cho lãnh đạo can thiệp để cứu vãn trải nghiệm. Tương tác này giúp huấn luyện Grok Bot, và khi Grok Bot học được những tín hiệu nào hữu ích cho đội ngũ, việc báo cáo sẽ trở nên phù hợp hơn theo thời gian.

Phân tích tương tự giúp chúng tôi cải thiện chất lượng sản phẩm. Grok Bot tổng hợp hơn 20.000 điểm phản hồi sản phẩm từ các ticket hỗ trợ khách hàng mỗi ngày và biến chúng thành các chủ đề rõ ràng mà chúng tôi có thể mang đến cho bộ phận kỹ thuật. Điều này cung cấp cho đội ngũ sản phẩm cái nhìn rộng hơn về những nơi khách hàng đang gặp khó khăn và nơi sản phẩm cần được cải thiện.

Grok Bot thay đổi đội ngũ hỗ trợ khách hàng như thế nào

Grok Bot vẫn là một cách làm việc mới, nhưng nó đã thay đổi cách đội ngũ của chúng tôi vận hành. Thay vì dành phần lớn thời gian trong ngày cho công việc hỗ trợ lặp đi lặp lại, chúng tôi có thể tập trung vào việc thiết lập các rào cản, xử lý các trường hợp đòi hỏi sự phán đoán và quyết định cách thức hoạt động cần cải thiện. Điều đó làm cho công việc trở nên hấp dẫn hơn và tạo không gian cho mọi người áp dụng kinh nghiệm của họ vào những vấn đề khó khăn hơn.

Chúng tôi vẫn đang tìm hiểu những gì mà mô hình này có thể mang lại. Khi vai trò của hỗ trợ khách hàng tiếp tục thay đổi, chúng tôi sẽ tiếp tục chia sẻ những gì chúng tôi khám phá được.