Mistral ra mắt Studio: Quản lý tập trung cho Prompt và kỹ năng AI

Tư duy

Tóm tắt

Hầu hết các doanh nghiệp đều đang chật vật với các AI prompt và kỹ năng (skills) bị phân tán, không được quản lý, dẫn đến hành vi thiếu nhất quán và các vấn đề không thể truy xuất nguồn gốc. Studio cung cấp một hệ thống lưu trữ tập trung để quản lý phiên bản, quyền sở hữu và khả năng truy xuất, cho phép lặp lại nhanh chóng và triển khai có kiểm soát trong khi vẫn đảm bảo tuân thủ. Bằng cách coi các prompt là tài sản sản xuất với các phiên bản bất biến, quyền sở hữu rõ ràng và nhật ký kiểm toán, Studio đảm bảo hành vi của AI được quản trị, có thể tìm kiếm và phù hợp với các chính sách kinh doanh.

Hầu hết các doanh nghiệp không thể biết chính xác phiên bản prompt nào đang chạy trong AI của họ tại thời điểm hiện tại. Các hướng dẫn quyết định cách AI vận hành bị phân tán ngay khi có nhiều hơn một nhóm tham gia chỉnh sửa, dẫn đến trải nghiệm không nhất quán cho người dùng và các vấn đề không thể truy xuất cho các đội ngũ.

Kể từ hôm nay, Studio cung cấp cho các Prompt và Skill của bạn một hệ thống lưu trữ: một nơi duy nhất mà mỗi thành phần đều được quản lý phiên bản, xác định quyền sở hữu và có thể truy xuất.

Các prompt và skill đã phát triển vượt xa cách quản lý hiện tại

Prompt và Skill là các tài sản sản xuất. Chúng chứa đựng logic kinh doanh, giọng văn và chính sách mà AI của bạn tuân theo khi trả lời khách hàng hoặc thực hiện cuộc gọi. Những gì AI của bạn thực hiện trước mặt khách hàng đều phụ thuộc vào các prompt và skill đang được sử dụng. Khi hành vi đó sai lệch, việc khắc phục phải được thực hiện nhanh chóng như bất kỳ sự cố sản xuất nào, thay vì phải chờ đợi đợt phát hành mã nguồn tiếp theo.

Và tại hầu hết các doanh nghiệp, chúng đang được quản lý như những ghi chú nháp. Các prompt bắt đầu như những thử nghiệm nhanh, rồi được đưa vào sử dụng. Giờ đây, chúng nằm rải rác trong các kho mã nguồn, sổ tay và các luồng tin nhắn Slack, không có người sở hữu rõ ràng và không có lịch sử chung. Các skill bị xây dựng lại hoặc bị phân nhánh (fork) bởi một nhóm khác chỉ vì họ không thấy được phiên bản của nhóm trước đó.

Ở nhiều doanh nghiệp, các prompt vốn đã nằm trong mã nguồn được kiểm soát phiên bản, nghĩa là việc theo dõi thay đổi chưa bao giờ là phần khó khăn. Sự khó khăn nằm ở chỗ khác. Những người hiểu rõ hướng dẫn nhất – các nhóm nghiệp vụ kinh doanh (line-of-business) – là những người thiết lập chính sách và ngôn từ, nhưng họ lại không làm việc trên mã nguồn, vì vậy mọi thay đổi đều phải chờ đợi kỹ sư. Việc tinh chỉnh một hướng dẫn đòi hỏi phải lặp lại và thử nghiệm, điều mà mã nguồn khiến cho trở nên tốn kém: mỗi lần chỉ có một phiên bản được phát hành, và mọi nỗ lực đều đồng nghĩa với việc chỉnh sửa mã và chờ đợi triển khai.

Vì vậy, hầu hết các nhóm dừng việc lặp lại quá sớm. Họ phát hành một phiên bản "đủ dùng" rồi bỏ mặc nó, và các hướng dẫn định hình mọi câu trả lời cho khách hàng có thể vẫn còn kém xa so với tiềm năng thực sự.

Lặp lại nhanh, phát hành có kiểm soát

Trong quá trình xây dựng, việc lặp lại một hướng dẫn cần phải nhanh chóng. Với mã nguồn, ngay cả một thay đổi nhỏ một dòng trong prompt cũng có thể đồng nghĩa với việc chờ đợi chạy CI trước khi bạn thấy nó hoạt động ra sao. Studio cho phép bất kỳ người xây dựng AI nào, dù là lập trình viên hay không, chỉnh sửa prompt hoặc skill và kiểm tra ngay lập tức mà không cần chạy pipeline cho mỗi lần thử.

Việc phát hành lên môi trường sản xuất (production) là một câu chuyện khác, và cần phải như vậy. Một thay đổi hướng tới production phải trải qua các bài kiểm tra và phê duyệt mà doanh nghiệp của bạn yêu cầu. Điều thay đổi ở đây là ai có thể thực hiện nó. Một chuyên gia nghiệp vụ hoặc chủ sở hữu mảng kinh doanh có thể cải thiện hướng dẫn sản xuất giống như cách một lập trình viên làm, và việc thúc đẩy (promotion) bằng các nhãn đơn giản vẫn kích hoạt CI/CD của bạn, ví dụ thông qua SDK trong quy trình làm việc của GitHub Actions. Những người hiểu rõ công việc nhất sẽ cải thiện hành vi, nằm trong các kiểm soát mà bạn đã vận hành.

Vì mọi tài sản đều được quản trị và có thể tìm kiếm, công việc tốt sẽ được lan tỏa thay vì bị xây dựng lại. Bất cứ thứ gì trong không gian làm việc đều có sẵn cho toàn bộ nhóm ngay lập tức, vì vậy một prompt mà một người làm tốt sẽ được đồng nghiệp của họ sử dụng ngay.

Hệ thống lưu trữ cho hành vi của AI.

Studio coi mỗi prompt và skill là một tài sản được theo dõi, quản lý phiên bản với người sở hữu, lịch sử đầy đủ và nguồn gốc rõ ràng.

Các phiên bản bất biến. Mỗi phiên bản đều được ghi lại và cố định. Một phiên bản đã phát hành không thể bị thay đổi âm thầm sau đó, vì vậy hồ sơ luôn khớp với những gì đã chạy.

Hoàn tác (Rollback). So sánh bất kỳ hai phiên bản nào, xem chính xác những gì đã thay đổi và hoàn nguyên về phiên bản tốt đã biết trong vài phút.

Quyền sở hữu rõ ràng. Mỗi tài sản đều có người sở hữu được chỉ định, vì vậy luôn có dấu vết kiểm toán để theo dõi các thay đổi.

Nhãn phân loại. Giúp gọi hoặc tìm kiếm đúng các prompt và skill bằng nhãn của chúng một cách dễ dàng (ví dụ: “Production” so với “Staging”).

Nhật ký kiểm toán. Mỗi thay đổi đều được ghi lại với thông tin ai đã thực hiện và khi nào. Dấu vết mà kiểm toán viên yêu cầu sẽ tồn tại theo mặc định.

Phần mà một danh mục độc lập không thể làm được.

Một công cụ quản lý prompt riêng biệt có thể liệt kê tài sản của bạn. Nhưng nó không thể cho bạn biết liệu chúng có hoạt động hay không, vì nó nằm ngoài hệ thống vận hành chúng.

Vì các prompt và skill của bạn nằm ngay nơi AI vận hành, Studio có thể kết nối chúng với cách AI thực sự hoạt động. Thông qua khả năng quan sát (Observability), nguồn gốc và dữ liệu đo lường (telemetry) sẽ truy vết đầu ra sản xuất ngược lại phiên bản tài sản đứng sau nó, và ngược lại quá trình sử dụng đã dẫn đến thay đổi gần nhất. Các skill mà tác nhân (agent) của bạn chạy có thể truy cập được dưới dạng các máy chủ MCP trực tiếp từ Studio, vì vậy những gì thực thi trong môi trường sản xuất chính là tài sản được quản trị mà bạn đã quản lý phiên bản, chứ không phải một bản sao bị sai lệch. Bạn định nghĩa hành vi, theo dõi nó chạy và cải thiện nó, tất cả dựa trên một nguồn dữ liệu duy nhất. Vòng lặp khép kín đó chính là sự khác biệt giữa việc lập danh mục AI và quản trị AI.

Kiểm soát dành cho những người chịu trách nhiệm với kiểm toán viên.

Các prompt không được quản trị là một rủi ro đối với những người phải giải trình với kiểm toán viên. Chúng nhúng các quy tắc xử lý dữ liệu và quyết định chính sách mà ai đó cuối cùng sẽ phải bảo vệ, và hiện nay chúng thường nằm ở nơi mà không đội ngũ tuân thủ nào có thể nhìn thấy.

Studio thay đổi mặc định đó. Mỗi tài sản di chuyển qua một lộ trình rõ ràng đến production, từ phiên bản staging sang phiên bản production được gắn nhãn, vì vậy việc phát hành một thay đổi là có chủ đích thay vì ngẫu nhiên.

Một tài sản bắt đầu với trạng thái chỉ người tạo mới thấy được, sau đó khi phù hợp có thể được thúc đẩy vào không gian làm việc và theo thời gian, lan tỏa khắp tổ chức, với quyền kiểm soát ai có thể sử dụng nó ở mỗi bước. Trên mọi chế độ triển khai, dữ liệu của bạn vẫn nằm trong phạm vi bảo mật của bạn.

Hiện đã có sẵn trong Studio.

Prompt và skill hiện đã có sẵn cho khách hàng của Mistral Studio. Nếu bạn vận hành AI trong môi trường sản xuất, Studio sẽ biến các prompt và skill phân tán thành các tài sản được quản trị mà bạn có thể tin tưởng.

Đọc tài liệu:

Tạo các prompt có thể tái sử dụng trong Studio

Tạo các skill có thể tái sử dụng trong Studio

Hoặc khám phá Prompts và Skills trong Studio.