Ngày 7 tháng 11 năm 2024, Mistral AI đã ra mắt API kiểm duyệt, mang đến một giải pháp mới nhằm kiểm duyệt nội dung trực tuyến với sự hỗ trợ của trí tuệ nhân tạo. API này, được vận hành bởi các mô hình ngôn ngữ tiên tiến của Mistral, được thiết kế để nhận diện và lọc nội dung có khả năng gây hại trong nhiều nhóm, gồm ngôn từ thù ghét, quấy rối, dữ liệu cá nhân, nội dung tình dục và bạo lực. Các tính năng của mô hình cho phép phân tích chính xác theo thời gian thực bằng nhiều ngôn ngữ, trong đó có tiếng Anh và tiếng Pháp, nên đặc biệt phù hợp với các doanh nghiệp châu Âu ưu tiên tuân thủ luật bảo mật dữ liệu.

Với lần ra mắt này, Mistral muốn cạnh tranh với các công cụ kiểm duyệt tương tự của OpenAI và những công ty AI khác bằng cách hỗ trợ mạnh mẽ sự đa dạng ngôn ngữ và khả năng tùy chỉnh cao cho từng trường hợp sử dụng. Việc API áp dụng mô hình tính phí theo mức sử dụng giúp nó phù hợp với nhiều ngành, bao gồm nền tảng mạng xã hội, nền tảng giáo dục và dịch vụ liên lạc doanh nghiệp. Mục tiêu là nâng cao năng lực kiểm duyệt của các nền tảng này và giúp họ quản lý nội dung do người dùng tạo một cách có trách nhiệm. Sự kiện này phản ánh nỗ lực rộng lớn hơn của Mistral trong việc thúc đẩy các giải pháp AI an toàn, đa ngôn ngữ nhằm giải quyết những thách thức về nội dung trong không gian số ngày càng toàn cầu hóa.