Dùng AI có trách nhiệm: kiểm soát thành kiến trong thương hiệu
Hình ảnh và ngôn ngữ do AI tạo ra có thể rập khuôn mà không ai để ý, và đó là rủi ro uy tín thật sự cho thương hiệu.
AI học từ dữ liệu phản ánh khuôn mẫu xã hội, nên đầu ra của nó thường tái tạo và khuếch đại thành kiến về giới, tuổi, nghề nghiệp, sắc tộc. Trong thương hiệu, điều đó biểu hiện cụ thể qua hình ảnh rập khuôn và ngôn ngữ lệch khỏi tệp khách thật của Anh/Chị. Cách kiểm soát không phải là ngừng dùng AI, mà là đặt bước con người rà soát đầu ra trước khi công bố, và neo vào hiểu biết thật về khách hàng thay vì để mô hình mặc định quyết định.
AI không bịa ra thành kiến từ không khí. Nó học từ lượng lớn dữ liệu con người tạo ra, và dữ liệu đó phản ánh những khuôn mẫu xã hội đã tồn tại từ trước. Kết quả là mô hình tái tạo và thường khuếch đại những khuôn mẫu đó trong đầu ra, bao gồm hình ảnh và ngôn ngữ mà Anh/Chị dùng cho thương hiệu. Không nhận ra điều này là để rủi ro uy tín tích tụ một cách thầm lặng.
Thành kiến xuất hiện như thế nào trong thương hiệu
Thành kiến (bias, tức thiên lệch có hệ thống trong đầu ra) không có dạng lỗi rõ ràng. Nó thường biểu hiện ở những thứ trông có vẻ bình thường:
- Hình ảnh nghề nghiệp: bác sĩ luôn là nam, y tá luôn là nữ, lãnh đạo luôn ở độ tuổi nhất định.
- Hình ảnh khách hàng: ảnh AI tạo mặc định một kiểu diện mạo, độ tuổi, hoặc phong cách sống không phản ánh tệp khách thật của thương hiệu.
- Ngôn ngữ: cách xưng hô, ví dụ minh họa, tình huống được chọn ngầm hướng đến một nhóm và vô tình loại trừ nhóm khác.
Những biểu hiện này xuất phát từ hai nguồn chính: dữ liệu huấn luyện thiếu đại diện đủ các nhóm, và dữ liệu phản ánh định kiến sẵn có trong xã hội chưa được tuyển lọc. Mô hình không cố ý, nhưng hậu quả là có thật.
Rủi ro cụ thể với thương hiệu
Thành kiến trong đầu ra AI không chỉ là vấn đề đạo đức trừu tượng. Với thương hiệu, nó tạo ra hai loại thiệt hại thực tế:
- Thông điệp xa rời tệp khách thật: khi hình ảnh và ngôn ngữ không phản ánh người Anh/Chị thật sự muốn phục vụ, thương hiệu trở nên kém tinh tế và ít kết nối hơn.
- Rủi ro uy tín: nội dung rập khuôn có thể gây phản ứng tiêu cực từ cộng đồng, đặc biệt trong môi trường truyền thông xã hội nơi mọi thứ lan nhanh.
NIST AI Risk Management Framework (Khung quản lý rủi ro AI của NIST) liệt kê tính công bằng, cụ thể là fair with harmful bias managed (công bằng với thành kiến có hại được kiểm soát), là một trong bảy đặc tính của AI đáng tin, xét cùng với độ chính xác, an toàn, minh bạch và bảo vệ riêng tư. Đây không phải tiêu chí tùy chọn.
Khi nào cần rà kỹ hơn
Rà soát kỹ hơn với nhiều góc nhìn cần thiết khi làm hình ảnh người, nội dung nhắm nhiều nhóm khách khác nhau, hoặc chiến dịch công bố rộng. Người rà soát có nền tảng đa dạng sẽ bắt được điểm mù mà người cùng nền tảng thường bỏ qua. Cũng cần kiểm định kỳ khi dùng AI đều đặn, vì thành kiến có thể tích tụ dần mà không ai nhận ra.
Lỗi thường gặp
- Lấy hình ảnh AI tạo trực tiếp mà không để ý nó đang rập khuôn nghề nghiệp, giới tính hay độ tuổi.
- Nghĩ thành kiến là chuyện kỹ thuật của nhà cung cấp mô hình, không liên quan đến người dùng đầu ra.
- Chỉ có một người duyệt cùng nền tảng, cùng góc nhìn, nên bỏ sót những điểm mù về đại diện.
- Không có quy trình kiểm định kỳ, để thiên lệch tích lũy dần trong hình ảnh và giọng thương hiệu theo thời gian.
Góc nhìn của Sinh Vũ
Công bằng trong AI không phải chủ đề học thuật. Đó là chất lượng của thứ khách hàng nhìn thấy.
Nguyên tắc vận hành Sinh Vũ
Với Sinh Vũ, kiểm soát thành kiến là một phần của quy trình, không phải việc làm thêm khi có thời gian. Nguyên tắc vận hành gồm hai điểm cụ thể: thứ nhất, con người rà soát đầu ra AI về thiên lệch trước khi công bố. Thứ hai, mọi quyết định về hình ảnh và ngôn ngữ được neo vào hiểu biết thật về tệp khách, không để mặc định của mô hình thay thế cho sự hiểu biết đó.
Sinh Vũ không tuyên bố loại bỏ hoàn toàn thành kiến, vì không ai làm được điều đó tuyệt đối với các mô hình hiện tại. Điều cam kết được là có bước kiểm và tinh chỉnh có ý thức. Khi AI tham gia vào quyết định ảnh hưởng trực tiếp tới con người, ví dụ tuyển chọn hay phân loại khách hàng, việc này vượt ra ngoài phạm vi thương hiệu và cần chuyên gia phù hợp tham gia.
Nguồn tham khảo
NIST AI Risk Management Framework (AI RMF 1.0), đặc tính fair with harmful bias managed; MDPI Sci, Fairness and Bias in AI: Sources, Impacts, and Mitigation Strategies; Springer, Systematic literature review on bias mitigation in generative AI; kinh nghiệm thực hành Sinh Vũ.
Câu hỏi thường gặp
Thành kiến trong AI là lỗi kỹ thuật của mô hình, người làm thương hiệu có cần lo không?
Đây là quan niệm sai phổ biến. Dù thành kiến xuất phát từ dữ liệu huấn luyện của mô hình, hậu quả lại hiện ra ở đầu ra mà Anh/Chị dùng để công bố. Thương hiệu chịu rủi ro uy tín từ hình ảnh hoặc ngôn ngữ rập khuôn, không phải nhà cung cấp mô hình. Người làm thương hiệu là người kiểm soát khâu cuối, nên trách nhiệm cũng nằm ở đó.
Làm sao biết hình ảnh hoặc nội dung AI tạo ra có đang rập khuôn không?
Cách đơn giản nhất là đặt câu hỏi trực tiếp vào đầu ra: hình ảnh nghề nghiệp có chỉ xuất hiện một giới không, độ tuổi trong ảnh có phản ánh tệp khách thật không, ngôn ngữ có ngầm loại trừ nhóm nào không. Hiệu quả hơn nếu có nhiều hơn một người duyệt, đặc biệt là người có nền tảng khác nhau. Thành kiến thường ẩn ở những điều tưởng như bình thường nên người cùng nền tảng dễ bỏ qua.
Có cần thuê chuyên gia mới làm được điều này không?
Với nội dung và hình ảnh marketing thông thường, Anh/Chị không cần chuyên gia riêng, chỉ cần quy trình rà soát có ý thức trước khi công bố. Tuy nhiên, nếu AI tham gia vào quyết định ảnh hưởng trực tiếp tới con người, ví dụ tuyển chọn hay chấm điểm khách hàng, thì việc này vượt ra ngoài phạm vi thương hiệu và cần chuyên gia phù hợp tham gia.