Image Credits: Bryce Durbin / TechCrunch
Công ty quảng cáo sáng tạo McKinney đã phát triển một trò chơi trắc nghiệm có tên là “Bạn có sáng tạo hơn ChatGPT không?” để đưa ra vấn đề về độ thiên vị của AI.
Trò chơi này kiểm tra kiến thức của một người về văn hóa của cộng đồng người da màu so với những gì ChatGPT đã được huấn luyện để biết về cộng đồng người da màu. Nó đặt ra các câu hỏi như, “Có nghĩa là gì khi ai đó nói, ‘Đừng quá nặng tay với họ, nhé’?” và “Phản ứng của bạn khi được mời tham gia một sự kiện là gì?” Khi tôi thử làm bài kiểm tra, cả ChatGPT và tôi đều trả lời đúng câu hỏi đầu tiên - khi ai đó nói “đừng quá nặng tay với họ”, điều đó thường có nghĩa là hãy nhẹ nhàng với họ. Nhưng ChatGPT đã thất bại khi đến câu hỏi thứ hai. Khi ai đó mời bạn tham gia một sự kiện, phản ứng tiêu chuẩn trong cộng đồng người da màu là, “Ai khác cũng sẽ tham gia chứ?” Nhưng ChatGPT lại trả lời là, “Cảm ơn đã mời!”.
“Điều thú vị là nó được quảng cáo như một bot biết mọi thứ, và rõ ràng, nó không biết mọi thứ, đặc biệt là khi nói đến những thứ không phải là đặc trưng của người da trắng,” Meghan Woods, một nhà viết quảng cáo tại McKinney và là một trong những người sáng tạo ra trò chơi, đã nói với TechCrunch.
Woods cho biết ý tưởng cho bài kiểm tra đã xuất hiện vào năm ngoái trong một buổi não bộ sáng tạo tại McKinney. Mất một năm cho Woods và một nhóm do người da màu lãnh đạo để tạo ra sản phẩm này, với mục đích một cách tinh nghịch chỉ ra cách ChatGPT không hiểu người dùng da màu. Cô chỉ ra rằng một điểm mù cho ChatGPT dường như xuất phát từ việc rất nhiều yếu tố văn hóa của người da màu không nhất thiết được ghi lại trực tuyến. Thay vào đó, chúng được truyền lại trực tiếp hoặc bằng lời qua các thế hệ. Điều này có nghĩa là thuật toán của nó bỏ sót rất nhiều chi tiết mịn khi lấy thông tin về người da màu từ internet.
“Các điểm mù có thể gây ra sự bất bình,” Woods nói. “Điều đó khá nguy hiểm.”
Một ví dụ về việc ChatGPT trả lời sai về một điều thường gặp trong cộng đồng người da màu. Image Credits: McKinney / Ảnh chụp màn hình
AI có thể đang trên một chuỗi thành công, nhưng phụ nữ, những người da đen và da nâu và những người sáng lập trong lĩnh vực này đã từ lâu nói về việc bị bỏ qua hoặc đẩy ra xa. Kết quả là sự đổi mới AI đang được xây dựng mà không có sự hiểu biết văn hóa và sự phức tạp mà sẽ làm cho nó phù hợp với các nền văn hóa khác nhau. Ở mức độ cực đoan nhất, sự thiếu đa dạng có nghĩa là xe hơi được phát triển bằng AI không thể phát hiện da đen, dẫn đến một số tai nạn tăng lên. Ở phía cuối cùng, nó chỉ đơn giản là một hộp thoại không thể phân biệt giữa một bài hát của Whitney Houston và một bài hát khác.
Gerald Carter, người sáng lập của Destined AI, một công ty giúp phát hiện và giảm thiểu độ thiên lệch của AI, cho biết bài kiểm tra của McKinney đã làm tốt việc biến đổi và nâng cao nhận thức về những khoảng trống này của AI. “Rất nhiều sắc thái có thể được giải quyết bằng cách bao gồm các góc nhìn đa dạng ở mọi cấp độ,” anh nói. “Để AI đạt đến tiềm năng tối đa, nó cần phải hoạt động cho mọi người, mọi nơi.”
Công ty mẹ của ChatGPT, OpenAI, đã nhận được sự chỉ trích vì thiếu đa dạng trong ban lãnh đạo của mình. Woods nói rằng dường như ChatGPT cũng không học hỏi từ bài kiểm tra, dựa trên việc nó tiếp tục trả lời sai cùng một câu trả lời trong nhiều trường hợp. “Giả thuyết của chúng tôi là nó sẽ không bao giờ có thể hiểu đầy đủ nhiều điều chúng tôi hỏi.”
Chúng tôi đã liên hệ với OpenAI để nhận xét và sẽ cập nhật bài viết này khi nhận được phản hồi.
Carter nói rằng ChatGPT có thể hoạt động tốt hơn cho nhiều nền văn hóa với nguồn dữ liệu tốt hơn và việc thu thập dữ liệu đa dạng hơn. Một cách tiếp cận trực tiếp hơn là giám sát sự thay đổi của mô hình AI và cải tiến bằng cách sử dụng các công cụ tập trung vào góc nhìn văn hóa.
Trong khi các công ty lớn đang làm việc để làm cho AI hữu ích cho mọi người, những người xây dựng da đen và da nâu trong lĩnh vực này đã tự lấy quyền kiểm soát để đảm bảo làn sóng AI tiếp theo sẽ đa dạng.
Ví dụ, Carter làm việc với các công ty để giúp họ tìm kiếm dữ liệu đa dạng hơn. Erin Reddick đã tạo ra ChatBlackGPT (không liên quan đến OpenAI) để cung cấp cái nhìn sâu hơn vào văn hóa và lịch sử của người da màu, và Tamar Huggins đã gây quỹ 1,4 triệu đô la cho phương thức thay thế ChatGPT của mình, được gọi là Spark Plug, dịch các văn bản văn học cổ điển thành tiếng Anh Vernacular của người Mỹ gốc Phi (AAVE).
“Việc tuyển dụng, giữ chân, đảm bảo rằng mọi người đều có mặt trong phòng họp,” Woods nói, về những gì cần làm thêm để làm cho AI thêm đa dạng. “Tôi biết nó nghe có vẻ sáo rỗng, nhưng tôi nghĩ rằng điều đó có thể bắt đầu tạo ra tác động.”