    |
 |
| Các công cụ Ai như ChatGPT có thể hữu ích nếu được sử dụng đúng cách - Ảnh: Getty Images/ Sopa Images/Lightrocket |
Các “đại gia” trong lĩnh vực trí thông minh nhân tạo (AI) trị giá hàng tỉ USD đào tạo thuật toán của họ dựa trên lượng dữ liệu khổng lồ được lấy chủ yếu từ internet.
Dù vậy, kết quả đầu ra do AI thực hiện thường bị chỉ trích vì phản ánh định kiến về chủng tộc và phân biệt giới tính, cũng như sử dụng sai tài liệu có bản quyền khi không được phép.
Các chuyên gia của UNESCO đã thử nghiệm thuật toán Llama 2 của Meta cũng như GPT-2 và GPT-3.5 của OpenAI, chương trình hỗ trợ phiên bản miễn phí của chatbot phổ biến ChatGPT.
Nghiên cứu cho thấy, mỗi thuật toán - được biết đến trong ngành như Mô hình ngôn ngữ lớn (LLM) - đều cho thấy "bằng chứng rõ ràng về thành kiến đối với phụ nữ".
Các chương trình tạo ra văn bản liên kết tên phụ nữ với các từ như "nhà", "gia đình" hoặc "con cái", nhưng tên của nam giới được liên kết với "kinh doanh", "tiền lương" hoặc "sự nghiệp".
Trong các đoạn văn do AI tạo nên, đàn ông đảm nhận những công việc có địa vị cao như giáo viên, luật sư và bác sĩ. Ngược lại, phụ nữ thường bị cho làm gái mại dâm, đầu bếp hoặc người giúp việc gia đình.
GPT-3.5 được cho là ít sai lệch hơn so với 2 mô hình còn lại. Tuy nhiên, các tác giả vẫn ca ngợi Llama 2 và GPT-2 là nguồn mở, cho phép xem xét kỹ lưỡng những vấn đề này, không giống như GPT-3.5, là một mô hình đóng.
Leona Verdadero - chuyên gia về chính sách kỹ thuật số của UNESCO - nói với hãng tin AFP rằng, các công ty AI “thực sự không phục vụ tất cả người dùng của họ”.
Tổng giám đốc UNESCO Audrey Azoulay cho biết, mọi người ngày càng sử dụng nhiều các công cụ AI trong cuộc sống hàng ngày.
“Các ứng dụng AI mới này có khả năng định hình một cách tinh tế nhận thức của hàng triệu người. Do đó, ngay cả những thành kiến nhỏ về giới tính trong nội dung của chúng cũng có thể khuếch đại đáng kể sự bất bình đẳng trong thế giới thực” - bà Azoulay nói.
UNESCO công bố báo cáo nhân Ngày Quốc tế phụ nữ. đồng thời khuyến nghị các công ty AI thuê thêm phụ nữ và người thiểu số. UNESCO cũng kêu gọi các chính phủ đảm bảo phát triển và sử dụng AI một cách có đạo đức thông qua các quy định chặt chẽ.
Theo phụ nữ TPHCM