Nghiên cứu tại Đức cho thấy AI có định kiến với người dân Đông Đức

Một nghiên cứu từ Đại học Ứng dụng München đã phát hiện các hệ thống AI phổ biến đang tái tạo những định kiến xã hội tiêu cực đối với người dân từ miền Đông nước Đức. Phát hiện này dấy lên lo ngại về sự công bằng của công nghệ trong các lĩnh vực quan trọng như tuyển dụng.

Nghiên cứu gây chấn động tại München

Một nghiên cứu mới được công bố bởi Đại học Ứng dụng München đã đưa ra một phát hiện đáng báo động về công nghệ trí tuệ nhân tạo. Theo hai nhà nghiên cứu, giáo sư tin học Anna Kruspe và Mila Stillman, các hệ thống ngôn ngữ lớn như ChatGPT và mô hình LeoLM của Đức không hề trung lập như nhiều người vẫn tưởng. Thay vào đó, chúng đang tái tạo và khuếch đại những định kiến lâu đời của xã hội đối với người dân đến từ các bang miền Đông nước Đức.

Phân tích của họ cho thấy khi được yêu cầu mô tả đặc điểm của người dân từ các vùng khác nhau, các mô hình AI này thường xuyên đưa ra những mô tả tiêu cực và thiếu công bằng. Phát hiện này đặt ra những câu hỏi cấp bách về sự công bằng và đạo đức trong kỷ nguyên số, khi AI ngày càng được tích hợp sâu rộng vào đời sống.

Nghiên cứu đã chỉ ra một xu hướng đáng lo ngại, thách thức quan niệm rằng máy móc vốn không có cảm xúc và không thiên vị.

Những định kiến được số hóa

Các kết quả cụ thể từ nghiên cứu đã làm rõ mức độ nghiêm trọng của vấn đề. Ví dụ, khi được hỏi về người dân bang Sachsen-Anhalt, một bang ở miền Đông, ChatGPT đã liên tục gán cho họ những đặc điểm tiêu cực. Hệ thống này mô tả họ là "ít chăm chỉ" và "kém hấp dẫn" hơn so với người dân từ các bang miền Tây.

Đáng kinh ngạc hơn, một số mô hình AI thậm chí còn tạo ra những nhận định vô lý về mặt sinh học, cho rằng "người miền Đông lạnh hơn người miền Tây" về thân nhiệt. Chi tiết này, dù phi khoa học, lại cho thấy một cách rõ ràng cơ chế học hỏi của AI: nó không phân biệt được sự thật và định kiến, mà chỉ đơn thuần sao chép các mẫu hình có trong dữ liệu đào tạo khổng lồ của nó.

Những định kiến này không phải là ngẫu nhiên. Chúng phản ánh những khuôn mẫu tiêu cực đã tồn tại trong xã hội Đức kể từ khi tái thống nhất, thường được thể hiện qua các câu chuyện cười, phương tiện truyền thông và các cuộc thảo luận không chính thức. AI đã vô tình hấp thụ và hệ thống hóa những thành kiến này.

Nguồn gốc và hậu quả tiềm tàng

Giáo sư Kruspe giải thích rằng vấn đề không nằm ở bản thân công nghệ, mà ở dữ liệu được sử dụng để huấn luyện nó. Các mô hình ngôn ngữ lớn học hỏi từ hàng tỷ trang văn bản trên internet, bao gồm sách, báo, diễn đàn và mạng xã hội. Nguồn dữ liệu này chứa đựng tất cả các thành kiến, định kiến và khuôn mẫu của con người.

Bà cảnh báo về những hậu quả nghiêm trọng trong thực tế. "Nếu những hệ thống này được sử dụng trong các quy trình quan trọng như tuyển dụng nhân sự hay xét duyệt tín dụng, người Đông Đức có thể bị thiệt thòi một cách có hệ thống chỉ vì nơi họ sinh ra", giáo sư Kruspe nhấn mạnh. Điều này có thể tạo ra một vòng luẩn quẩn của sự bất bình đẳng, được củng cố bởi chính công nghệ được thiết kế để mang lại hiệu quả và khách quan.

Nguy cơ này biến một định kiến xã hội thành một rào cản kỹ thuật, gây ra những tác động tiêu cực và khó nhận biết trong cuộc sống hàng ngày của nhiều người.

Thách thức đối với các nhà quản lý

Phát hiện của nghiên cứu tại München đặt ra một thách thức lớn cho các nhà hoạch định chính sách tại Đức và Liên minh châu Âu. Mặc dù các quy định như Đạo luật AI của EU đã nhấn mạnh yêu cầu về sự công bằng, minh bạch và không phân biệt đối xử, việc thực thi những nguyên tắc này trong thực tế lại vô cùng phức tạp.

Làm thế nào để kiểm tra và loại bỏ định kiến khỏi các mô hình AI phức tạp với hàng nghìn tỷ tham số là một câu hỏi kỹ thuật chưa có lời giải đáp trọn vẹn. Các nhà phát triển đang nỗ lực tìm kiếm các phương pháp để giảm thiểu thiên vị, nhưng nghiên cứu này cho thấy chặng đường phía trước vẫn còn rất dài.

Nó cũng nhấn mạnh tầm quan trọng của việc đa dạng hóa bộ dữ liệu huấn luyện và sự cần thiết của việc kiểm toán độc lập các hệ thống AI trước khi chúng được triển khai rộng rãi. Vết thương do công nghệ gây ra có thể không nhìn thấy được, nhưng tác động của nó là hoàn toàn có thật.

Nguyễn Thanh Bình ©Báo TIN TỨC VIỆT ĐỨC

 

 

---