Từ đó, tất cả cuộc sống và số phận của mỗi công dân Trung Quốc sẽ phụ thuộc vào kết quả xếp hạng mà chỉ chính phủ mới là người có quyền đưa ra “thuật toán” chấm điểm.
Vào ngày 14 tháng 6 năm 2014, Hội đồng Nhà nước Trung Quốc đã công bố một tài liệu gây xôn xao dư luận có tên “Đề cương kế hoạch xây dựng Hệ thống tín nghiệm xã hội”.
Cũng giống như những tài liệu về chính sách khác của Trung Quốc về mức độ dài dòng và nhàm chán, nhưng ẩn sau văn kiện này là một ý tưởng đầy tham vọng và cực đoan. Người ta bắt đầu đặt câu hỏi, điều gì sẽ xảy ra nếu tồn tại một hệ thống chấm điểm để phân loại người dân?
Những thử nghiệm đầu tiên
Cho tới hiện tại, việc tham gia vào hệ thống Chấm điểm công dân (SCS) của Trung Quốc đang là tự nguyện. Nhưng đến năm 2020 thì tất cả mọi người sẽ buộc phải tham gia. Mọi hành vi của công dân và pháp nhân ở đất nước này sẽ được đánh giá dù muốn hay không.
Theo trang wired của Anh, Chính phủ Trung Quốc đã cấp phép cho 8 công ty tư nhân cung cấp hệ thống và các thuật toán tính điểm tín nhiệm xã hội. Người ta đoán rằng các công ty với hệ thống dữ liệu khổng lồ này đang chạy thử các đề án tiền đề cho hệ thống chấm điểm trong tương lai.
Đầu tiên là China Rapid Finance, một đối tác của tập đoàn mạng xã hội Tencent và là nhà phát triển ứng dụng tin nhắn WeChat với hơn 85 triệu người sử dụng. Một dự án khác là Sesame Credit, được điều hành bởi Tập đoàn Dịch vụ Tài chính Ant (AFSG) – một công ty con của Alibaba. AFSG sở hữu ứng dụng Alipay, không chỉ để thanh toán trực tuyến mà còn có thể sử dụng cho dịch vụ ăn uống, đi lại, trả học phí, mua vé xem phim, chuyển tiền…
Mọi hành vi của công dân và pháp nhân ở đất nước này sẽ được đánh giá dù muốn hay không. (Ảnh: wired.co.uk)
Sesame Credit cũng hợp tác với Didi Chuxing, một công ty cung cấp dịch vụ gọi xe và là đối thủ chính của Uber tại Trung Quốc trước khi thâu tóm Uber ở nước này vào năm 2016. Sesame Credit cũng là đối tác của Baihe, dịch vụ mai mối trực tuyến lớn nhất nước này. Có thể thấy, Sesame Credit có khả năng tiếp cận nguồn dữ liệu khổng lồ để đánh giá hành vi của người dùng và dựa vào đó xếp hạng họ.
Phía Alibaba không tiết lộ thuật toán mà công ty này sử dụng để tính toán các con số nhưng có công bố năm nhân tố được dùng để đánh giá.
Đầu tiên là lịch sử tín dụng, ví dụ như người dân này có lịch sử thanh toán tiền điện đúng hạn hay không. Tiếp theo là mức độ hoàn thành nghĩa vụ. Thứ ba là đặc điểm cá nhân như thông tin về số điện thoại hoặc địa chỉ nhà. Nhân tố thứ tư là hành vi, sở thích. Theo nhân tố này, thói quen mua sắm của một người cũng có thể trở thành công cụ để xác định đặc điểm tính cách và cả nhân cách. Li Yingyun, Giám đốc Công nghệ của Sesame cho biết: “Một người chơi điện tử 10 tiếng một ngày sẽ bị coi là một kẻ vô công rồi nghề. Còn nếu ai đó thường xuyên mua tã thì đó chắc chắn là một bà mẹ đang nuôi con nhỏ và là một người có trách nhiệm”.
Như vậy, hệ thống chấm điểm sẽ không chỉ theo dõi hành vi con người mà còn có thể hình thành hành vi của họ. Vì nó khiến người dân dần từ bỏ những hành vi và thói quen mua sắm mà bị đánh giá không tốt theo cách nhìn nhận của chính phủ, hoặc đơn giản là những hành vi mà chính phủ không thích, hay cho là có nguy cơ đe dọa tới an ninh quốc gia…
Nhân tố thứ năm để đánh giá là mối quan hệ cá nhân. Cách mọi người lựa chọn bạn bè trên mạng và sự tương tác của họ có thể cho biết nhiều điều về con người họ. Việc chia sẻ những gì mà Sesame Credit cho là “tích cực” trên mạng như các thông điệp tốt đẹp về chính phủ và khen ngợi nền kinh tế nước nhà có thể sẽ giúp nâng cao xếp hạng tín nhiệm của bạn.
Tất cả những ai tham gia Sesame Credit được đánh giá trên thang điểm từ 350 đến 950. Nếu đạt 600 điểm trở lên, người dùng có thể vay một khoản tiền lên đến 5.000 Nhân dân tệ để mua sắm trên mạng, miễn là mua đồ của Alibaba. Đạt 650 điểm, họ có thể được thuê ô tô mà không cần thế chấp. Họ cũng sẽ được làm thủ tục nhận phòng nhanh hơn tại khách sạn, sử dụng khu vực dành cho khách VIP tại sân bay quốc tế Bắc Kinh. Những ai có hơn 666 điểm có thể vay 50.000 Nhân dân tệ tiền mặt, tất nhiên là từ AFSG. Nếu đạt trên 700 điểm thì có thể đăng ký đi du lịch Singapore mà không cần giấy tờ hỗ trợ. Và với mức điểm 750, hồ sơ xin thị thức vào châu Âu của họ sẽ được ưu tiên làm nhanh.
Sesame Credit đang ngày càng kéo người dùng phụ thuộc sâu vào hệ sinh thái của Alibaba, cho phép gã khổng lồ này có thể tự “đặt luật chơi” và hướng người dùng theo những mục tiêu mà họ muốn. (Ảnh: genk.vn)
Hiện tại Alibaba vẫn quả quyết rằng việc bạn đăng bất cứ điều gì lên phương tiện truyền thông xã hội đều không ảnh hưởng đến điểm số. Nhưng họ rõ ràng là có cơ hội cũng như điều kiện để làm thế và nếu hệ thống tính điểm công dân của chính phủ được chính thức ra mắt năm 2020, ai cũng có thể dễ dàng suy luận được ra cách Sesamse sẽ thực hiện để hỗ trợ hệ thống này với kho dữ liệu khổng lồ của mình. Và cũng thật khó tin rằng chính phủ sẽ không muốn chiết xuất dữ liệu tối đa từ chương trình thí điểm này để dùng cho SCS.
Những hệ lụy có thể dự báo được
Chỉ trong vòng vài tháng sau khi ra mắt hệ thống, đã có tới gần 100.000 người khoe điểm số của họ trên trang Weibo (tương tự như Twitter tại Trung Quốc). Có vẻ như điểm số đã bắt đầu trở thành một biểu tượng của địa vị tại đất nước này. Thậm chí điểm số của một người có thể ảnh hưởng tới khả năng hẹn hò của họ, bởi vì xếp hạng Sesame của họ càng cao thì hồ sơ hẹn hò của họ càng nổi bật trên trang Baihe. Thậm chí Sesame Credit đã đưa ra các mẹo để giúp mọi người cải thiện xếp hạng của họ, bao gồm cảnh báo về những nhược điểm của việc kết bạn với người có điểm thấp. Chưa bao giờ quyền tự do cá nhân cơ bản và khó chi phối nhất như tình yêu cũng lại bị dẫn dắt một cách tinh vi như vậy.
Và sự nguy hiểm khác của hệ thống này còn ở chỗ, điểm số của mỗi một người sẽ bị ảnh hưởng bởi cả những gì bạn bè trên mạng của họ phát ngôn và phản ứng ra. Nếu bạn bè của bạn đăng một bình luận tiêu cực về nhà nước thì điểm số của họ và cả của chính bạn cũng sẽ bị đánh tụt. Người ta sẽ có xu hướng phán xét và trách cứ nhau hơn vì điều này. Họ sẽ đưa ra những lời khuyên cho bạn bè mình rằng nên làm gì hay không nên làm gì, vì nó có thể sẽ ảnh hưởng tới quyền lợi trực tiếp của họ. Mọi người sẽ không còn nhiều niềm tin cho nhau và cho xã hội, ai ai cũng sẽ dùng con mắt soi mói, dò xét để nhìn từng hành vi của người khác trên mạng và tự cho mình quyền điều khiển hành vi của người khác thông qua những “lời khuyên”.
Và một hệ lụy khác có thể dễ dàng nhìn ra là sự hình thành thị trường chợ đen để mua điểm tin cậy, giống như cách người ta mua lượt “yêu thích” (likes) trên mạng xã hội Facebook và lượng “người theo dõi” (followers) trên Twitter hiện nay. Sự giả dối sẽ được ngầm ủng hộ trong xã hội.
Trong một chuyến xuống phố phỏng vấn người dân ở Bắc Kinh vào tháng 10 năm 2015, đài BBC đã hỏi người dân về xếp hạng của họ trên Sesame Credit. Hầu hết đều khen ngợi hết lời. Nhưng vấn đề là ai lại dám công khai chỉ trích hệ thống đó chứ? Bởi điểm của họ sẽ bị đánh tụt ngay thôi.
Hệ lụy khác có thể dễ dàng nhìn ra là sự hình thành thị trường chợ đen để mua điểm tin cậy. (Ảnh: eeontrack.com)
Từ khen thưởng rồi tới cả xử phạt
Hiện tại, Sesame chưa trực tiếp phạt người tiêu dùng vì “không đáng tin cậy”, bởi hiện tại thì khen thưởng cho hành vi tốt là cách kiểm soát hiệu quả hơn. Nhưng Hu Tao, Giám đốc quản lý của Sesame cảnh báo rằng, hệ thống được thiết kế để “những người không đáng tin cậy không thể thuê xe, không thể vay tiền hoặc thậm chí không tìm được việc làm”. Cô còn tiết lộ rằng Sesame đã tiếp cận Bộ Giáo dục Trung Quốc bằng cách chia sẻ danh sách sinh viên đã gian lận trong các kỳ thi quốc gia, khiến họ phải trả giá trong tương lai vì sự không trung thực của mình.
Nhưng có thể các hình phạt sẽ được thêm vào đáng kể, theo bất kỳ chiều hướng và mức độ nào mà chính phủ muốn khi hệ thống bắt đầu có hiệu lực vào năm 2020. Trên thực tế, vào ngày 25 tháng 9 năm 2016, Hội đồng Nhà nước đã cập nhật “Cơ chế cảnh báo và trừng phạt đối với những người có độ tin cậy thấp”. Với nguyên tắc rất đơn giản: “Nếu độ tin cậy bị phá vỡ chỉ ở một nơi thì các giới hạn sẽ bị áp dụng ở khắp mọi lĩnh nơi”.
Ví dụ: Những người có xếp hạng thấp sẽ bị dùng tốc độ Internet chậm hơn, hạn chế sử dụng các nhà hàng, câu lạc bộ đêm hoặc sân gôn, bị tước quyền ra nước ngoài tự do đi kèm với việc hạn chế kiểm soát tiêu dùng trong các khu nghỉ dưỡng và dịch vụ du lịch. Điểm số sẽ ảnh hưởng tới khả năng được mua bảo hiểm hoặc nhận một khoản vay thậm chí cả phúc lợi xã hội. Những ai có điểm số thấp sẽ không được tuyển dụng bởi một số công ty nhất định và bị cấm làm một số công việc như trong lĩnh vực dân sự, báo chí và pháp lý. Đó chỉ là suy luận nhưng khả năng để nó trở thành hiện thực là không hề vô căn cứ. Bởi theo tài liệu của chính phủ, hệ thống SCS sẽ “cho phép người đáng tin cậy được đi khắp nơi trong khi những người ít tin cậy sẽ rất khó đi lại tự do”.
Trên thực tế, vào tháng 2 năm 2017, Toàn án Nhân dân tối cao Trung Quốc tuyên bố rằng đã có 6,15 triệu công dân bị cấm lên các chuyến bay trong bốn năm qua vì có hành vi phạm tội xã hội. Lệnh cấm này như một bước tiến gần hơn tới việc lập danh sách đen trong hệ thống SCS. Meng Xiang, người đứng đầu bộ phận hành pháp của Tòa án tối cao cho biết: “Chúng tôi đã ký một bản ghi nhớ với hơn 44 cơ quan chính phủ để hạn chế những người bất tín nhiệm ở nhiều cấp độ. 1,65 triệu người khác cũng đã bị liệt vào danh sách đen không được phép đi tàu hỏa”.
Thuật toán đang dần phán xét và đánh giá chúng ta thay cho các tiêu chuẩn đạo đức truyền thống
Trong trường hợp hệ thống này thực sự trở thành hiện thực, đây sẽ là cơn ác mộng của người dân Trung Quốc, và đất nước này sẽ thật sự biến thành “Đấu trường sinh tử” khi con người phải dè chừng mọi hành động có thể được lưu lại, soi xét người khác, không tin tưởng nhau và sống giả dối chỉ để có được lợi ích hoặc tránh bị tổn hại từ hệ thống chấm điểm.
Trong cuốn sách 1984 của nhà văn người Anh George Orwell, ông mô tả một quốc gia độc tài hậu tận thế, ở đó chính quyền kiểm soát cả cảm xúc và suy nghĩ của người dân thông qua hệ thống “Big Brother” (tạm dịch: Anh cả). Hệ thống chấm điểm công dân của Trung Quốc nếu trở thành sự thật, có thể sẽ giống như “Big Brother” và câu chuyện viễn tưởng sẽ không còn là viễn tưởng nữa.
Thật ra sự nguy hiểm của công nghệ đã đang đe dọa chúng ta từ lâu. Vào năm 2015, Tổ chức Hợp tác và Phát triển Kinh tế (OECD) đã công bố một nghiên cứu cho biết, cứ 100 người dân thì có ít nhất 24,9 thiết bị được kết nối. Tất cả các công ty kiểm soát dữ liệu lớn phát ra từ những thiết bị này sẽ tìm hiểu về cuộc sống và mong muốn của chúng ta và dự đoán cách chúng ta hành động. Năm 2015, Cục Quản lý An ninh Vận tải Hoa Kỳ cũng đã đề xuất ý tưởng mở rộng nền tảng kiểm tra PreCheck bao gồm cả hồ sơ trên mạng xã hội, dữ liệu về vị trí và lịch sử mua hàng. Ý tưởng này đã bị chỉ trích rất nặng nề nhưng có vẻ như nó không hề dừng lại, nó đã đang dần thành hiện thực ở Trung Quốc.
Hệ thống chấm điểm công dân của Trung Quốc nếu trở thành sự thật, có thể sẽ giống như “Big Brother” và câu chuyện viễn tưởng sẽ không còn là viễn tưởng nữa. (Ảnh: spiderum.com)
Con người đang sống trong một thế giới mà các thuật toán là thứ đánh giá để xác định xem chúng ta có phải là mối đe dọa hay rủi ro cho cộng đồng hay chính phủ hay không. Cuộc đời chúng ta không phải được quyết định bởi số phận nữa mà là bởi hệ thống chấm điểm không hoàn chỉnh và phiến diện. Chúng ta đang bước vào thời đại mà hành động của một cá nhân sẽ bị đánh giá theo các tiêu chuẩn mà họ không thể kiểm soát và sự phán xét là không thể đảo ngược. Hậu quả là không chỉ trong chốc lát mà là vĩnh viễn.
Sẽ ra sao khi sự riêng tư và tự do ngôn luận bị bào mòn?
Một cơ chế trên danh nghĩa thực hiện công bằng nhưng lại được điều hành bởi sự độc quyền và thiếu công bằng của một thế lực hay chính phủ nào đó sẽ đảm bảo vận hành đúng được hay không? Và trên hết là đạo đức con người lại được đánh giá bằng thuật toán thiếu linh hoạt và khả năng suy xét không toàn diện, một sự thụt lùi đáng sợ của nhân loại?
Bên cạnh sự lo lắng của đa phần người dân khi nghe tới hệ thống chấm điểm công dân của Trung Quốc, cũng có những ý kiến đồng ý với luận điểm rằng vậy thì những người “kém cỏi” hãy cố gắng để trở thành “tốt giỏi”. Mọi người nên cố gắng giành điểm bằng chính hành vi tốt. Chính việc kỳ thị điểm thấp lại là động lực để mọi người hoàn thiện bản thân, loại bỏ những thói quen không tốt. Nhưng vấn đề không chỉ dừng lại ở đó, hệ thống này cho phép nuôi dưỡng sự phán xét, đố kỵ, hiển thị, giả dối, coi trọng vật chất, hưởng thụ, kích động con người bảo vệ và đặt lợi ích bản thân lên trên lợi ích của người khác.
Hành vi của cả một xã hội lại bị tiêu chuẩn hóa và định hướng theo những người viết thuật toán, mà những người đó chưa hẳn đã thuật toán hóa được thước đo đạo đức chuẩn mực nhất. Bên cạnh cái lý còn có cái tình, còn có những phán đoán, suy luận và cảm nhận mà chỉ có con người mới có thể có được. Và quan trọng nhất là chúng ta sống không phải vì để làm hài lòng người khác!
Nguồn: Thu Hiền
DKN.TV
- Báo điện tử tại Đức từ năm 1995 -
TIN NHANH | THỰC TẾ | TỪ NƯỚC ĐỨC
Căng thẳng tại biên giới Nga: Mỹ kích hoạt căn cứ quân sự mới 
Giới trẻ xếp hàng từ 4 giờ sáng đi săn mây, ngắm hoa dã quỳ 
Chủ nhà bị cảnh sát bắn chết khi chống trả kẻ xâm nhập 
Nga cấm cho con nuôi tới các nước hợp pháp hóa chuyển giới 
Sai lầm Nga nhiều lần mắc phải khiến binh sĩ bị thương vong 
Pháp bật đèn xanh để Ukraine bắn vũ khí viện trợ vào sâu lãnh thổ Nga