Chuyên gia thúc đẩy sự cân bằng giữa kiểm duyệt và tuân thủ đạo đức công nghệ

Trong khi các công ty truyền thông xã hội chỉ trích người mà họ chọn cấm, các chuyên gia đạo đức công nghệ cho biết chức năng quan trọng hơn mà các công ty này kiểm soát diễn ra ở hậu trường trong những gì họ khuyến nghị.

Kirsten Martin, giám đốc Trung tâm Đạo đức Công nghệ Notre Dame (ND TEC), lập luận rằng việc tối ưu hóa các đề xuất dựa trên một yếu tố duy nhất—sự tương tác—là một quyết định vốn đã có giá trị.

Bản chất con người có thể bị mê hoặc và bị lôi cuốn bởi nội dung phân cực nhất—chúng ta không thể rời mắt khỏi một vụ đắm tàu ​​hỏa. Nhưng vẫn có giới hạn. Các nền tảng truyền thông xã hội như Facebook và Twitter liên tục đấu tranh để tìm sự cân bằng phù hợp giữa tự do ngôn luận và điều độ, cô ấy nói.

“Có một điểm mà mọi người rời khỏi nền tảng,” Martin nói. “Nội dung hoàn toàn không được kiểm duyệt, trong đó bạn có thể nói nội dung khủng khiếp như bạn muốn, có lý do khiến mọi người không đổ xô vào nội dung đó. Bởi vì mặc dù nó giống như một vụ đắm tàu ​​hỏa khi chúng tôi nhìn thấy nhưng chúng tôi không muốn bị ngập trong nội dung đó.” lúc nào cũng vậy. Tôi nghĩ có một sự phản kháng tự nhiên.”

Những thay đổi gần đây của Elon Musk tại Twitter đã biến cuộc tranh luận này từ một bài tập học thuật thành một trường hợp thử nghiệm thời gian thực. Martin có thể đã nghĩ rằng câu hỏi liệu có nên cấm Donald Trump là trọng tâm hay không, Martin nói. Một giám đốc điều hành duy nhất có thể quyết định một lệnh cấm, nhưng việc chọn những gì để khuyến nghị cần có công nghệ như thuật toán và trí tuệ nhân tạo—và con người để thiết kế và vận hành nó.

Martin nói: “Điều khác biệt hiện nay với Twitter là loại bỏ tất cả những người thực sự đã làm điều đó. “Thuật toán kiểm duyệt nội dung chỉ tốt như những người đã gắn nhãn nó. Nếu bạn thay đổi những người đang đưa ra các quyết định đó hoặc nếu bạn loại bỏ họ, thì thuật toán kiểm duyệt nội dung của bạn sẽ trở nên lỗi thời và khá nhanh chóng.”

Martin, một chuyên gia về quyền riêng tư, công nghệ và đạo đức kinh doanh và Giáo sư Đạo đức Công nghệ của Trung tâm William P. và Hazel B. White tại Trường Cao đẳng Kinh doanh Mendoza, đã phân tích kỹ lưỡng việc quảng bá nội dung. Cảnh giác với những lời chỉ trích thông tin sai lệch trực tuyến trước năm 2016 bầu cử tổng thốngCô ấy nói, các công ty truyền thông xã hội đã đưa ra các biện pháp bảo vệ mới về những nội dung và nhóm nào sẽ được đề xuất trong thời gian chuẩn bị cho cuộc bầu cử năm 2020.

Facebook và Twitter đã chủ động kiểm duyệt nội dung một cách có ý thức nhưng đã dừng lại sau khi các cuộc thăm dò kết thúc. Martin nói rằng Facebook “nghĩ rằng cuộc bầu cử đã kết thúc” và biết các thuật toán của nó đang khuyến nghị nhóm ghét nhưng không dừng lại vì “loại tài liệu đó đã thu hút rất nhiều người tham gia.” Với hơn 1 tỷ người dùng, tác động rất sâu sắc.

Martin đã viết một bài báo về chủ đề này trong một cuốn sách nghiên cứu tình huống (“Đạo đức của dữ liệu và phân tích“), cô ấy đã chỉnh sửa, xuất bản vào năm 2022. Trong “Đề xuất một cuộc nổi dậy: Facebook và các thuật toán đề xuất”, cô ấy lập luận rằng Facebook đã đưa ra các quyết định có ý thức để ưu tiên mức độ tương tác vì đó là thước đo thành công mà họ đã chọn.

“Mặc dù việc gỡ xuống một tài khoản có thể trở thành tiêu đề, nhưng việc quảng cáo và đề xuất nội dung một cách tinh tế đã thúc đẩy sự tương tác của người dùng”, cô viết. “Và, như Facebook và các nền tảng khác đã phát hiện ra, sự tham gia của người dùng không phải lúc nào cũng tương ứng với nội dung tốt nhất.” Bản tự phân tích của Facebook cho thấy công nghệ của họ dẫn đến thông tin sai lệch và cực đoan hóa. Vào tháng 4 năm 2021, một báo cáo nội bộ tại Facebook cho thấy rằng “Facebook đã thất bại trong việc ngăn chặn một phong trào có ảnh hưởng sử dụng nền tảng của mình để làm mất tính hợp pháp của cuộc bầu cử, khuyến khích bạo lực và giúp kích động bạo loạn ở Điện Capitol.”

Một câu hỏi trọng tâm là liệu vấn đề là do lỗi của nền tảng hay người dùng nền tảng. Martin nói rằng cuộc tranh luận này trong triết lý công nghệ giống như cuộc xung đột về súng, trong đó một số người đổ lỗi cho súng và những người khác đổ lỗi cho những người sử dụng chúng để gây hại. Cô nói: “Hoặc công nghệ là một bảng trống trung lập, hoặc ở đầu kia của quang phổ, công nghệ quyết định mọi thứ và gần như tự phát triển. “Dù bằng cách nào, công ty đang quản lý công nghệ xác định này hoặc đổ lỗi cho người dùng, công ty thực sự thiết kế nó thực sự không có trách nhiệm gì.

“Đó là điều tôi muốn nói khi nói các công ty che giấu đằng sau điều này, gần như nói rằng, ‘Cả quá trình đưa ra quyết định và cả bản thân quyết định đều được đóng hộp đen hoặc rất trung lập nên tôi không chịu trách nhiệm về bất kỳ thiết kế hoặc kết quả nào của nó. ‘” Martin bác bỏ cả hai tuyên bố.

Một ví dụ minh họa cho niềm tin của cô ấy là việc Facebook khuyến khích những người dùng siêu đẳng, những người đăng tài liệu liên tục. Công ty đã khuếch đại những người dùng cấp cao vì điều đó đã thúc đẩy sự tương tác, ngay cả khi những người dùng này có xu hướng đưa vào nhiều ngôn từ kích động thù địch hơn. Hãy nghĩ về các trang trại troll của Nga. Các kỹ sư máy tính đã phát hiện ra xu hướng này và đề xuất giải quyết nó bằng cách điều chỉnh thuật toán. Các tài liệu bị rò rỉ đã chỉ ra rằng cửa hàng chính sách của công ty đã bác bỏ các kỹ sư vì họ sợ ảnh hưởng đến cam kết. Ngoài ra, họ sợ bị buộc tội thiên vị chính trị vì các nhóm cực hữu thường là những người dùng siêu hạng.

Một ví dụ khác trong sách giáo khoa của Martin kể về một tài xế Amazon bị sa thải sau bốn năm giao các gói hàng quanh Phoenix. Anh ấy nhận được một email tự động vì các thuật toán theo dõi hiệu suất của anh ấy “đã quyết định rằng anh ấy đã không làm đúng công việc của mình.”

Công ty nhận thức được rằng việc giao quyền quyết định sa thải cho máy móc có thể dẫn đến sai lầm và gây tổn hại cho các tiêu đề, “nhưng quyết định tin tưởng vào các thuật toán sẽ rẻ hơn là trả tiền cho mọi người để điều tra các vụ sa thải nhầm miễn là có thể thay thế trình điều khiển một cách dễ dàng.” Thay vào đó, Martin lập luận rằng việc thừa nhận “những thành kiến ​​mang tính giá trị của công nghệ” là cần thiết để duy trì khả năng của con người trong việc kiểm soát thiết kế, phát triển và triển khai công nghệ đó.

Cuộc tranh luận về kiểm duyệt nội dung trực tuyến bắt nguồn từ Điều 230 của Đạo luật về khuôn phép trong giao tiếp. Năm 1995, một nền tảng trực tuyến đã bị kiện vì tội phỉ báng đối với bài đăng của người dùng trên bảng tin của nó. Vụ kiện thành công một phần vì nền tảng đã cố gắng xóa nội dung có hại, ngụ ý rằng việc kiểm duyệt dẫn đến trách nhiệm hoàn toàn, điều này không khuyến khích mọi nỗ lực.

Đáp lại, Quốc hội đã thông qua Mục 230 để bảo vệ mô hình kinh doanh nền tảng và khuyến khích tự kiểm duyệt. “Ý tưởng là ngay cả khi bạn vào đó và cố gắng kiểm duyệt nó, chúng tôi sẽ không đối xử với bạn như một tờ báo,” Martin nói. “Bạn sẽ không chịu trách nhiệm về nội dung trên trang web của mình.”

Các công ty truyền thông xã hội đã thành công và chủ động về một số hình thức kiểm duyệt. Khi có sự đồng thuận chống lại một loại nội dung, chẳng hạn như khiêu dâm trẻ em hoặc tài liệu có bản quyền, họ sẽ nhanh chóng xóa nội dung đó. Các vấn đề bắt đầu khi có cuộc tranh luận rộng rãi về những gì có hại.

Trong những trường hợp khó khăn, các công ty đôi khi sử dụng Mục 230 để thực hiện một cách tiếp cận nhẹ nhàng, tuyên bố rằng chỉ có nhiều nội dung hơn mới có thể áp đảo những lời nói dối. Martin nói rằng họ lập luận rằng không có cách nào để làm tốt hơn: “Nếu bạn điều chỉnh chúng tôi, chúng tôi sẽ phá sản.”

Cô ấy so sánh điều này với General Motors vào những năm 1970 khi khẳng định rằng họ không thể thắt dây an toàn trên ô tô để giúp chúng an toàn hơn, hay các công ty thép tuyên bố rằng họ không thể tránh được ô nhiễm.

Martin nói: “Đó là sự phát triển bình thường của một ngành đang phát triển rất nhanh mà không cần quá nhiều quy định hay suy nghĩ quá nhiều. “Mọi người đẩy lùi và nói, ‘Này, chúng tôi muốn một cái gì đó khác biệt.’ Họ sẽ đi xung quanh. GM đã thêm dây an toàn. Cuối cùng, chúng ta sẽ tốt hơn công ty truyền thông xã hội.”

Martin có thể lạc quan vì cô ấy là người yêu thích công nghệ.

Cô ấy nói: “Không phải những người chỉ trích mạng xã hội muốn nó biến mất. “Họ muốn nó hoàn thành mọi thứ có thể. Họ thích mặt tích cực.”

Mạng xã hội có thể kết nối những tâm hồn đồng điệu với một mối quan tâm đặc biệt hoặc những người cảm thấy cô đơn. Điều đó đặc biệt có giá trị trong thời kỳ đại dịch. Những người sống dưới chế độ toàn trị có thể giao tiếp nhanh chóng và dễ dàng, tránh được sự kiểm soát của chính phủ đối với công nghệ cũ hơn.

Vào đầu những năm 2010, Facebook được coi là một lực lượng tự do mạnh mẽ trong Mùa xuân Ả Rập, khi những người biểu tình tổ chức trực tuyến và lật đổ các nhà lãnh đạo độc tài ở Bắc Phi và Trung Đông.

Mang về nhà, sức mạnh đó cũng có thể có nhược điểm, tùy thuộc vào quan điểm. Martin nói: “Nếu tôi có thể giao tiếp với một người khác giống như tôi, điều đó có nghĩa là nếu tôi muốn lên kế hoạch cho một cuộc nổi dậy, tôi có thể tìm một người khác cũng muốn lên kế hoạch cho một cuộc nổi dậy.

Martin nói: “Rất nhiều lần, những người lớn tiếng với lời nói căm thù có những người theo dõi coi đó là lời kêu gọi vũ trang. “Đó không chỉ là một người, như Alex Jones đã nói với các nạn nhân của Sandy Hook, ‘Bạn không tồn tại và điều đó không bao giờ xảy ra.’ Đó là có hàng ngàn người sau đó cũng sẽ nhắm mục tiêu những người đó trực tuyến và ngoại tuyến. Tôi nghĩ rằng đó là sự hiểu lầm về sự bất đối xứng của những kẻ bắt nạt.”

Các hiện tượng gần đây, từ thông tin sai lệch về COVID-19 của Facebook đến ảnh hưởng của Instagram đối với hình ảnh cơ thể của thanh thiếu niên, có thể đã khiến một số người trên mạng xã hội cảm thấy khó chịu kể từ lời hứa ban đầu của nó. Martin nhận định Gamergate năm 2014 là động lực thay đổi nhận thức của nhiều người. Một chiến dịch quấy rối trực tuyến được tổ chức lỏng lẻo nhắm vào nữ quyền và sự đa dạng trong văn hóa trò chơi điện tử, làm nảy sinh nhiều hành vi tồi tệ nhất sau đó.

Martin nói truyền thông xã hội người dùng phải yêu cầu kiểm duyệt khi lời nói căm thù đi quá xa. Các nhà quảng cáo có thể là một lực lượng mạnh mẽ khác. Cô ấy nói: “Các thương hiệu không muốn chiếc Cadillac điện mới ở ngay bên cạnh bài đăng của người da trắng thượng đẳng.

Musk có thể quan tâm nhiều hơn đến bài phát biểu mà anh ấy muốn quảng bá hơn là các nhóm mục tiêu ngay bây giờ, nhưng lựa chọn đó có thể mở ra cơ hội cho một đối thủ cạnh tranh như Mastodon. Về phần mình, Martin sẽ tiếp tục xác định các vấn đề và tin tưởng rằng công nghệ có thể điều chỉnh hướng đi để mang lại lợi ích xã hội.

Cô ấy nói: “Tôi luôn nghĩ về đạo đức công nghệ có hai mặt. “Một là kiểm tra đánh giá quan trọng về công nghệ. Mặt khác là giúp mọi người tìm ra cách thiết kế và phát triển công nghệ tốt hơn. Bộ kỹ năng để thực hiện cả hai không nhất thiết phải có ở cùng một người.

“Bạn cần những người chỉ ra điều gì sai và sau đó bạn cần những người khác nói, ‘Ồ, tôi có thể sửa lỗi đó và đây là cách tôi sẽ làm khác đi.'”