Startup này đang chiến đấu với vấn đề tin tức giả của Ấn Độ trên WhatsApp
MetaFact hy vọng rằng AI có thể giúp giảm thiểu thông tin sai lệch lan truyền trong nhiều ngôn ngữ và thông qua văn bản, hình ảnh và video trên dịch vụ nhắn tin được mã hóa.
Khi một nhóm năm người đàn ông tặng bánh quy cho một cô gái trẻ ở một ngôi làng ở bang Maharashtra phía tây Ấn Độ vào tháng 7 năm ngoái, họ không biết cử chỉ đó sẽ khiến họ phải trả giá. Trên khắp đất nước, những tin đồn về những kẻ bắt cóc đã lan truyền trên dịch vụ nhắn tin miễn phí WhatsApp và khi dân làng nhìn thấy những người đàn ông xa lạ nói chuyện với đứa trẻ, họ đã cho rằng chơi xấu. Năm người đàn ông bị dồn lại, bị thẩm vấn, và sau đó kéo lê hơn nửa dặm đến ngôi làng lân cận Rainpada, trong khi bị đánh bằng gậy, đá, gạch và giày dép.
Khi cảnh sát đến, những người đàn ông bị bao vây bởi hơn 3.000 người, nhưng đám đông sẽ không để cảnh sát giúp đỡ các nạn nhân, Raju N. Bhujbal, giám đốc cảnh sát bổ sung cho Dhule, quận nơi xảy ra vụ việc. Cho đến khi đủ nhân viên đến, có một chút không thể kiểm soát được tình hình, ông nói. Các đám đông rất tức giận đến nỗi họ không cho phép các quan chức của chúng tôi mang xác đi. Họ muốn đốt chúng tại chỗ đó.
Theo Bhujbal, năm người đàn ông thuộc cộng đồng bộ lạc Nath Panthi Davari Gosavi , những người lang thang đi du lịch từ làng này sang làng khác, sống nhờ bố thí. Vì họ không có địa chỉ cố định hoặc điện thoại di động, Undark không thể thiết lập liên lạc với các gia đình.
Năm người đàn ông đã chết, và vụ việc đã dẫn đến một vụ điên cuồng ở quốc gia Nam Á này. Devendra Fadnavis, khi đó là bộ trưởng của Maharashtra, bày tỏ sự đau buồn về vụ giết người, nói rằng, phương tiện truyền thông hiện đại là để chia sẻ thông tin và kiến thức, và nên được sử dụng một cách thận trọng. Thật đáng buồn khi năm người mất mạng chỉ vì tin đồn. Ông cũng kêu gọi các nền tảng truyền thông xã hội giám sát tốt hơn việc lan truyền thông tin sai lệch.
ĐÁM ĐÔNG RẤT TỨC GIẬN ĐẾN NỖI HỌ KHÔNG CHO PHÉP CÁC QUAN CHỨC CỦA CHÚNG TÔI MANG XÁC ĐI.
RAJU N. BHUJBAL
Vụ việc Rainpada không phải là vụ duy nhất mà thông tin sai lệch đã cướp đi sinh mạng vô tội ở Ấn Độ. Theo phân tích của BBC News, nước này đã báo cáo ít nhất 31 vụ giết người trong năm 2017 và 2018, được kích hoạt bởi sự không rõ ràng trên các nền tảng truyền thông xã hội. Nhiều cá nhân khác bị thương.
Từ sai, video giả mạo, hình ảnh được chỉnh sửa và nội dung bạo lực là những tính năng thường xuyên trên hệ sinh thái trực tuyến trên toàn thế giới. Ấn Độ cũng không ngoại lệ, nơi mà nội dung như vậy, thường thu hút hàng triệu lượt xem, đã dẫn đến các tội ác nghiêm trọng và thậm chí là bất ổn xã hội và chính trị .
Với hơn nửa tỷ người Ấn Độ trực tuyến, chính phủ Ấn Độ và các nền tảng truyền thông xã hội như Facebook, Twitter và WhatsApp hiện đang đấu tranh để ngăn chặn dịch bệnh thông tin sai lệch và thông tin sai lệch. MetaFact , một công ty khởi nghiệp địa phương, cho biết họ đã tìm thấy giải pháp trong một loại trí thông minh nhân tạo gọi là xử lý ngôn ngữ tự nhiên, kết hợp ngôn ngữ học và khoa học máy tính. Mục tiêu của công nghệ là dạy cho máy tính cách hiểu cách con người, hoặc ngôn ngữ tự nhiên hoạt động bằng cách hiển thị cho nó nhiều ví dụ.
Công cụ kiểm tra thực tế của MetaFact, công ty cho biết, sử dụng xử lý ngôn ngữ tự nhiên, đôi khi được gọi là NLP, để giúp phát hiện, giám sát và chống lại các câu chuyện giả mạo. Công cụ này có nghĩa là mở rộng cho các phòng tin tức sức mạnh để phát hiện và theo dõi tin tức giả trong thời gian thực, sàng lọc tất cả các thông tin dữ liệu được tạo trực tuyến, người sáng lập Meta Sagar Kaul, đã viết trong email gửi tới Undark.
Công ty bắt đầu với một nhóm nòng cốt gồm bảy thành viên, ba người từ ba nền tảng kỹ thuật, ba nhà báo và một nhà nghiên cứu giáo dục để tạo ra sự cân bằng hiệu quả giữa báo chí và công nghệ. Các nhóm khác có các công cụ kiểm tra thực tế trực tuyến tương tự sử dụng NLP, bao gồm Factmata ở Vương quốc Anh. Các học giả cũng đang thử nghiệm các hình thức khác nhau của trí tuệ nhân tạo để hạn chế sự mất thông tin kỹ thuật số, bao gồm Đại học Michigan và Phòng thí nghiệm của Phóng viên tại Đại học Duke.
THẬT KHÔNG MAY, ĐIỀU XẢY RA LÀ RẤT NHIỀU CÔNG TY KHỞI NGHIỆP TRẺ NÀY, ĐỂ TIẾP THỊ BẢN THÂN, HỌ SỬ DỤNG TẤT CẢ CÁC TỪ KHÓA ƯA THÍCH.
SINH TỬ
Nhưng phản ứng với các công cụ như MetaFact đã được trộn lẫn. Thật không may, điều xảy ra là rất nhiều trong số các công ty khởi nghiệp trẻ này, để tiếp thị bản thân, họ sử dụng tất cả các từ khóa ưa thích của AI do AI cung cấp và điều này, và điều đó, ông Pattik Sinha, người sáng lập trang web kiểm tra thực tế Alt News .
Jency Jacob, biên tập viên quản lý của Boom , một trang web kiểm tra thực tế đang hợp tác với Facebook ở Ấn Độ để chống lại sự lan truyền của tin tức giả, cũng lưu ý sự hoài nghi của ông đối với các công cụ AI.
Trong khi anh chưa nghe nói về MetaFact một cách cụ thể, anh đã viết trong một email gửi tới Undark rằng không phải tất cả các câu chuyện chỉ đơn giản là đúng hay sai. Nhiều người trong số họ có sắc thái, anh ấy đã viết, và cần sự can thiệp của biên tập viên [để quyết định] câu chuyện đó phải được đánh giá như thế nào. Đôi khi chúng ta có thể chọn gọi một câu chuyện một phần đúng, một phần sai hoặc sai. Chúng tôi vẫn chưa thấy bất kỳ công cụ tiên tiến nào có thể làm tốt công việc của một nhà báo đủ để nắm bắt được sắc thái đó và trả lời dưới dạng tự động.
Công cụ kiểm tra thực tế MetaFact hoạt động bằng cách phân tích bối cảnh của câu trong các câu chuyện tin tức, blog và bài đăng trên phương tiện truyền thông xã hội. Sau đó, công cụ này đánh dấu thông tin sai lệch và sai lệch bằng cách xác định các câu gây tranh cãi thông qua giọng điệu của họ, nghi vấn, tuyên bố và những câu khác. Tiếp theo, nội dung được lọc sẽ được gửi đến các nhà báo để phá vỡ các tuyên bố sai lệch và bịa đặt. Tập trung chính của chúng tôi để đào tạo công cụ là thông qua việc làm cho công cụ hiểu ngữ cảnh của câu hơn là từ ngữ, anh giải thích Kaul.
Nhưng để có thể phát hiện thông tin sai lệch và sai lệch, trình kiểm tra thực tế MetaFact phải được đào tạo, bao gồm việc cung cấp cho nó nhiều, nhiều ví dụ bằng văn bản. Cho đến nay, tất cả các tài liệu đào tạo đã được viết bằng tiếng Anh. Điều này có thể giúp với các chiến dịch không thông tin tràn ngập trên internet. Nhưng ở Ấn Độ, thông tin không chỉ lan truyền bằng tiếng Anh, mà cả tiếng Hindi và các ngôn ngữ địa phương khác, Sinha nói. Theo báo cáo từ Google và công ty kế toán KPMG, năm 2016 Ấn Độ có 234 triệu người lướt internet bằng tám ngôn ngữ Ấn Độ, so với 175 triệu người dùng tiếng Anh. Khoảng cách được dự đoán sẽ mở rộng, với 9 trong số 10 người dùng mới ở nước này dự kiến sẽ sử dụng internet bằng ngôn ngữ Ấn Độ vào năm 2021.
Sinha nói rằng ông không phải là người hỗ trợ lớn cho việc sử dụng NLP trong bối cảnh Ấn Độ, vì nó chưa hoạt động đối với các ngôn ngữ Ấn Độ địa phương. Giới hạn này cũng đúng với MetaFact, anh ấy nói thêm, bởi vì việc tạo ra các bộ dữ liệu đào tạo cần thiết bằng ngôn ngữ Ấn Độ là một công việc rất lớn.
Kaul thừa nhận khoảng cách. Nói với Ấn Độ, vấn đề còn lớn hơn nhiều vì có nhiều ngôn ngữ trong khu vực được nói và viết ở đây mà không có bộ dữ liệu sạch có sẵn, ông nói. Chính phủ cho rằng xe tăng NITI Aayog, ông nói thêm, hiện đang làm việc để cung cấp các bộ dữ liệu sạch cho tám ngôn ngữ chính [Ấn Độ]. Hy vọng của chúng tôi là bắt đầu đào tạo về công cụ của chúng tôi về tám ngôn ngữ đó.
Thêm vào vấn đề, Jacob chỉ ra rằng, những gì có thể được chia sẻ trong một ngôn ngữ với ý định đúng có thể trở thành sai trong ngôn ngữ khác. Trong khi một nhà báo nói nhiều ngôn ngữ có thể mắc các lỗi dịch thuật này, ông nói thêm, các công cụ AI hiện tại có khả năng sẽ không
VỚI ẤN ĐỘ, VẤN ĐỀ LỚN HƠN NHIỀU VÌ CÓ NHIỀU NGÔN NGỮ TRONG KHU VỰC ĐƯỢC NÓI VÀ VIẾT Ở ĐÂY MÀ KHÔNG CÓ BỘ DỮ LIỆU SẠCH CÓ SẴN.
SAGAR KAUL
Video và hình ảnh giả, mối quan tâm lớn nhất ở Ấn Độ, đặt ra những thách thức bổ sung cho những người kiểm tra thực tế như MetaFact. Theo PN Vasanti, giám đốc Trung tâm nghiên cứu truyền thông , một nhóm chuyên gia tư duy phi lợi nhuận có trụ sở tại Delhi, các định dạng khác nhau bao gồm chỉ văn bản, chỉ âm thanh và video, ảnh hưởng đến độ tin cậy và độ tin cậy của tin tức giả khác nhau cách. Vasanti gần đây đã kết thúc một nghiên cứu do WhatsApp tài trợ về thông tin sai lệch ở Ấn Độ với S. Shyam Sundar, người viết mã của Phòng thí nghiệm nghiên cứu hiệu ứng truyền thông tại Đại học bang Pennsylvania. Nghiên cứu, do được công bố vào năm tới, đã kết luận rằng video là phương thức mạnh nhất trong việc truyền bá tin tức giả ở Ấn Độ.
Vasanti cho biết có một sự khác biệt về tâm lý khi nói đến việc tiêu thụ tin tức giả ở các định dạng khác nhau. Người dân có xu hướng tin vào video nhiều hơn, cô ấy nói, đó là một sự thật đã xảy ra, không phải là giả mạo cả. Nghiên cứu của cô, cô nói thêm, cho thấy những người xem nhiều video có xu hướng tin vào độ tin cậy của nó và chia sẻ nó với những khán giả lớn hơn. Thêm vào những phát hiện của Vasanti, Sinha giải thích rằng NLP hoạt động tốt với những đoạn văn bản dài, nhưng bản chất của thông tin sai lệch ở Ấn Độ không phải vậy. Cách tiếp cận dựa trên NLP sẽ không hiệu quả [ở Ấn Độ] bởi vì số lượng văn bản bạn thường có, đặc biệt là khi thông tin sai lệch tập trung quanh một hình ảnh hoặc một video, số lượng văn bản chỉ có hai hoặc ba dòng.
Một vấn đề khác là không giống như các quốc gia khác, nhà phân phối chính của tin tức giả ở Ấn Độ là WhatsApp, không phải Facebook hay Twitter, Aasita Bali, một nhà khoa học xã hội tại Đại học Christ ở Bengaluru (trước đây là Bangalore) đã đăng tải trên tin tức giả và phương tiện truyền thông xã hội Ấn Độ. Đây là ứng dụng rất tiện lợi, sử dụng, Whats WhatsApp cho biết, vì vậy thông tin sai lệch có thể lan truyền nhanh hơn so với trên một nền tảng như Facebook, một số người thấy thân thiện với người dùng hơn. (Bali nói thêm rằng quan điểm của cô ấy không nhất thiết phản ánh quan điểm của chủ nhân.)
KaFact cũng đang phải vật lộn với dịch bệnh không rõ ràng trên WhatsApp, nơi có 400 triệu người dùng ở Ấn Độ, một trong những phần khó nhất trong việc chống lại sự mất thông tin trực tuyến, Kaul nói. Để đáp lại, công ty đang phát triển một cộng đồng tình nguyện viên Met Metixixers, người báo cáo thông tin sai lệch cho MetaFact. Gần 90 phần trăm nội dung mà Metafixers chia sẻ là từ WhatsApp, dưới dạng văn bản, hình ảnh và video.
BẰNG CÁCH XÂY DỰNG CÁC CỘNG ĐỒNG NÀY VÀ GIỮ HỌ THAM GIA, CHÚNG TÔI PHÁT TRIỂN MỘT BỨC TƯỜNG CHỐNG LẠI LŨ THÔNG TIN SAI LỆCH.
SAGAR KAUL
Chúng tôi chọn fixer là phần cuối cùng của tên vì các thành viên của chúng tôi đang cố gắng giải quyết vấn đề, ông Ka Kaul viết trong email. Bằng cách xây dựng các cộng đồng này và giữ họ tham gia, chúng tôi phát triển một bức tường chống lại lũ thông tin sai lệch mà xã hội đen tối [như WhatsApp, Telegram , v.v.] tuyên truyền.
Các trang web truyền thông xã hội nổi bật khác ở Ấn Độ như Facebook (gần 270 triệu người dùng Ấn Độ) và Twitter ( 34 triệu người dùng Ấn Độ) tương đối ít phức tạp hơn đối với MetaFact, vì chúng được mở để khai thác dữ liệu. (WhatsApp mã hóa tin nhắn giữa những người dùng.) Đây là nơi mà công cụ AI của chúng tôi thực sự có thể trở thành của riêng mình, Kaul nói. Sử dụng NLP, chúng tôi có thể nhanh chóng phát hiện nội dung sai lệch, sai lệch, clickbait.
Thông tin sai lệch nói chung đặt ra một vấn đề lớn ở Ấn Độ, mối đe dọa lớn nhất là tuyên truyền chính trị, Sinha nói. Và hầu hết các chiến dịch tuyên truyền chính trị trên phương tiện truyền thông xã hội đều được xây dựng xung quanh các đảng phái và bầu cử chính trị, Samantha Bradshaw, nhà nghiên cứu về Dự án Tuyên truyền Điện toán tại Đại học Oxford, chuyên điều tra việc sử dụng các phương pháp dựa trên máy tính để truyền bá thông tin sai lệch trong cuộc sống công cộng.
Trong cuộc bầu cử năm 2019, các đảng chính trị đã làm việc với nhiều diễn viên, bao gồm các công ty tư nhân, mạng lưới tình nguyện và những người có ảnh hưởng trên phương tiện truyền thông xã hội để định hình dư luận trên phương tiện truyền thông xã hội, Mitch Bradshaw đã viết trong một cuộc phỏng vấn qua email. Họ cũng đã sử dụng quảng cáo kỹ thuật số, phân tích dữ liệu và tự động hóa trên các nền tảng như WhatsApp, Facebook và Twitter. Cũng có bằng chứng về tuyên truyền tính toán trên ứng dụng riêng của Modi [Thủ tướng Narendra], NaMo.
Bradshaw nói thêm rằng một phần của vấn đề liên quan đến mô hình kinh doanh của các nền tảng truyền thông xã hội và cách họ ưu tiên nội dung khiến mọi người tức giận, sợ hãi hoặc nghi ngờ bởi vì loại nội dung này có nội dung rất cao. mọi người nhấp, cuộn và kết nối với các nền tảng.
THỂ LOẠI NÀY CÓ NỘI DUNG RẤT CAO VỀ NỘI DUNG CẢM XÚC. ĐÂY LÀ THỨ GIÚP MỌI NGƯỜI NHẤP, CUỘN VÀ KẾT NỐI VỚI CÁC NỀN TẢNG.
SAMANTHA BRADSHAW
Chủ đề dựa trên cảm xúc như chủ nghĩa dân tộc và xây dựng quốc gia là phổ biến trong tuyên truyền ở Ấn Độ, ông Bali nói. Ngay cả các trường hợp giết mob cũng có yếu tố bất đồng chính trị và sự thiếu hiểu biết ở phần cuối của người dùng làm khủng hoảng thêm. Bali chỉ ra sự phân chia kỹ thuật số ở Ấn Độ: Mặc dù Ấn Độ đã có hơn 468 triệu người dùng điện thoại thông minh tính đến năm 2017, nhưng chỉ cần có một chiếc điện thoại thông minh có thể không được dịch sang sử dụng nó để liên lạc.
Trong khi Ấn Độ có một số luật điều chỉnh công nghệ thông tin, họ không đề cập đến lĩnh vực tin tức giả mạo, ông Bali nói. Để ngăn chặn khủng hoảng thông tin sai lệch, việc tự điều chỉnh bởi các nền tảng truyền thông xã hội cần được đi kèm với các biện pháp khác như lệnh cấm pháp lý để che giấu tin tức giả mạo, thực thi pháp luật và sửa chữa hiến pháp, siêu lưu ý trong nghiên cứu của cô. Cô nói thêm về vấn đề giao tiếp không thể dựa trên công nghệ, cô nói thêm.
Tuy nhiên, Bradshaw nói rằng các giải pháp dựa trên AI như MetaFact là một phần quan trọng của giải pháp cho sự không rõ ràng. Quy mô và tốc độ lan truyền thông tin trên mạng xã hội đòi hỏi các công cụ có thể tự động phát hiện và xóa nội dung, cô nói.
Tuy nhiên, một mình các giải pháp kỹ thuật sẽ không đủ để giải quyết vấn đề, cô nói thêm. Chúng tôi đã biết rằng các diễn viên xấu học cách lật đổ các hệ thống này theo thời gian, vì vậy họ sẽ phải liên tục thích nghi với các chiến lược và kỹ thuật mới về thông tin sai lệch.
KHÔNG CÓ GÌ CÓ THỂ TỒI TỆ HƠN THẾ NÀY; ĐÓ LÀ MỘT BẤT LỢI CỦA PHƯƠNG TIỆN TRUYỀN THÔNG XÃ HỘI.
RAJU N. BHUJBAL
Kaul đồng ý. Kể từ khi MetaFact bắt đầu làm việc về vấn đề này, ông nói rằng họ đã nhìn thấy một sự đột biến rất lớn về cách thức hoạt động của thông tin sai lệch và thông tin sai lệch. Với mỗi nghiên cứu và nghiên cứu trường hợp mới trong lĩnh vực này, chúng tôi thấy một sự thay đổi mạnh mẽ trong cách [nội dung này] được tạo ra và phân phối, anh nói. Bên kia cũng đang tự cập nhật về các công cụ / ý tưởng mới được tạo ra để chống lại vấn đề tin tức giả mạo và họ thích nghi và làm việc theo đó. Vì vậy, tính đến thời điểm hiện tại, họ luôn đi trước chúng ta.
Bhujbal, trong khi đó, nói rằng cảnh sát đang làm phần việc của họ để giữ cho nội dung sai lệch không đòi thêm mạng sống. Ông nói rằng 28 người đàn ông đã bị bắt liên quan đến vụ giết chết năm người đàn ông đã cung cấp bánh quy cho một cô gái trẻ ở Maharashtra. Và thậm chí một năm rưỡi sau vụ giết người, Bhujbal nói cảnh sát hành động trên các tin nhắn WhatsApp có khả năng gây hại. Ngay khi các sĩ quan phát hiện ra tin đồn, họ đã chuẩn bị và lưu hành các biện pháp đối phó để gỡ các yêu sách. Ông cho biết các chiến dịch nâng cao nhận thức và thông báo qua loa trong các ngôi làng cũng trở thành một tính năng thường xuyên của cơ quan thực thi pháp luật trong huyện.
Ngôi làng, nơi xảy ra vụ việc, đây là khu vực của bộ lạc. Mọi người có điện thoại di động, nhưng tỷ lệ biết chữ thấp, trưởng thành thấp, Bhujbal nói. Không ai có thể tưởng tượng rằng một tội ác ghê tởm như vậy có thể xảy ra đối với một số tin nhắn. Không có gì có thể tồi tệ hơn thế này; đó là một bất lợi của phương tiện truyền thông xã hội.
Puja Changoiwala là một nhà báo và tác giả độc lập từng đoạt giải thưởng có trụ sở tại Mumbai. Cô viết về sự giao thoa giữa giới tính, tội phạm, nhân quyền, công bằng xã hội và sự phát triển ở Ấn Độ. Bài viết này ban đầu được xuất bản trên Undark .
Khi một nhóm năm người đàn ông tặng bánh quy cho một cô gái trẻ ở một ngôi làng ở bang Maharashtra phía tây Ấn Độ vào tháng 7 năm ngoái, họ không biết cử chỉ đó sẽ khiến họ phải trả giá. Trên khắp đất nước, những tin đồn về những kẻ bắt cóc đã lan truyền trên dịch vụ nhắn tin miễn phí WhatsApp và khi dân làng nhìn thấy những người đàn ông xa lạ nói chuyện với đứa trẻ, họ đã cho rằng chơi xấu. Năm người đàn ông bị dồn lại, bị thẩm vấn, và sau đó kéo lê hơn nửa dặm đến ngôi làng lân cận Rainpada, trong khi bị đánh bằng gậy, đá, gạch và giày dép.
Khi cảnh sát đến, những người đàn ông bị bao vây bởi hơn 3.000 người, nhưng đám đông sẽ không để cảnh sát giúp đỡ các nạn nhân, Raju N. Bhujbal, giám đốc cảnh sát bổ sung cho Dhule, quận nơi xảy ra vụ việc. Cho đến khi đủ nhân viên đến, có một chút không thể kiểm soát được tình hình, ông nói. Các đám đông rất tức giận đến nỗi họ không cho phép các quan chức của chúng tôi mang xác đi. Họ muốn đốt chúng tại chỗ đó.
Theo Bhujbal, năm người đàn ông thuộc cộng đồng bộ lạc Nath Panthi Davari Gosavi , những người lang thang đi du lịch từ làng này sang làng khác, sống nhờ bố thí. Vì họ không có địa chỉ cố định hoặc điện thoại di động, Undark không thể thiết lập liên lạc với các gia đình.
Năm người đàn ông đã chết, và vụ việc đã dẫn đến một vụ điên cuồng ở quốc gia Nam Á này. Devendra Fadnavis, khi đó là bộ trưởng của Maharashtra, bày tỏ sự đau buồn về vụ giết người, nói rằng, phương tiện truyền thông hiện đại là để chia sẻ thông tin và kiến thức, và nên được sử dụng một cách thận trọng. Thật đáng buồn khi năm người mất mạng chỉ vì tin đồn. Ông cũng kêu gọi các nền tảng truyền thông xã hội giám sát tốt hơn việc lan truyền thông tin sai lệch.
ĐÁM ĐÔNG RẤT TỨC GIẬN ĐẾN NỖI HỌ KHÔNG CHO PHÉP CÁC QUAN CHỨC CỦA CHÚNG TÔI MANG XÁC ĐI.
RAJU N. BHUJBAL
Vụ việc Rainpada không phải là vụ duy nhất mà thông tin sai lệch đã cướp đi sinh mạng vô tội ở Ấn Độ. Theo phân tích của BBC News, nước này đã báo cáo ít nhất 31 vụ giết người trong năm 2017 và 2018, được kích hoạt bởi sự không rõ ràng trên các nền tảng truyền thông xã hội. Nhiều cá nhân khác bị thương.
Từ sai, video giả mạo, hình ảnh được chỉnh sửa và nội dung bạo lực là những tính năng thường xuyên trên hệ sinh thái trực tuyến trên toàn thế giới. Ấn Độ cũng không ngoại lệ, nơi mà nội dung như vậy, thường thu hút hàng triệu lượt xem, đã dẫn đến các tội ác nghiêm trọng và thậm chí là bất ổn xã hội và chính trị .
Với hơn nửa tỷ người Ấn Độ trực tuyến, chính phủ Ấn Độ và các nền tảng truyền thông xã hội như Facebook, Twitter và WhatsApp hiện đang đấu tranh để ngăn chặn dịch bệnh thông tin sai lệch và thông tin sai lệch. MetaFact , một công ty khởi nghiệp địa phương, cho biết họ đã tìm thấy giải pháp trong một loại trí thông minh nhân tạo gọi là xử lý ngôn ngữ tự nhiên, kết hợp ngôn ngữ học và khoa học máy tính. Mục tiêu của công nghệ là dạy cho máy tính cách hiểu cách con người, hoặc ngôn ngữ tự nhiên hoạt động bằng cách hiển thị cho nó nhiều ví dụ.
Công cụ kiểm tra thực tế của MetaFact, công ty cho biết, sử dụng xử lý ngôn ngữ tự nhiên, đôi khi được gọi là NLP, để giúp phát hiện, giám sát và chống lại các câu chuyện giả mạo. Công cụ này có nghĩa là mở rộng cho các phòng tin tức sức mạnh để phát hiện và theo dõi tin tức giả trong thời gian thực, sàng lọc tất cả các thông tin dữ liệu được tạo trực tuyến, người sáng lập Meta Sagar Kaul, đã viết trong email gửi tới Undark.
Công ty bắt đầu với một nhóm nòng cốt gồm bảy thành viên, ba người từ ba nền tảng kỹ thuật, ba nhà báo và một nhà nghiên cứu giáo dục để tạo ra sự cân bằng hiệu quả giữa báo chí và công nghệ. Các nhóm khác có các công cụ kiểm tra thực tế trực tuyến tương tự sử dụng NLP, bao gồm Factmata ở Vương quốc Anh. Các học giả cũng đang thử nghiệm các hình thức khác nhau của trí tuệ nhân tạo để hạn chế sự mất thông tin kỹ thuật số, bao gồm Đại học Michigan và Phòng thí nghiệm của Phóng viên tại Đại học Duke.
THẬT KHÔNG MAY, ĐIỀU XẢY RA LÀ RẤT NHIỀU CÔNG TY KHỞI NGHIỆP TRẺ NÀY, ĐỂ TIẾP THỊ BẢN THÂN, HỌ SỬ DỤNG TẤT CẢ CÁC TỪ KHÓA ƯA THÍCH.
SINH TỬ
Nhưng phản ứng với các công cụ như MetaFact đã được trộn lẫn. Thật không may, điều xảy ra là rất nhiều trong số các công ty khởi nghiệp trẻ này, để tiếp thị bản thân, họ sử dụng tất cả các từ khóa ưa thích của AI do AI cung cấp và điều này, và điều đó, ông Pattik Sinha, người sáng lập trang web kiểm tra thực tế Alt News .
Jency Jacob, biên tập viên quản lý của Boom , một trang web kiểm tra thực tế đang hợp tác với Facebook ở Ấn Độ để chống lại sự lan truyền của tin tức giả, cũng lưu ý sự hoài nghi của ông đối với các công cụ AI.
Trong khi anh chưa nghe nói về MetaFact một cách cụ thể, anh đã viết trong một email gửi tới Undark rằng không phải tất cả các câu chuyện chỉ đơn giản là đúng hay sai. Nhiều người trong số họ có sắc thái, anh ấy đã viết, và cần sự can thiệp của biên tập viên [để quyết định] câu chuyện đó phải được đánh giá như thế nào. Đôi khi chúng ta có thể chọn gọi một câu chuyện một phần đúng, một phần sai hoặc sai. Chúng tôi vẫn chưa thấy bất kỳ công cụ tiên tiến nào có thể làm tốt công việc của một nhà báo đủ để nắm bắt được sắc thái đó và trả lời dưới dạng tự động.
Công cụ kiểm tra thực tế MetaFact hoạt động bằng cách phân tích bối cảnh của câu trong các câu chuyện tin tức, blog và bài đăng trên phương tiện truyền thông xã hội. Sau đó, công cụ này đánh dấu thông tin sai lệch và sai lệch bằng cách xác định các câu gây tranh cãi thông qua giọng điệu của họ, nghi vấn, tuyên bố và những câu khác. Tiếp theo, nội dung được lọc sẽ được gửi đến các nhà báo để phá vỡ các tuyên bố sai lệch và bịa đặt. Tập trung chính của chúng tôi để đào tạo công cụ là thông qua việc làm cho công cụ hiểu ngữ cảnh của câu hơn là từ ngữ, anh giải thích Kaul.
Nhưng để có thể phát hiện thông tin sai lệch và sai lệch, trình kiểm tra thực tế MetaFact phải được đào tạo, bao gồm việc cung cấp cho nó nhiều, nhiều ví dụ bằng văn bản. Cho đến nay, tất cả các tài liệu đào tạo đã được viết bằng tiếng Anh. Điều này có thể giúp với các chiến dịch không thông tin tràn ngập trên internet. Nhưng ở Ấn Độ, thông tin không chỉ lan truyền bằng tiếng Anh, mà cả tiếng Hindi và các ngôn ngữ địa phương khác, Sinha nói. Theo báo cáo từ Google và công ty kế toán KPMG, năm 2016 Ấn Độ có 234 triệu người lướt internet bằng tám ngôn ngữ Ấn Độ, so với 175 triệu người dùng tiếng Anh. Khoảng cách được dự đoán sẽ mở rộng, với 9 trong số 10 người dùng mới ở nước này dự kiến sẽ sử dụng internet bằng ngôn ngữ Ấn Độ vào năm 2021.
Sinha nói rằng ông không phải là người hỗ trợ lớn cho việc sử dụng NLP trong bối cảnh Ấn Độ, vì nó chưa hoạt động đối với các ngôn ngữ Ấn Độ địa phương. Giới hạn này cũng đúng với MetaFact, anh ấy nói thêm, bởi vì việc tạo ra các bộ dữ liệu đào tạo cần thiết bằng ngôn ngữ Ấn Độ là một công việc rất lớn.
Kaul thừa nhận khoảng cách. Nói với Ấn Độ, vấn đề còn lớn hơn nhiều vì có nhiều ngôn ngữ trong khu vực được nói và viết ở đây mà không có bộ dữ liệu sạch có sẵn, ông nói. Chính phủ cho rằng xe tăng NITI Aayog, ông nói thêm, hiện đang làm việc để cung cấp các bộ dữ liệu sạch cho tám ngôn ngữ chính [Ấn Độ]. Hy vọng của chúng tôi là bắt đầu đào tạo về công cụ của chúng tôi về tám ngôn ngữ đó.
Thêm vào vấn đề, Jacob chỉ ra rằng, những gì có thể được chia sẻ trong một ngôn ngữ với ý định đúng có thể trở thành sai trong ngôn ngữ khác. Trong khi một nhà báo nói nhiều ngôn ngữ có thể mắc các lỗi dịch thuật này, ông nói thêm, các công cụ AI hiện tại có khả năng sẽ không
VỚI ẤN ĐỘ, VẤN ĐỀ LỚN HƠN NHIỀU VÌ CÓ NHIỀU NGÔN NGỮ TRONG KHU VỰC ĐƯỢC NÓI VÀ VIẾT Ở ĐÂY MÀ KHÔNG CÓ BỘ DỮ LIỆU SẠCH CÓ SẴN.
SAGAR KAUL
Video và hình ảnh giả, mối quan tâm lớn nhất ở Ấn Độ, đặt ra những thách thức bổ sung cho những người kiểm tra thực tế như MetaFact. Theo PN Vasanti, giám đốc Trung tâm nghiên cứu truyền thông , một nhóm chuyên gia tư duy phi lợi nhuận có trụ sở tại Delhi, các định dạng khác nhau bao gồm chỉ văn bản, chỉ âm thanh và video, ảnh hưởng đến độ tin cậy và độ tin cậy của tin tức giả khác nhau cách. Vasanti gần đây đã kết thúc một nghiên cứu do WhatsApp tài trợ về thông tin sai lệch ở Ấn Độ với S. Shyam Sundar, người viết mã của Phòng thí nghiệm nghiên cứu hiệu ứng truyền thông tại Đại học bang Pennsylvania. Nghiên cứu, do được công bố vào năm tới, đã kết luận rằng video là phương thức mạnh nhất trong việc truyền bá tin tức giả ở Ấn Độ.
Vasanti cho biết có một sự khác biệt về tâm lý khi nói đến việc tiêu thụ tin tức giả ở các định dạng khác nhau. Người dân có xu hướng tin vào video nhiều hơn, cô ấy nói, đó là một sự thật đã xảy ra, không phải là giả mạo cả. Nghiên cứu của cô, cô nói thêm, cho thấy những người xem nhiều video có xu hướng tin vào độ tin cậy của nó và chia sẻ nó với những khán giả lớn hơn. Thêm vào những phát hiện của Vasanti, Sinha giải thích rằng NLP hoạt động tốt với những đoạn văn bản dài, nhưng bản chất của thông tin sai lệch ở Ấn Độ không phải vậy. Cách tiếp cận dựa trên NLP sẽ không hiệu quả [ở Ấn Độ] bởi vì số lượng văn bản bạn thường có, đặc biệt là khi thông tin sai lệch tập trung quanh một hình ảnh hoặc một video, số lượng văn bản chỉ có hai hoặc ba dòng.
Một vấn đề khác là không giống như các quốc gia khác, nhà phân phối chính của tin tức giả ở Ấn Độ là WhatsApp, không phải Facebook hay Twitter, Aasita Bali, một nhà khoa học xã hội tại Đại học Christ ở Bengaluru (trước đây là Bangalore) đã đăng tải trên tin tức giả và phương tiện truyền thông xã hội Ấn Độ. Đây là ứng dụng rất tiện lợi, sử dụng, Whats WhatsApp cho biết, vì vậy thông tin sai lệch có thể lan truyền nhanh hơn so với trên một nền tảng như Facebook, một số người thấy thân thiện với người dùng hơn. (Bali nói thêm rằng quan điểm của cô ấy không nhất thiết phản ánh quan điểm của chủ nhân.)
KaFact cũng đang phải vật lộn với dịch bệnh không rõ ràng trên WhatsApp, nơi có 400 triệu người dùng ở Ấn Độ, một trong những phần khó nhất trong việc chống lại sự mất thông tin trực tuyến, Kaul nói. Để đáp lại, công ty đang phát triển một cộng đồng tình nguyện viên Met Metixixers, người báo cáo thông tin sai lệch cho MetaFact. Gần 90 phần trăm nội dung mà Metafixers chia sẻ là từ WhatsApp, dưới dạng văn bản, hình ảnh và video.
BẰNG CÁCH XÂY DỰNG CÁC CỘNG ĐỒNG NÀY VÀ GIỮ HỌ THAM GIA, CHÚNG TÔI PHÁT TRIỂN MỘT BỨC TƯỜNG CHỐNG LẠI LŨ THÔNG TIN SAI LỆCH.
SAGAR KAUL
Chúng tôi chọn fixer là phần cuối cùng của tên vì các thành viên của chúng tôi đang cố gắng giải quyết vấn đề, ông Ka Kaul viết trong email. Bằng cách xây dựng các cộng đồng này và giữ họ tham gia, chúng tôi phát triển một bức tường chống lại lũ thông tin sai lệch mà xã hội đen tối [như WhatsApp, Telegram , v.v.] tuyên truyền.
Các trang web truyền thông xã hội nổi bật khác ở Ấn Độ như Facebook (gần 270 triệu người dùng Ấn Độ) và Twitter ( 34 triệu người dùng Ấn Độ) tương đối ít phức tạp hơn đối với MetaFact, vì chúng được mở để khai thác dữ liệu. (WhatsApp mã hóa tin nhắn giữa những người dùng.) Đây là nơi mà công cụ AI của chúng tôi thực sự có thể trở thành của riêng mình, Kaul nói. Sử dụng NLP, chúng tôi có thể nhanh chóng phát hiện nội dung sai lệch, sai lệch, clickbait.
Thông tin sai lệch nói chung đặt ra một vấn đề lớn ở Ấn Độ, mối đe dọa lớn nhất là tuyên truyền chính trị, Sinha nói. Và hầu hết các chiến dịch tuyên truyền chính trị trên phương tiện truyền thông xã hội đều được xây dựng xung quanh các đảng phái và bầu cử chính trị, Samantha Bradshaw, nhà nghiên cứu về Dự án Tuyên truyền Điện toán tại Đại học Oxford, chuyên điều tra việc sử dụng các phương pháp dựa trên máy tính để truyền bá thông tin sai lệch trong cuộc sống công cộng.
Trong cuộc bầu cử năm 2019, các đảng chính trị đã làm việc với nhiều diễn viên, bao gồm các công ty tư nhân, mạng lưới tình nguyện và những người có ảnh hưởng trên phương tiện truyền thông xã hội để định hình dư luận trên phương tiện truyền thông xã hội, Mitch Bradshaw đã viết trong một cuộc phỏng vấn qua email. Họ cũng đã sử dụng quảng cáo kỹ thuật số, phân tích dữ liệu và tự động hóa trên các nền tảng như WhatsApp, Facebook và Twitter. Cũng có bằng chứng về tuyên truyền tính toán trên ứng dụng riêng của Modi [Thủ tướng Narendra], NaMo.
Bradshaw nói thêm rằng một phần của vấn đề liên quan đến mô hình kinh doanh của các nền tảng truyền thông xã hội và cách họ ưu tiên nội dung khiến mọi người tức giận, sợ hãi hoặc nghi ngờ bởi vì loại nội dung này có nội dung rất cao. mọi người nhấp, cuộn và kết nối với các nền tảng.
THỂ LOẠI NÀY CÓ NỘI DUNG RẤT CAO VỀ NỘI DUNG CẢM XÚC. ĐÂY LÀ THỨ GIÚP MỌI NGƯỜI NHẤP, CUỘN VÀ KẾT NỐI VỚI CÁC NỀN TẢNG.
SAMANTHA BRADSHAW
Chủ đề dựa trên cảm xúc như chủ nghĩa dân tộc và xây dựng quốc gia là phổ biến trong tuyên truyền ở Ấn Độ, ông Bali nói. Ngay cả các trường hợp giết mob cũng có yếu tố bất đồng chính trị và sự thiếu hiểu biết ở phần cuối của người dùng làm khủng hoảng thêm. Bali chỉ ra sự phân chia kỹ thuật số ở Ấn Độ: Mặc dù Ấn Độ đã có hơn 468 triệu người dùng điện thoại thông minh tính đến năm 2017, nhưng chỉ cần có một chiếc điện thoại thông minh có thể không được dịch sang sử dụng nó để liên lạc.
Trong khi Ấn Độ có một số luật điều chỉnh công nghệ thông tin, họ không đề cập đến lĩnh vực tin tức giả mạo, ông Bali nói. Để ngăn chặn khủng hoảng thông tin sai lệch, việc tự điều chỉnh bởi các nền tảng truyền thông xã hội cần được đi kèm với các biện pháp khác như lệnh cấm pháp lý để che giấu tin tức giả mạo, thực thi pháp luật và sửa chữa hiến pháp, siêu lưu ý trong nghiên cứu của cô. Cô nói thêm về vấn đề giao tiếp không thể dựa trên công nghệ, cô nói thêm.
Tuy nhiên, Bradshaw nói rằng các giải pháp dựa trên AI như MetaFact là một phần quan trọng của giải pháp cho sự không rõ ràng. Quy mô và tốc độ lan truyền thông tin trên mạng xã hội đòi hỏi các công cụ có thể tự động phát hiện và xóa nội dung, cô nói.
Tuy nhiên, một mình các giải pháp kỹ thuật sẽ không đủ để giải quyết vấn đề, cô nói thêm. Chúng tôi đã biết rằng các diễn viên xấu học cách lật đổ các hệ thống này theo thời gian, vì vậy họ sẽ phải liên tục thích nghi với các chiến lược và kỹ thuật mới về thông tin sai lệch.
KHÔNG CÓ GÌ CÓ THỂ TỒI TỆ HƠN THẾ NÀY; ĐÓ LÀ MỘT BẤT LỢI CỦA PHƯƠNG TIỆN TRUYỀN THÔNG XÃ HỘI.
RAJU N. BHUJBAL
Kaul đồng ý. Kể từ khi MetaFact bắt đầu làm việc về vấn đề này, ông nói rằng họ đã nhìn thấy một sự đột biến rất lớn về cách thức hoạt động của thông tin sai lệch và thông tin sai lệch. Với mỗi nghiên cứu và nghiên cứu trường hợp mới trong lĩnh vực này, chúng tôi thấy một sự thay đổi mạnh mẽ trong cách [nội dung này] được tạo ra và phân phối, anh nói. Bên kia cũng đang tự cập nhật về các công cụ / ý tưởng mới được tạo ra để chống lại vấn đề tin tức giả mạo và họ thích nghi và làm việc theo đó. Vì vậy, tính đến thời điểm hiện tại, họ luôn đi trước chúng ta.
Bhujbal, trong khi đó, nói rằng cảnh sát đang làm phần việc của họ để giữ cho nội dung sai lệch không đòi thêm mạng sống. Ông nói rằng 28 người đàn ông đã bị bắt liên quan đến vụ giết chết năm người đàn ông đã cung cấp bánh quy cho một cô gái trẻ ở Maharashtra. Và thậm chí một năm rưỡi sau vụ giết người, Bhujbal nói cảnh sát hành động trên các tin nhắn WhatsApp có khả năng gây hại. Ngay khi các sĩ quan phát hiện ra tin đồn, họ đã chuẩn bị và lưu hành các biện pháp đối phó để gỡ các yêu sách. Ông cho biết các chiến dịch nâng cao nhận thức và thông báo qua loa trong các ngôi làng cũng trở thành một tính năng thường xuyên của cơ quan thực thi pháp luật trong huyện.
Ngôi làng, nơi xảy ra vụ việc, đây là khu vực của bộ lạc. Mọi người có điện thoại di động, nhưng tỷ lệ biết chữ thấp, trưởng thành thấp, Bhujbal nói. Không ai có thể tưởng tượng rằng một tội ác ghê tởm như vậy có thể xảy ra đối với một số tin nhắn. Không có gì có thể tồi tệ hơn thế này; đó là một bất lợi của phương tiện truyền thông xã hội.
Puja Changoiwala là một nhà báo và tác giả độc lập từng đoạt giải thưởng có trụ sở tại Mumbai. Cô viết về sự giao thoa giữa giới tính, tội phạm, nhân quyền, công bằng xã hội và sự phát triển ở Ấn Độ. Bài viết này ban đầu được xuất bản trên Undark .
Nhận xét
Đăng nhận xét