ในช่วงเว็บสล็อตแตกง่ายปลายปี 2020 นักวิจัยของ Facebook ได้ข้อสรุปที่น่าสังเวช ความพยายามของบริษัทในการควบคุมคำพูดแสดงความเกลียดชังในโลกอาหรับไม่ได้ผลใน บันทึกย่อ 59 หน้าที่ เผยแพร่ภายในก่อนวันส่งท้ายปีเก่า วิศวกรให้รายละเอียดตัวเลขที่น่าสยดสยองตรวจพบเนื้อหาแสดงความเกลียดชังภาษาอาหรับเพียง 6 เปอร์เซ็นต์บน Instagram ก่อนที่จะเข้าสู่แพลตฟอร์มการแบ่งปันรูปภาพที่ Facebook เป็นเจ้าของ เมื่อเทียบกับอัตราการลบออก 40 เปอร์เซ็นต์บน Facebook
โฆษณาที่โจมตีผู้หญิงและชุมชน LGBTQ มักไม่ค่อยถูกตั้งค่า
สถานะให้ลบออกในตะวันออกกลาง ในการสำรวจที่เกี่ยวข้อง ผู้ใช้ชาวอียิปต์บอกบริษัทว่าพวกเขากลัวที่จะโพสต์ความคิดเห็นทางการเมืองบนแพลตฟอร์มเพราะกลัวว่าจะถูกจับกุมหรือโจมตีทางออนไลน์
ในอิรัก ที่การปะทะกันอย่างรุนแรงระหว่างกองกำลังติดอาวุธซุนนีและชีอะห์กำลังทวีความรุนแรงขึ้นอย่างรวดเร็วในประเทศที่เปราะบางทางการเมืองอยู่แล้ว ที่เรียกว่ากองทัพไซเบอร์ต่อสู้กับมันด้วยการโพสต์เนื้อหาที่ดูหมิ่นและผิดกฎหมาย รวมทั้งภาพเปลือยของเด็ก บนหน้า Facebook ของกันและกันเพื่อพยายามลบคู่แข่งออกจาก แพลตฟอร์มระดับโลก
ในเขตความขัดแย้งที่อันตรายที่สุดในโลกหลายแห่ง Facebook ล้มเหลวหลายครั้งในการปกป้องผู้ใช้ของตน ต่อสู้กับคำพูดแสดงความเกลียดชังที่มุ่งเป้าไปที่กลุ่มชนกลุ่มน้อย และจ้างพนักงานในท้องถิ่นให้มากพอที่จะปราบปรามลัทธิแบ่งแยกศาสนา ตามการเปิดเผยของสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์และมอบให้กับรัฐสภาใน แบบฟอร์มแก้ไขโดยที่ปรึกษากฎหมายของ Frances Haugen ผู้แจ้งเบาะแส Facebook
ฉบับแก้ไขได้มาจากกลุ่มองค์กรข่าว รวมทั้ง POLITICO
ท่ามกลางขุมทรัพย์ของเอกสารภายใน Facebook มีภาพของยักษ์ใหญ่เครือข่ายสังคมออนไลน์ที่พยายามดิ้นรนเพื่อรับมือกับบทบาทที่โดดเด่นในประเทศที่ถูกทำลายจากสงคราม หลายรัฐเหล่านี้เป็นที่ตั้งของกลุ่มผู้ก่อการร้ายหรือกลุ่มหัวรุนแรงขนาดใหญ่ที่เผยแพร่โฆษณาชวนเชื่อและความรุนแรงทางออนไลน์ทั่วทั้งแพลตฟอร์มทั่วโลกและสู่โลกออฟไลน์
Facebook ไม่ตอบคำถามว่าผู้บริหารดำเนินการตามรายงานปี 2020 ที่สรุปปัญหาในตะวันออกกลางหรือไม่
ในอัฟกานิสถาน ซึ่งมีผู้ใช้ 5 ล้านคนต่อเดือน Facebook
ใช้ผู้พูดภาษาท้องถิ่นเพียงไม่กี่คนเพื่อกลั่นกรองเนื้อหา ส่งผลให้คำพูดแสดงความเกลียดชังถูกลบออกไม่ถึง 1เปอร์เซ็นต์ อัลกอริธึมที่คลุมเครือในตะวันออกกลางในการตรวจจับเนื้อหาของผู้ก่อการร้ายได้ ลบเนื้อหาภาษาอาหรับที่ไม่รุนแรง อย่างไม่ถูกต้อง 77 เปอร์เซ็นต์ของเวลาทั้งหมด ทำลายความสามารถของผู้คนในการแสดงออกทางออนไลน์ และจำกัดการรายงานอาชญากรรมสงครามที่อาจเกิดขึ้น
ในอิรักและเยเมน บัญชีปลอมที่มีการประสานงานกันในระดับสูง — ส่วนใหญ่เกี่ยวข้องกับสาเหตุทางการเมืองหรือญิฮาด — เผยแพร่ข้อมูลที่ผิดและยุยงให้เกิดความรุนแรงในท้องถิ่น ซึ่งมักเกิดขึ้นระหว่างกลุ่มศาสนาที่ทำสงคราม
ในโพสต์หนึ่งที่ตรวจสอบโดย POLITICO นักสู้กลุ่มรัฐอิสลาม (ไอเอส) ประกาศการสังหารทหารอิรัก 13 นายผ่านการอัพเดทบน Facebook ที่ใช้รูปภาพของ Mark Zuckerberg ผู้บริหารระดับสูงของบริษัท เพื่อปกปิดการโฆษณาชวนเชื่อจากเครื่องมือตรวจสอบเนื้อหาอัตโนมัติของแพลตฟอร์ม
“มีสงครามเกิดขึ้นมากมายบน Facebook” Moustafa Ayadกรรมการบริหารของแอฟริกา ตะวันออกกลาง และเอเชียที่ Institute for Strategic Dialogue ซึ่งเป็นกลุ่มนักคิดที่ติดตามแนวคิดสุดโต่งทางออนไลน์ ซึ่งตรวจสอบเอกสารภายในของ Facebook ในนามของ การเมือง
นับตั้งแต่การเลือกตั้งประธานาธิบดีสหรัฐในปี 2559 ความสนใจของผู้คน — และทรัพยากรของบริษัท — ได้มุ่งเน้นไปที่การแก้ปัญหาบทบาทที่เพิ่มขึ้นและแตกแยกของ Facebook ในการเมืองของอเมริกา
แต่ตำแหน่งอำนาจที่คล้ายคลึงกันของยักษ์ใหญ่ด้านเทคโนโลยีในประเทศต่างๆ ทั่วโลก โดยเฉพาะอย่างยิ่งในประเทศที่มีความตึงเครียดทางศาสนา ความขัดแย้งรุนแรงหลายปี และสถาบันของรัฐบาลที่อ่อนแอ มักนำไปสู่ผลลัพธ์ที่เลวร้ายยิ่งขึ้น และแม้แต่การตรวจสอบบทบาทของบริษัทในการเมืองระดับโลกน้อยลง
“เราคิดว่ามันไม่ดีในสหรัฐอเมริกา แต่เวอร์ชันดิบที่แพร่หลายไปทั่วโลกนั้นไม่มีสิ่งใดที่ทำให้น่ารับประทานในสหรัฐอเมริกา” Haugen ผู้แจ้งเบาะแสของ Facebook กล่าวกับผู้สื่อข่าวเกี่ยวกับกิจกรรมทั่วโลกของบริษัท “ฉันคิดว่ามีหลายชีวิตในสายนี้จริงๆ”
วาจาสร้างความเกลียดชังทางทิศตะวันตก
การเปิดเผยดังกล่าวเน้นย้ำถึงความยากลำบากของยักษ์ใหญ่ด้านเทคโนโลยีในการต่อสู้กับการแพร่กระจายของคำพูดแสดงความเกลียดชังและเนื้อหาหัวรุนแรงในประเทศต่างๆ ทั่วตะวันออกกลางและประเทศอื่นๆ ที่ความรุนแรงอย่างต่อเนื่องและการโปรโมตทางออนไลน์แสดงถึงอันตรายที่ใกล้จะเกิดขึ้นกับผู้ใช้ Facebook หลายล้านคน
นอกจากนี้ยังอนุญาตให้กลุ่มหัวรุนแรงทางศาสนา รวมถึงระบอบตาลีบันในอัฟกานิสถานและรัฐบาลเผด็จการเช่น บาชาร์ อัล-อัสซาด ในซีเรีย ใช้เครือข่ายสังคมเพื่อเผยแพร่ข้อความที่รุนแรงและเต็มไปด้วยความเกลียดชัง ทั้งภายในประเทศเหล่านี้และต่อศักยภาพ ผู้สนับสนุนในฝั่งตะวันตก โดยอ้างอิงจากการทบทวนโพสต์และการสนทนาบน Facebook และ Instagram หลายพันโพสต์ของ POLITICO โดยแยกจากกันกับผู้เชี่ยวชาญด้านการบิดเบือนข้อมูลสี่คนที่มีความเชี่ยวชาญในภูมิภาคนี้
ซึ่งรวมถึงวาจาสร้างความเกลียดชังในภาษาอาหรับและเนื้อหาของผู้ก่อการร้าย ซึ่งบางส่วนเสนอกลยุทธ์สำหรับการโจมตีเป้าหมายในฝั่งตะวันตก ถูกแชร์อย่างกว้างขวางบน Facebook และ Instagram ซึ่งมักมีโพสต์ที่แปลเป็นภาษาอังกฤษเพื่อการบริโภคสำเร็จรูป
ต่างจากประเทศกำลังพัฒนาอย่างอินเดีย ซึ่งเป็นที่ตั้งของฐานผู้ใช้ที่ใหญ่ที่สุดของ Facebook และที่ซึ่งนักการเมืองท้องถิ่นได้ออกแรงกดดันด้านกฎระเบียบอย่างมากต่อยักษ์ใหญ่ด้านเทคโนโลยี ประเทศต่างๆ ในตะวันออกกลางและในเอเชียกลางไม่ได้รับความสนใจเช่นเดียวกันจากวิศวกรของบริษัท โดยพิจารณาจากข้อมูลภายใน เอกสาร
Facebook ระบุว่าหลายประเทศเหล่านี้เป็นพื้นที่ที่มีความเสี่ยงสูง หรือที่เรียกว่าโซน Tier 1 ที่ต้องใช้ทรัพยากรเพิ่มเติม เช่น อัลกอริธึมการตรวจสอบเนื้อหาที่ซับซ้อน และทีมในประเทศเพื่อตอบสนองต่อเหตุการณ์ที่เกิดขึ้นเกือบจะแบบเรียลไทม์ ตามรายการภายในของ Facebook ประเทศที่มีความสำคัญสำหรับปี 2564
แต่การขาดความเชี่ยวชาญด้านภาษาท้องถิ่นและความรู้ด้านวัฒนธรรมทำให้ยากที่จะปราบปรามการแบ่งแยกนิกายออนไลน์และเนื้อหาที่เป็นอันตรายในรูปแบบอื่นๆ ที่มุ่งเป้าไปที่กลุ่มเปราะบางในท้องถิ่น เช่น ชุมชน LGBTQ ได้ยาก นักวิจัยของ Facebook และผู้เชี่ยวชาญภายนอกกล่าวว่าความล้มเหลวเหล่านี้อาจส่งผลกระทบต่อความรุนแรงในโลกแห่งความเป็นจริง
โคลิน พี. คลาร์ก ผู้อำนวยการฝ่ายนโยบายและการวิจัยของ The Soufan Group ซึ่งเป็นองค์กรไม่แสวงหากำไรที่เน้นเรื่องความมั่นคงระดับโลกกล่าวว่า “การบิดเบือนข้อมูลและวาจาสร้างความเกลียดชังทางออนไลน์เป็นเสาหลักของนโยบายต่างประเทศสำหรับประเทศและกลุ่มต่างๆ ในตะวันออกกลาง “มันนำมิติเพิ่มเติมที่กระตุ้นบังเกอร์นิกายให้กว้างขึ้น และที่น่าหนักใจ”
ในการตอบสนอง Facebook กล่าวว่ามีทีมที่ทุ่มเทเพื่อหยุดการละเมิดทางออนไลน์ในประเทศที่มีความเสี่ยงสูง และขณะนี้มีเจ้าของภาษากำลังตรวจสอบเนื้อหาในกว่า 70 ภาษาทั่วโลก
Joe Osborne โฆษกของ Facebook กล่าวในแถลงการณ์ว่า “พวกเขาได้ดำเนินการจัดการกับความท้าทายที่ยากลำบาก เช่น การพัฒนาคำศัพท์แสดงความเกลียดชัง และสร้างวิธีการใหม่ให้เราตอบสนองต่อปัญหาได้อย่างรวดเร็วเมื่อเกิดปัญหา” “เรารู้ว่าความท้าทายเหล่านี้เป็นเรื่องจริง และเราภูมิใจกับงานที่เราทำมาจนถึงปัจจุบัน”
ทะเลทรายของเจ้าของภาษา
ความยากลำบากของ Facebook ในโลกอาหรับไม่ได้เกิดขึ้นในชั่วข้ามคืน เป็นเวลาหลายปีแล้วที่นักวิจัยของบริษัท ผู้เชี่ยวชาญภายนอก และรัฐบาลบางแห่งในภูมิภาค ได้เตือนยักษ์ใหญ่เครือข่ายโซเชียลให้ลงทุนอย่างหนักในตะวันออกกลางเพื่อควบคุมการแพร่กระจายของวาจาสร้างความเกลียดชัง
“ตั้งแต่ปี 2018 ฉันบอกว่า Facebook มีผู้พูดภาษาอาหรับไม่เพียงพอ และ AI ของพวกเขาก็ใช้งานไม่ได้ โดยเฉพาะอย่างยิ่งในภาษาอาหรับ” Ayad นักวิจัยจากสถาบันเพื่อการเจรจาเชิงกลยุทธ์กล่าว “เอกสารเหล่านี้ดูเหมือนจะพิสูจน์สิ่งที่ฉันพูดมาตลอดสามปี มันทำให้ฉันดูบ้าน้อยลง”
แม้ในขณะที่ปัญหาคำพูดแสดงความเกลียดชังและเนื้อหาที่เป็นอันตรายอื่นๆ เพิ่มขึ้นในภูมิภาคนี้ Facebook พบว่าตัวเองมีผู้พูดภาษาอาหรับไม่เพียงพอ โดยเฉพาะผู้ที่มีความรู้ในท้องถิ่นเกี่ยวกับประเทศที่ถูกทำลายจากสงคราม
เมื่อนักวิจัยของ Facebook ถามทีมตรวจสอบเนื้อหาของ บริษัท ที่เข้าใจเนื้อหาภาษาอาหรับว่า “การเป็นตัวแทนของอิรักนั้นแทบไม่มีอยู่จริง” ตามเอกสารภายในเรื่อง “การบรรยายเรื่องความซื่อสัตย์ที่ไม่สมบูรณ์สำหรับตะวันออกกลางและแอฟริกาเหนือ” ลงวันที่ธันวาคม 2020
ในขณะนั้น ประเทศเป็นตัวแทนหนึ่งในสามของคำพูดแสดงความเกลียดชังที่ตรวจพบทั้งหมดภายในภูมิภาค และชาวอิรัก 25 ล้านคน หรือสองในสามของประชากรทั้งหมด มีบัญชี Facebook ตามการประมาณการของบริษัท
เอกสารอีกฉบับที่ไม่ระบุวันที่ชื่อ “โอกาสสำหรับการเปลี่ยนแปลงที่มีผลกระทบสูงต่อระบบอาหรับ” เตือนว่าแทบไม่มีคนที่พูดภาษาอาหรับเยเมนในทีมควบคุมเนื้อหาแม้ว่าสงครามกลางเมืองของประเทศนั้นกำลังทวีความรุนแรงขึ้นและ Facebook ได้เน้นเยเมนเป็นอันดับต้น ๆ ลำดับความสำคัญ.
เพื่อเป็นการตอบโต้ Facebook กล่าวว่าได้เพิ่มเจ้าของภาษาเพิ่มขึ้น รวมถึงภาษาอาหรับ และกำลังพิจารณาที่จะจ้างผู้ดูเนื้อหาที่มีทักษะการใช้ภาษาเฉพาะมากขึ้นหากต้องการบุคลากรดังกล่าว
ในอิรัก การขาดความเชี่ยวชาญในท้องถิ่นใน Facebook ได้กระตุ้นให้เกิดการแบ่งแยกศาสนา ในขณะที่กองกำลังติดอาวุธซุนนีและชีอะห์ได้โจมตีกันและกันบนโซเชียลเน็ตเวิร์กท่ามกลางความรุนแรงออฟไลน์ของนิกายที่ทวีความรุนแรงขึ้นสล็อตแตกง่าย
