จันจิรา สมบัติพูนศิริ เรื่อง

ภาพิมล หล่อตระกูล ภาพประกอบ

 

ตอนหนึ่งของซีรีส์ชื่อดัง Black Mirror สะท้อนสภาพสังคมที่ผู้คนสามารถให้คะแนน (rate) กันและกันได้ หากเห็นว่าบุคคลนั้นๆ มีพฤติกรรมน่าพึงพอใจในสายตาตนก็ให้คะแนนสูง เมื่อได้คะแนนมากก็จะได้รับอภิสิทธิ์ตามมาหลายอย่าง ทว่าหากมีพฤติกรรม ‘น่ารังเกียจ’ เช่น เดินชนใครแล้วไม่ขอโทษ คนอื่นอาจกดโหวตคะแนนต่ำ จนอาจถูกลงโทษทางสังคม เช่น แต้มที่มีไม่พอสำหรับซื้อตั๋วเครื่องบิน เป็นต้น

Black Mirror ได้รับการกล่าวขานว่าเป็นซีรีส์ ‘ดิสโทเปีย’ สายดาร์กสุดๆ ตัดความหวังคนที่อยากเห็นโลกสวย กระนั้นก็ดีซีรีส์ตอนนี้มิใช่เพียงเรื่องแต่งอีกต่อไป

ช่วง 3-4 ปีที่ผ่านมา รัฐบาลจีนพัฒนาโครงการ ‘เครดิตทางสังคม’ (social credit) โดยสอดรับกับยุทธศาสตร์สร้างจีนให้เป็นมหาอำนาจ เครดิตทางสังคมมุ่งหมายปั้นประชากรจีนดีเด่น ซึ่งมีพฤติกรรมอันสอดคล้องกับวิถีปฏิบัติซึ่งรัฐและผู้มีอำนาจเห็นว่า ‘เหมาะสม’ ในทางกลับกันผู้ที่ออกนอกลู่นอกทางไม่เพียงแต่มีพฤติกรรมที่ถือว่า ‘อนารยะ’ แต่ยังแข็งขืนต่อรัฐบาลก็อาจถูกลงโทษ ตัดสิทธิ์ต่างๆ ซึ่งขัดขวางการใช้ชีวิตอย่างปกติสุขในสังคม

 

เครดิตทางสังคมและ AI

 

เวลาคิดถึงระบบเครดิตทางสังคม ให้ลองคิดถึงตอนที่เราให้คะแนนคนขับ grab หลังใช้บริการ แต่ขยายภาพว่าผู้ให้คะแนนคือรัฐบาล ส่วนผู้รับคือประชาชนทุกคน และการให้คะแนนเกิดในทุกมิติของชีวิต ตั้งแต่ข้ามถนน ขึ้นรถเมล์ ไปธนาคาร มหาวิทยาลัย ที่ทำงาน รวมถึงเดินทางไปต่างประเทศ ฯลฯ คำถามที่ตามมาคือรัฐบาลรู้พฤติกรรมของเราทุกขณะได้อย่างไร จนตัดสินว่าใครมีพฤติกรรมเหมาะสมหรือไม่

ตอบได้ไม่ยาก ความรู้ดังกล่าวของรัฐบาลมาจากฐานข้อมูลขนาดใหญ่ (big data) ซึ่งมาจากหลายแหล่ง เช่น ทุกครั้งที่เราใช้เว็บไซต์ สื่อโซเชียล หรือแอปพลิเคชัน (รวมถึงแชทส่วนตัวในหลายกรณี) จะมีการเก็บข้อมูลรายบุคคลไว้ นอกจากนี้กิจกรรมหลายอย่างที่เกี่ยวข้องกับทางการและระบบราชการ ซึ่งทำผ่านระบบไบโอเมทริกซ์ (biometrics) (ลองนึกถึงตอนทำบัตรประชาชน หรือกระบวนการตรวจคนเข้าเมือง) ข้อมูลทางชีวภาพและกายภาพของบุคคลก็จะถูกบันทึกไว้

ที่สำคัญไปกว่านั้น ข้อมูลพฤติกรรมของประชาชนมาจากกล้องวงจรปิดทั่วเมือง ซึ่งสามารถประเมินผลใบหน้าและจดจำรายละเอียดหน้าตาของผู้คนได้ (facial recognition) ณ ปี 2561 รัฐบาลจีนติดตั้งกล้องวงจรปิดไปแล้ว 200 ล้านตัว และจะเพิ่มให้ถึง 400 ล้านตัวภายในปี 2563 ข้อมูลใบหน้าจะถูกส่งประเมินผลโดยเชื่อมโยงกับสถิติพฤติกรรมในอดีต ตลอดจนคาดการณ์แนวโน้มพฤติกรรมบุคคล นอกจากนี้ยังปะติดปะต่อข้อมูลของปัจเจกบุคคลกับคนอื่นรอบตัวในฐานเครือข่ายได้

ข้อมูลจำนวนมหาศาลที่ถูกรวบรวมจากหลากหลายแหล่งจะถูกประเมินและวิเคราะห์โดย ‘ปัญญาประดิษฐ์’ (Artificial Intelligence – AI) ซึ่งมีโปรแกรมหุ่นยนต์ (robot หรือเรียกสั้นๆ ว่า bot) คัดแยก จัดหมวดหมู่ คำนวณเชิงสถิติ และเชื่อมโยงข้อมูลว่าพฤติกรรมหนึ่งที่เกิดขึ้นสม่ำเสมอเป็นเหตุต่ออีกพฤติกรรมอย่างไร (ให้คิดถึงตอนซึ้อของในเว็บ Amazon หรือดู Netflix ข้อมูลการบริโภคของเราถูกบันทึกและประเมินสถิติเพื่อคัดกรองให้เราเห็นแต่สิ่งที่เรามีแนวโน้มจะสนใจเท่านั้น) ที่น่าสนใจคือขณะนี้ระบบ AI มีลักษณะเรียนรู้เชิงสถิติได้เอง (machine learning) จากการสะสมฐานข้อมูลและประเมินความผิดพลาดจากการทำงานในอดีต ทักษะซึ่งคล้ายสมองมนุษย์เช่นนี้มุ่งผลให้เกิดสิ่งที่เรียกว่า ‘การเรียนรู้ลึกซึ้ง’ (deep learning) ยิ่งโปรแกรมสั่งสมประสบการณ์มากเท่าไหร่ ก็ยิ่งฉลาดและเข้าใจพฤติกรรมมนุษย์ที่ซับซ้อนได้เองมากขึ้น

 

ผลของ AI ต่อพลวัตการประท้วง

 

AI แพร่หลายในชีวิตประจำวันโดยที่เรารู้ตัวและไม่รู้ ทั้งยังใช้ในสังคมที่เป็นประชาธิปไตยและสังคมที่มีลักษณะอำนาจนิยม ในสังคมแบบหลัง เช่น จีน เริ่มปรากฏการใช้เทคโนโลยีจดจำใบหน้าและ AI เพื่อควบคุมพฤติกรรมกระด้างกระเดื่องต่อรัฐบาลของประชาชน

งานศึกษาของ Steve Feldstein ชี้ว่ารัฐบาลจีนใช้เทคโนโลยีทั้งสองในการควบคุมกำกับประชาชนด้วยเหตุผลหลักสองประการ คือในประเทศที่มีประชากรจำนวนมากแบบจีน การใช้มนุษย์เช่นตำรวจหรือกองทัพในกิจการดังกล่าว มีราคา ‘แพง’ ทั้งในแง่เศรษฐกิจและความชอบธรรมทางการเมือง รัฐบาลต้องลงทุนกับการฝึกและจ้างเจ้าหน้าที่จำนวนมากเพื่อทำงานให้มีประสิทธิผล นอกจากนี้หากเจ้าหน้าที่ใช้กำลังเกินกว่าเหตุในการรับมือการประท้วง ก็อาจยิ่งสร้างวิกฤตศรัทธาต่อรัฐบาลจีนได้ กล่าวอีกนัยคือการใช้ปัญญาประดิษฐ์เพื่อควบคุมกำกับพฤติกรรมประชาชนส่งผลให้ความเป็น ‘บุคคล’ ของการควบคุมดังกล่าวหายไป คนที่ลงโทษผู้ประท้วงมิได้มีหน้าตาเยี่ยงมนุษย์หรือใส่เครื่องแบบเดินวนเวียนในหมู่บ้านเราอีกต่อไป ฉะนั้นจึงไม่รู้ว่าควรโกรธและโทษใครเมื่อถูกละเมิดสิทธิมนุษยชน

Feldstein วิเคราะห์ต่อไปว่านโยบายของรัฐบาลจีนสอดคล้องกับแนวโน้มรัฐบาลอำนาจนิยมในโลก ซึ่งกลัวถูกการประท้วงของประชาชนขับออกจากอำนาจ ฉะนั้นการใช้เทคโนโลยีกำกับควบคุมจึงเป็นประโยชน์ในสามสถานการณ์

ประการแรกคือ ก่อนการประท้วงก่อตัว เทคโนโลยีกำกับควบคุมใช้ ‘ตัดไฟแต่ต้นลม’ โดยข้อมูลจากหลากหลายแหล่งช่วยเผยว่าใครเป็นแกนนำ มีเครือข่ายอย่างไร เดินทางไปไหน ทำอะไรบ้าง เมื่อประเมินผลได้ จึงจับแกนนำล่วงหน้าก่อนจะก่อกิจกรรมใดๆ รวมถึงในเมืองที่ใช้ระบบเครดิตสังคม แกนนำอาจถูกลงโทษ โดยตัดคะแนนจนไม่สามารถซื้อตั๋วรถไฟ ตั๋วเครื่องบิน หรือส่งลูกเข้าโรงเรียนได้ นอกจากนี้ กล้องวงจรปิดตามจุดต่างๆ รวมถึงโปรแกรมอย่าง WeChat ยังรวบรวมข้อมูลและประเมินสิ่งที่เรียกว่าการก่อตัวของฝูงชน (crowd formation) เจ้าหน้าที่ตำรวจสามารถเข้าถึงข้อมูลส่วนนี้ได้ และเข้าสลายการชุมนุมก่อนจะบานปลาย

ประการที่สอง เทคโนโลยี AI ถูกใช้ในพื้นที่ความขัดแย้งทางชาติพันธุ์ โดยเฉพาะในเขตปกครองตนเองซินเจียง รัฐบาลจีนสร้างโปรแกรม ‘Integrated Joint Operation Platform’ (IJOP) ในฐานส่วนหนึ่งของงานตำรวจเชิงคาดการณ์ (predictive policing) โดยรวบรวมข้อมูลของชนกลุ่มน้อยชาวมุสลิมจากกล้องวงจรปิด รวมถึงจากแหล่งอื่น เช่น ป้ายทะเบียนรถ บัตรประจำตัวประชาชน สุขอนามัย การธนาคาร สถิติการทำผิดกฎหมาย ดีเอ็นเอ เพื่อสร้างฐานข้อมูลเชิงสถิติรายบุคคล โดยเชื่อมโยงความถี่ของพฤติกรรมในอดีตเข้ากับความเป็นไปได้ของพฤติกรรมต้านรัฐบาลที่อาจเกิดในอนาคต ดังนั้นเพื่อเป็นการป้องกัน เจ้าหน้าที่ตำรวจจึงจับผู้ต้องสงสัย ทั้งที่ไม่มีหลักฐานซึ่งหน้าว่าคนเหล่านี้ทำผิดอะไร ณ เวลาปัจจุบัน เช่น ชายรายหนึ่งให้สัมภาษณ์ว่าตนเองถูกรายงานแก่ IJOP เพราะมีข้อมูลว่าตนมีหนังสือเยอะเกินไป จึงอาจเป็นภัย

ประการสุดท้าย รัฐบาลใช้ AI ร่วมกับกำลังมนุษย์เพื่อบิดเบือนข่าวสาร และสร้าง ‘ห้องเสียงสะท้อน’ (echo chamber) ในกลุ่มผู้สนับสนุนรัฐบาล โปรแกรมหุ่นยนต์ถูกออกแบบให้แพร่ข่าวโฆษณาชวนเชื่อ ซึ่งเป็นประโยชน์แก่รัฐบาล ขณะเดียวกันก็ผลิตข่าวปลอมที่ทำลายความน่าเชื่อถือของศัตรูทางการเมือง ข่าวเช่นนี้มักถูกเผยแพร่ซ้ำๆ ในสื่อโซเชียลของผู้ที่มีแนวโน้มสนับสนุนรัฐบาลอยู่แล้ว (คำนวณจากแนวโน้มข่าวที่คนเหล่านี้เปิดอ่านหรือแชร์ข่าวในหน้าเพจตัวเอง) ในกรณีจีน บริษัท Toutiao ใช้โปรแกรมหุ่นยนต์ผลิตข่าวปลอม โดยอ้างว่าเพื่อสู้กับข่าวปลอมจากฝั่งที่ไม่ใช่รัฐบาล

 

การเผยแพร่เทคโนโลยีควบคุมปราบปราม

 

ขณะนี้รัฐบาลจีนเริ่มเผยแพร่เทคโนโลยีและความรู้เรื่องการใช้ AI เพื่อควบคุมกำกับพฤติกรรมประชาชน ให้แก่รัฐบาลที่มีลักษณะอำนาจนิยมที่อื่น เช่นเมื่อต้นปีที่แล้วตำรวจมาเลเซียซื้อเทคโนโลยีจดจำใบหน้าจากบริษัทยักษ์ใหญ่ของจีน Yui Technology นอกจากนี้ในช่วงเวลาใกล้เคียงกัน รัฐบาลสิงคโปร์ ประกาศว่าจะติดตั้งกล้องวงจรปิดพร้อมเทคโนโลยีจดจำใบทุกมุมถนน แม้รัฐบาลอ้างว่ามาตรการดังกล่าวมุ่งป้องกันการก่อการร้าย แต่กลับสอดคล้องกับแนวโน้มการควบคุมเสียงต้านจากประชาชนในโลกออนไลน์ เช่น เมื่อต้นเดือนเมษายนที่ผ่านมาได้ออกกฎหมายให้อำนาจเจ้าหน้าที่อย่างเด็ดขาดในการลงโทษผู้เผยแพร่ข่าวปลอม (ในสายตาของรัฐบาล) ในแอฟริกาซึ่งรัฐบาลจีนให้เงินช่วยพัฒนาอันเป็นส่วนหนึ่งของโครงการเส้นทางสายไหม รัฐบาลเอธิโอเปีย รวันดา และซิมบับเวซื้อเทคโนโลยีกำกับควบคุมจากบริษัทจีน ปราฏการณ์คล้ายกันเกิดขึ้นในโบลิเวีย เอกวาดอร์ และเวเนซูเอลา นักวิชาการจำนวนหนึ่งเห็นว่ามาตรการเผยแพร่เทคโนโลยีกำกับควบคุมเช่นนี้เป็นส่วนหนึ่งของการสร้าง ‘เครือข่ายอำนาจนิยมข้ามชาติ’ (networked authoritarianism) อันช่วยลดประสิทธิภาพของขบวนการภาคประชาชนที่ต่อสู้เพื่อประชาธิปไตยและสิทธิมนุษยชนสากล

Author

Janjira Sombatpoonsiri

จันจิรา สมบัติพูนศิริ - อาจารย์คณะรัฐศาสตร์ มหาวิทยาลัยธรรมศาสตร์ ผู้สนใจศึกษาเรื่องสันติวิธี ประชาธิปไตย และการเคลื่อนไหวทางสังคม เจ้าของผลงานหนังสือ “หัวร่อต่ออำนาจ : สันติวิธีและอารมณ์ขัน”