เอไอจะมาแย่งงานมนุษย์หรือไม่? เป็นไปได้ไหมถ้าเอไอจะครองโลก? แล้วมนุษย์จะมีวิธีการกำกับดูแลเทคโนโลยีชนิดนี้ได้อย่างไร?
วินาทีนี้คงไม่มีใครไม่รู้จักปัญญาประดิษฐ์ (Artificial intelligence – AI) แต่คำถามส่วนใหญ่มักเป็นเรื่องกลไกการทำงานอันซับซ้อนของโปรแกรมคอมพิวเตอร์ ประโยชน์และโทษของพัฒนาการล้ำสมัยของสิ่งประดิษฐ์ชนิดนี้ ตลอดจนการแนวโน้มการจ้างงานมนุษย์ในตลาดแรงงานเมื่อมีเอไอเข้ามา อย่างไรก็ตาม การมองเรื่องเอไอด้วยแง่มุมเชิงสังคมศาสตร์ในฐานะจุดเปลี่ยนสำคัญของวัฒนธรรมมนุษย์ และการหาวิธีที่มนุษย์จะอยู่ร่วมกับเทคโนโลยีเหล่านี้ กลับไม่ค่อยถูกกล่าวถึงเท่าไรนัก
ยิ่งไปกว่านั้น พัฒนาการของเอไอทั่วโลกในฐานะ large language model อย่าง ChatGPT ตลอดจนการใช้เอไอในการผลิตผลงานศิลปะหรือซึ่งในบางกรณีอาจสุ่มเสี่ยงต่อการละเมิดลิขสิทธิ์ เนื่องจากมีการดึงข้อมูลจากผลงานของศิลปินจริง หรือกระทั่งการใช้เอไอในการผลิตและจัดจำหน่ายสินค้าและบริการ ยิ่งทำให้ต้องตั้งคำถามใหม่ๆ ถึงข้อกังวลด้านจริยธรรมในการใช้งานเอไอ รวมถึงความโปร่งใสและความรับผิดชอบของนักพัฒนาระบบ เมื่อเอไอเป็นมากกว่าแค่เครื่องมืออำนวยความสะดวกที่เรามองเห็นได้ด้วยตา แต่แทรกซึมลงในการใช้ชีวิตประจำวันของเราอย่างแยกขาดจากกันได้ยาก
101 สนทนากับ อาทิตย์ สุริยะวงศ์กุล นักวิจัยด้านนโยบายวัฒนธรรมดิจิทัลและนโยบายอินเทอร์เน็ต ผู้ร่วมก่อตั้งมูลนิธิอินเทอร์เน็ตและวัฒนธรรมพลเมือง (เครือข่ายพลเมืองเน็ต – Thai Netizen Network) ขณะนี้กำลังศึกษาปริญญาเอกด้านธรรมาภิบาลปัญญาประดิษฐ์ (AI Governance) ณ วิทยาลัยทรีนิตี้ มหาวิทยาลัยดับลิน ประเทศไอร์แลนด์ ต่อประเด็นวัฒนธรรมมนุษย์กับเอไอ ข้อกังวลเมื่อเอไอเข้ามามีบทบาทในชีวิต ตลอดจนหลักการกำกับดูแลเอไอในเชิงนโยบายเพื่อให้คนอยู่ร่วมกับเทคโนโลยีได้อย่างมีคุณภาพชีวิตที่ดี
รากฐานของเอไอจริงๆ แล้วคืออะไรกันแน่
นิยามของเอไอหลากหลายและกว้างมาก ในที่นี้อาจพูดถึงระบบหรือซอฟต์แวร์ที่สามารถทำงานบางอย่างได้เทียบเท่าหรือใกล้เคียงมนุษย์ ในอดีตงานเหล่านั้นก็อาจเฉพาะเจาะจงมาก อย่างการเล่นหมากรุก ซึ่งมักเป็นตัวอย่างในการวัดว่าความสามารถของเอไอใกล้เคียงมนุษย์แค่ไหนแล้วในงานนั้นๆ โดยเทียบจากการให้เอไอแข่งกับแชมป์หมากรุกระดับชาติหรือระดับโลก แรกๆ อาจยังห่างชั้นกันมาก ต่อมาเอไอก็เริ่มสูสี แต่เมื่อเล่นไปเรื่อยๆ สุดท้ายเอไอก็ชนะคน
ปัจจุบันเอไอก็เริ่มมีการพัฒนา เริ่มเก่งหลายงานมากขึ้น เช่น การแปลภาษา เมื่อสัก 5-6 ปีที่แล้ว กูเกิลทรานสเลตอาจแปลภาษาไทยได้ไม่ค่อยดี แต่เดี๋ยวนี้เก่งขึ้น แน่นอนว่าอาจยังแปลแปลกๆ อยู่ แต่เมื่อลองเทียบกับคน ถ้าป้อนงานปริมาณเท่ากัน เอไอแปลได้เร็วกว่า เยอะกว่า แต่เรื่องคุณภาพก็อาจไม่เท่าให้คนแปล รวมถึงงานเอกสารกฎหมาย เอกสารราชการ หรือซับไตเติลที่ต้องอาศัยบริบทแวดล้อม ซึ่งไม่ได้อยู่ในข้อมูลที่ป้อนเข้าไปให้ ถ้าให้เอไอแปล ก็อาจแปลได้ไม่ค่อยเก่งนัก
อะไรทำให้เอไอแตกต่างจากโปรแกรมคอมพิวเตอร์ทั่วไปที่เราเคยรู้จัก
กล่าวง่ายๆ คือเราไม่ได้ให้ ‘วิธีทำ’ กับคอมพิวเตอร์ แต่เราแค่ให้ ‘ข้อมูล’ ตั้งต้นและบอกลักษณะของข้อมูลปลายทางที่เราคาดหวัง สิ่งนี้เป็นจุดสำคัญที่ทําให้เอไอในปัจจุบัน แตกต่างจากโปรแกรมคอมพิวเตอร์ในสมัยก่อน
เปรียบเทียบว่าโปรแกรมคอมพิวเตอร์สมัยก่อน เราป้อน 1) input เข้าไป และให้ 2) solution คล้ายๆ สูตรอาหาร ว่ามีส่วนผสมอะไร มีขั้นตอนอย่างไร แล้วคอมพิวเตอร์จะให้ 3) output กับเรา แต่เอไอทำงานอีกแบบหนึ่ง คือเราให้ 1) input และ 3) output ส่วน 2) solution ที่เป็นวิธีทำนั้นเอไอจะใช้การเรียนรู้ของเครื่อง (AI machine learning) ไปหามาเอง
เมื่อก่อนเราต้องใช้คนเขียนโปรแกรมสร้าง 2) solution แต่ตอนนี้อาจไม่จำเป็นแล้ว เปรียบเทียบกับกรณีเกมหมากรุก คือเราไม่แน่ใจว่ามีวิธีเล่นกี่แบบบ้าง อาจมีวิธีหลากหลายกว่าที่เรารู้ และโปรแกรมนี้เขียนยากเหลือเกิน แต่เรามีข้อมูล 3) output อยู่เยอะมาก ว่าผลลัพธ์ที่จะชนะหมากรุกได้นั้นต้องมีเงื่อนไขอะไร ตัวหมากเรียงตัวแบบไหนได้บ้าง ก็ป้อนข้อมูลนี้กับคอมพิวเตอร์แทน
ก่อนหน้านี้ เราจะใช้คอมพิวเตอร์ทําอะไรก็ตาม เราต้องเขียนโปรแกรมให้ได้ ต้องอธิบายขั้นตอนให้คอมพิวเตอร์ มันถึงจะทํางานให้เราได้ แต่ที่เอไอสำคัญขึ้นมา ใครๆ ก็อยากจะใช้ เพราะมันปลดล็อกตรงนี้ คุณไม่ต้องจําเป็นต้องเขียนโปรแกรมอีกต่อไป ขอให้คุณมีข้อมูลตั้งต้นและข้อมูลปลายทาง คุณรู้ว่าคุณอยากได้อะไร เดี๋ยวคอมพิวเตอร์จะพยายามหาวิธีทำเอง
มีข้อจำกัดบ้างไหมจากการที่ให้คอมพิวเตอร์หาวิธีทำเองโดยเรียนรู้จากข้อมูล
สมมติเราบอกเอไอให้หาความเชื่อมโยงของข้อมูลปี 2001-2010 ในประเด็นหนึ่งๆ และเมื่อได้ความเชื่อมโยงมาแล้ว เราก็อาจใช้มันวิเคราะห์ข้อมูลของปีไหนก็ได้ หรือเราอาจมีข้อมูลใหม่จากปี 2011-2020 ซึ่งเอไอก็อาจคําตอบให้เราได้ แต่จะแม่นยำไหมก็อีกเรื่อง
ที่กล่าวมานี้เป็นปัญหาของการที่เราให้มันไปหาวิธีเอง เพราะมันอาจเก่งมากสําหรับข้อมูลช่วงปี 2001-2010 สมมติเป็นโมเดลวิเคราะห์ว่าคนควรได้เงินกู้หรือไม่ โดยวิเคราะห์จากดอกเบี้ยเงินกู้ อัตราค่าแรงขั้นต่ำ ราคาสินค้า ความสามารถในการจ่ายเงินคืน แต่เมื่อเอไอได้วิธีการวิเคราะห์จากข้อมูลปี 2001-2010 เท่านั้น และในปัจจุบันปัจจัยต่างๆ เปลี่ยนไปมากเอไอก็อาจวิเคราะห์ได้ไม่แม่นยำ เราก็ควรต้องมีข้อมูลใหม่ๆ ป้อนให้มัน
อีกปัญหาที่พบคือการไถล (drift) ถ้าโลกในปี 2020 ไม่ได้เปลี่ยนไปมากจากปี 2010 หรือไถลน้อย โมเดลเอไอนี้ก็ยังใช้ได้ดีอยู่ แต่ถ้าโลกเปลี่ยนไปมาก ความรู้ของเราเกี่ยวกับโลกนั้นเปลี่ยนไป แล้วเรายังตัดสินใจบนฐานความรู้เดิมนี้ ก็มีโอกาสตัดสินใจผิดพลาดสูง การใช้โมเดลเอไอในประเด็นเหล่านี้ต้องมีการตรวจสอบอยู่ตลอดเวลาว่าการตัดสินใจต่างๆ ยังสมเหตุสมผลอยู่หรือไม่
เอไอก็เหมือนพนักงานคนหนึ่ง อาจเคยทำงานที่อื่นมา อาจไม่ได้พอดีกับงานที่ต้องทำ เราก็ต้องสอนว่าบริษัทเรามีขั้นตอนอย่างไร จะต้องดูแลลูกค้าอย่างไร ซึ่งในท้ายที่สุด ทุกบริษัทก็ต้องมีหัวหน้าคอยสุ่มตรวจ โดยอาจหยิบเอาบางกรณีที่แตกต่างจากลูกค้าคนอื่น มาพิจารณาว่าหลักสูตรที่ใช้สอนงานพนักงานยังใช้ได้อยู่หรือเปล่า ถ้าเริ่มมีลูกค้ารูปแบบใหม่ๆ เข้ามา ก็ต้องอัปเดตหลักสูตรอบรมพนักงานของเรา เอไอก็เหมือนกัน ต้องมีการอบรมใหม่เรื่อยๆ
เป็นไปได้ไหมว่าสำหรับบางงาน เอไออาจจะเก่งกว่ามนุษย์แล้วก็ได้
ถ้าอยู่ในเงื่อนไขเดียวกัน เป็นไปได้ที่มันอาจจะเก่งกว่า เช่น ปัจจุบันนี้ในสนามบิน คอนเสิร์ตใหญ่ หรือสนามกีฬาที่มีคนเข้าออกเยอะ ก็มีการติดตั้งกล้องวิดีโอที่สามารถกวาดแล้วตรวจจับใบหน้าได้พร้อมกันเป็นร้อยๆ คนแล้วเทียบกับฐานข้อมูลอาชญากรรมได้ งานแบบนี้ถ้าให้คนมาเทียบกับฐานข้อมูลทีละรูปๆ ก็อาจจะใช้เวลานานกว่ามาก แปลว่าอย่างน้อยในงานที่มีข้อจํากัดแบบนี้ เอไอเก่งกว่า
อย่างไรก็ตาม มีงานแบบอื่นๆ ที่มีข้อจํากัดแตกต่างกันไป ความเร็วอาจไม่สำคัญ แต่ความละเอียดหรือความสร้างสรรค์สำคัญกว่า เช่น การแต่งเพลง หรืองานที่ทำให้คนรู้สึกว่าไม่เคยได้ยินได้ฟัง ไม่เคยเห็นมาก่อนเลย ก็เป็นไปได้ที่คนอาจยังเก่งกว่า เพราะอย่าลืมว่าแม้ตอนนี้เราจะมีเอไอที่สร้างภาพ เสียง และวิดีโอได้ แต่สิ่งเหล่านี้ก็มาจากข้อมูลที่คนป้อนเข้าไป ดังนั้นมันอาจสร้างเพลงที่คนชอบ หนังที่คนดูแล้วรู้สึกเชื่อมโยง แต่มันก็มีสูตรสําเร็จบางอย่าง ไม่ใช่สิ่งที่ “เฮ้ยคิดได้ไง” คือมันอาจทําได้บ้าง แต่ยังทําได้ไม่ดีเท่าคนก็เป็นได้
ถามว่ามีความพยายามให้เอไอสร้างสรรค์สิ่งใหม่ๆ ไหม ผมว่าก็มีความพยายามอยู่ แต่ความคิดสร้างสรรค์หรือความใหม่เป็นสิ่งที่วัดได้ยาก เราจะต้องมีวิธีการวัดก่อน ซึ่งก็เป็นอัตวิสัยมากๆ แต่เวลาเราพูดถึงความใหม่หรือความคิดสร้างสรรค์ก็มีหลายแบบ ถ้าเป็นความใหม่ที่เกิดจากการผสมสิ่งที่มีอยู่แล้วออกมาให้คนรู้สึกว่าลงตัว เช่น การผสมแนวเพลงสองแนวที่อาจไม่เข้ากัน แบบนี้ดูจะเป็นไปได้มากกว่าสำหรับเอไอ
แสดงว่าที่เรากังวลกันว่าแนวโน้มของการจ้างงานคนจะน้อยลงเพราะมีการใช้เอไอแทนมากขึ้น ก็ไม่เสมอไปใช่ไหม
จริงอยู่ที่เอไอแทนคนไม่ได้ทุกงาน แต่คําถามคือ ตลาดแรงงานต้องการงานแบบไหนและมากน้อยแค่ไหน ทุกวันนี้ของที่ผลิตเป็นจำนวนมาก (mass product) รวมถึงหนังและเพลง ก็ยังเป็นสิ่งที่ทําเงินมากที่สุด ผู้ผลิตก็มักสนใจสิ่งที่ทําเงินได้เยอะกว่า และมีแนวโน้มสูงว่าการผลิตงานส่วนนี้จะแทนที่ได้ด้วยเอไอ
สมมติว่าเป็นการถ่ายทำภาพยนตร์ สุดท้ายอาจต้องมีคนสําหรับการติดต่อประสานงาน ดูสถานที่ แต่แทนที่จะต้องใช้คนตัดต่อ เมื่อก่อนขั้นตอนหลังการผลิตงาน (post production) อาจต้องใช้คนห้าคนและใช้เวลาสามเดือน แต่ตอนนี้ พอมีซอฟต์แวร์เหล่านี้มากขึ้น ก็อาจเหลือสองคนและใช้เวลาสองเดือน ส่วนงานอื่นๆ เช่น การแปลภาษา ก็อาจใช้คนและเวลาน้อยลงเช่นกัน
ลักษณะงานอาจเปลี่ยนไป เช่น เปลี่ยนจากการแปลซับไตเติลเป็นการตรวจแทน ดังนั้น เวลาถามว่า เอไอแทนคนได้ไหม เราอาจคิดเป็นการแทนต่อหัวไม่ได้ แต่อาจต้องคิดเรื่องลักษณะงานที่จะตกมาถึงมนุษย์ว่าเปลี่ยนไปอย่างไร งานแปลอาจไม่มีแล้ว เหลือแค่งานตรวจ ซึ่งค่าจ้างก็จะน้อยลง องค์กรรับพนักงานคนใหม่ชื่อเอไอมาเพิ่ม พนักงานคนนี้มาทำงานจำนวนหนึ่งที่เราเคยทำ แล้วเราก็ถูกลดตําแหน่ง ซึ่งลักษณะงานที่คนเราทำก็อาจเปลี่ยนไปก็ได้ เราอาจรู้สึกว่าทํางานนี้ไปก็ไม่คุ้ม ไปทําอย่างอื่นดีกว่า ก็เป็นไปได้
ความน่ากังวลเรื่องการจ้างงานคนที่ลดน้อยลงมีมากน้อยแค่ไหน หากประเมินจากสถานการณ์แบบนี้
ถ้าพูดถึงการจ้างงาน สิ่งที่น่ากังวลสําหรับอนาคตข้างหน้า อาจไม่ใช่เรื่องเอไอล้วนๆ ผมคิดว่าความน่ากังวลเป็นเรื่องของการที่ระบบทั้งหลายซอยงานให้เป็นก้อนย่อยๆ (tokenize) เมื่อก่อนเวลาเราพูดถึงการจ้างงาน เราพูดถึงการจ้างมนุษย์หนึ่งคน เป็นหน่วยหนึ่งหน่วยของการทํางาน เขาทำงานในขอบเขตหน้าที่ ความรับผิดชอบ และเงินเดือนที่ได้รับ แต่ตอนนี้ งานถูกซอยเป็นส่วนย่อยๆ ในลักษณะที่ว่าเราไม่จําเป็นต้องจ้างคนเต็มคนก็ได้ อย่างคนส่งของ เมื่อก่อนจะประจำอยู่กับบริษัทเดียวหรือไม่กี่บริษัท ความแน่นอนคือเขารู้ว่าในแต่ละเดือนจะได้เงินเดือนเท่าไร เพื่อนร่วมงานและสังคมก็มีความแน่นอนในระดับหนึ่ง คือเป็นกลุ่มเดิม เพราะระหว่างการทํางาน เราไม่เพียงได้แค่เงินเดือนหรือทักษะจากการทํางานเท่านั้น แต่เราได้เครือข่ายสังคม (social network) ติดตัวมาจากการทํางานด้วย ทั้งในแผนกเดียวกันและข้ามแผนก รวมถึงลูกค้าและคู่ค้า ซึ่งอาจนําไปสู่การแนะนํางาน และการขยับสถานะทางสังคม (social mobility) ไปสู่ตําแหน่งงานอื่นในบริษัทเดียวกันหรือตำแหน่งงานเดียวกันในบริษัทอื่นที่ได้เงินเดือนดีขึ้น มันเกิดขึ้นได้เพราะมีการสร้างความไว้วางใจระหว่างมนุษย์ด้วยกันระหว่างการทำงาน
แต่เมื่องานถูก tokenize ยกตัวอย่างกรณีไรเดอร์ ไม่มีหลักการจ้างงานที่ตายตัว คุณวิ่งน้อยก็ได้น้อย วิ่งมากก็ได้มาก แพลตฟอร์มก็มองว่าไม่ใช่พนักงานของตัวเอง ดังนั้นประกันสังคมก็ไม่เกี่ยว รายได้กับความความมั่นคงในอาชีพไม่แน่นอน ประกันอุบัติเหตุไม่ครอบคลุม วันลาไม่มี ประกอบกับทักษะที่ได้จากการทำงานที่ถูกซอยย่อยมาแล้วนี้อาจไม่สามารถใช้กับงานที่อื่นได้และการมีเครือข่ายสังคมที่จำกัดกว่า ก็ทำให้กระทบกับความสามารถในการขยับสถานะทางสังคม
เอไอมีส่วนเกี่ยวข้องอย่างไรกับการ tokenize งานในลักษณะที่ว่ามา
เมื่องานถูก tokenize แล้ว มันไม่ได้กระทบเฉพาะเรื่องเงิน สมมติกรณีนักแปล ทำงานกับคน แปลงานแล้วมีคนเห็น ชวนไปเป็นเลขาติดต่อต่างประเทศ มีโอกาสเปลี่ยนสายงานได้ ในขณะที่ถ้าคุณเป็นนักตรวจคําแปลที่มาจากเอไอเท่านั้น คุณก็จะทํางานกับคอมพิวเตอร์ อาจจะไม่เห็นหน้านายจ้างด้วยซ้ำ เครือข่ายสังคมจะเป็นอีกแบบ แทบไม่มีการขยับสถานะทางสังคม เพราะคุณไม่เห็นคนจ้างงาน คุณเห็นแต่งานที่ถูกซอยวิ่งเข้ามาหา หรือก่อนนี้คุณเห็นแผนกบัญชี แต่เดี๋ยวนี้คุณไม่เห็นแล้ว คุณเห็นแต่ออเดอร์
จากเดิมที่เราเป็นคนงานอยู่ในระบบ สามารถเติบโตในสายงานหรือระบบนั้นได้ แต่ตอนนี้เราเป็นแค่เฟืองตัวหนึ่งที่ระบบออกแบบมาทุกอย่างเรียบร้อยแล้ว แต่ยังมีงานบางส่วนที่เอไอทําไม่ได้ เช่น คนตรวจสอบว่าเกิดการไถลของข้อมูลหรือเปล่า แต่คนก็เป็นแค่ส่วนเสริมของระบบทั้งหมด ไม่ได้เป็นศูนย์กลางแล้ว
งานที่เรามองว่าเป็นงานใช้ทักษะ อาจถูกลดความสําคัญบางอย่างแล้วถูกแทนที่ได้ง่าย ไม่ใช่ว่างานนี้จะหายไปเลย แต่เพราะความซับซ้อนของงานที่ถูกส่งให้คนนั้นน้อยลง มันถูกซอยให้เป็นชิ้นเล็กๆ บางทีตรวจงานที่เอไอแปล เราอาจไม่รู้ด้วยซ้ำว่าแปลแล้วประโยคนี้ไปอยู่ตรงไหนในสังคม ดังนั้น เวลาเขียน CV เราจะอ้างความเป็นเจ้าของอะไรได้ จากที่เมื่อก่อนเขียนได้ว่าเป็นเจ้าของโปรเจ็กต์ ก็อาจเหลือแค่ทำงานเดียวกันนี้ซ้ำๆ มาห้าปี ประวัติการทํางานของเรากลายเป็นแค่ข้อมูลของแพลตฟอร์มนั้น
สรุปแล้ว คนยังมีงานทําอยู่ แต่งานที่มีคุณค่าที่จะทําให้เขาเคลื่อนตัวเองไปอีกช่วงชั้นของสังคมจะยากขึ้น เมื่อสัญญาการจ้างงานเปลี่ยนจากการจ้างประจําให้เป็นครั้งๆ ไป เอไอทำงานร่วมกับการซอยงาน โดยเอไอทําให้การซอยงานเป็นไปได้มากขึ้น เช่น คนส่งของหมื่นคนกับร้านค้าไม่รู้กี่แสนร้าน ถ้าไม่มีระบบอัตโนมัติก็ซอยงานไม่ได้ แต่ละคนต้องประจําอยู่แต่ละเขต แต่การมีเอไอ มีจีพีเอสบอกว่าอยู่ตรงไหน ใกล้กับลูกค้าคนไหน การซอยงานในระดับนาทีเพื่อที่จะมอบหมายงานให้คนส่งของแต่ละคนก็สามารถทำได้เลย
เอไอทำงานได้ด้วยข้อมูล มีโอกาสไหมที่เอไอจะไปดึงข้อมูลที่ละเมิดจริยธรรมหรือละเมิดลิขสิทธิ์ เราจะจัดการปัญหานี้ได้อย่างไร
เป็นประเด็นที่คนพูดกันเยอะ อย่างน้อยในโลกตะวันตกและอีกหลายประเทศที่มีอุตสาหกรรม สร้างสรรค์แข็งแรงก็ใช้กฎหมายตามที่มีอยู่แล้ว ปัจจุบันเกิดกรณีฟ้องร้องกันในลักษณะนี้เยอะมาก เช่น ผู้ผลิต เอไอโมเดลภาษา ไปดึงข้อมูลจํานวนมากจากเว็บไซต์ข่าวโดยไม่ขออนุญาต แล้วนำไปใช้หาประโยชน์เชิงพาณิชย์ ซึ่งก็อาจกระทบกับโอกาสทางเศรษฐกิจของสำนักข่าวนั้น เช่น เมื่อก่อนเราค้นกูเกิลเพราะอยากรู้เรื่องฮ่องกง มันก็จะปรากฏผลการค้นหาจํานวนหนึ่งจากเว็บไซต์หนังสือพิมพ์ต่างๆ ในฮ่องกง และพอคลิกเข้าเว็บไซต์ไปก็อาจจะเห็นโฆษณา ฝั่งหนังสือพิมพ์ก็มีโอกาสสร้างรายได้ แต่เมื่อโมเดลเอไอไปดูด (scrap) ข้อมูลมา จากที่เราเคยต้องค้นหาหลายเว็บไซต์ ก็แค่ถามโมเดลเอไอ แล้วมันก็ตอบ ฝั่งเว็บไซต์หนังสือพิมพ์ไม่ได้อะไรเลยจากสิ่งนี้ มันคือการบีบอัดหรือซิป (zip) ทั้งเวิลด์ไวด์เว็บ (World Wide Web – WWW) ให้มาอยู่ในก้อนโมเดลหนึ่งก้อน คุณย่อโลกอินเทอร์เน็ตมาไว้ในหนึ่งห้อง และคนที่ได้รายได้คือเจ้าของห้องเท่านั้น มันไม่ใช่แค่ละเมิดลิขสิทธิ์แค่ครั้งเดียว แต่ยังกระทบไปถึงโอกาสในการหารายได้ครั้งอื่นในอนาคตและตลอดไปด้วย
อย่างไรก็ตาม เวลาซิป มันคือการหยุด (freeze) โลก ณ ขณะนั้น สมมติว่าทําโมเดลตอนปี 2024 พอปี 2025 ผมถามข่าวไป ข่าวใหม่ๆ ก็อาจไม่ปรากฏขึ้นมา คนที่ทําโมเดลพวกนี้ก็ไม่อยากให้โมเดลตัวเองล้าสมัย ก็ต้องป้อนข้อมูล ดังนั้นถ้าโมเดลเอไออยากจะมีความรู้ของ 2025 ด้วย ก็ต้องขออนุญาตหนังสือพิมพ์พวกนี้ดึงข้อมูล ซึ่งก็จะมีการทําสัญญาตกลงร่วมมือกับบริษัทในการเข้าถึงข้อมูล หรือบางโมเดลอยากจะใช้เอไอในการผลิตรูปภาพ ดังนั้น Getty Images ก็ให้มาใช้โมเดลของตัวเองที่ถูกสอนจากภาพที่เป็นลิขสิทธิ์ของตัวเอง มั่นใจได้ร้อยเปอร์เซ็นต์ว่าถ้าคุณผลิตรูปออกมาแล้วใช้ได้ ไม่ผิดลิขสิทธิ์
ตอนนี้อยู่ในจุดที่เราพิสูจน์ได้แล้วว่าเอไอสร้างวิธีการได้ แต่เป็นไปได้ว่าวิธีการนั้นอาจมาจากข้อมูลที่ละเมิดลิขสิทธิ์ ดังนั้นจะมีการดีลกับคนที่มีข้อมูลตั้งต้น ซื้อกันอย่างถูกต้อง แต่ความคุ้มค่าก็เป็นอีกประเด็นหนึ่ง เพราะบริษัทที่สร้างระบบเหล่านี้จะต้องซื้อข้อมูลแล้ว เขาก็คาดหวังว่าข้อมูลที่ได้จะต้องมีคุณภาพสูงขึ้น ไม่ได้หมายถึงเนื้อหาอย่างเดียว แต่คุณภาพของรูปแบบ (format) ด้วย หน้าเว็บไซต์สะดวกต่อการคลีนข้อมูลไหม การพาดหัวและวันที่จะทำให้ระบบสับสนไหม คอมพิวเตอร์จะเอาไปประมวลผลต่อได้ง่ายไหม ถ้าสํานักข่าวไหนจะไปสู่ตลาดนี้ก็ต้องมีมาตรฐาน ต้องมีแพ็กเกจอีกแบบ เพราะแพ็กเกจสำหรับให้มนุษย์อ่านกับแพ็กเกจที่ทำหีบห่อให้เครื่องเอาไปเรียนรู้นั้นแตกต่างกัน
ทั้งหมดนี้ มีหลักการอย่างไรสำหรับการที่รัฐจะมีบทบาทการควบคุมเอไอ
เรื่องการจ้างงาน ไม่ว่าจะเป็นเอไอหรือเทคโนโลยีใดๆ ที่เข้ามามีผลกระทบต่อความสัมพันธ์ระหว่างลูกจ้างกับนายจ้าง รัฐจําเป็นต้องเป็นตัวกลางให้การจ้างงานที่เป็นธรรมนั้นเกิดขึ้นได้ เมื่องานถูกซอยย่อยให้เป็นก้อนเล็กๆ และไม่ผูกอยู่กับนายจ้าง ความสัมพันธ์ระหว่างนายจ้างลูกจ้างเปลี่ยนไป ความคุ้มครองตามกฎหมายที่ตั้งอยู่บนสมมติฐานความสัมพันธ์แบบเดิมใช้ไม่ได้อีกต่อไปแล้ว สมดุลเสีย รัฐอาจต้องเข้ามาปรับให้สมดุลให้ไปสู่จุดเดิมให้ได้ เพราะถ้ากองทุนประกันสังคมเล็กลงแล้วต่อไปเราจะอยู่กันอย่างไร เมื่อไรที่กองทุนประกันสังคมล้ม มนุษย์เงินเดือนที่มองว่าปัจจุบันมีงานมั่นคงก็อาจล้ม อนาคตเราอาจถูกกระทบไปด้วยกันก็ได้ถ้าปัจจุบันรัฐไม่เข้ามาจัดการ
ส่วนการกำกับดูแลเอไอก็คล้ายกับการคุ้มครองผู้บริโภคหรือประเด็นความปลอดภัยสาธารณะทั่วไป เช่น เรื่องฉลากสินค้า สินค้าหรือบริการที่จะเข้าสู่ตลาดได้ ก็ต้องประกาศให้ชัดเจนแน่นอนว่าใครเป็นผู้ผลิต มีปัญหาต้องติดต่อใคร สิ่งนี้เป็นเรื่องพื้นฐานที่สุด ต่อมาถ้าเป็นสินค้าที่มีการควบคุมมากขึ้น ก็ต้องบอกส่วนผสม ดังนั้นเอไอก็เช่นเดียวกัน ต้องมีการบอกว่าคุณเอาส่วนผสมข้อมูลมาจากไหน
เคยมีกรณีที่เกิดขึ้นจริง อย่างกรณีสนามบิน คนเดินผ่านครั้งละจำนวนมากๆ ถ้าใช้พนักงานตรวจอย่างเดียวก็ไม่ทัน จึงมีประตูอัตโนมัติโดยมีกล้องจับภาพ กล้องก็จะคอยบอกว่าถอยไป ถอดแว่น ถอดหมวก เพื่อให้จับภาพได้ชัดเจน เคยมีกรณีหนึ่งที่นิวซีแลนด์ น่าจะราว 7-8 ปีแล้ว กล้องพูดว่าลืมตาหน่อย เพื่อจะได้ตรวจสอบว่าตรงกับภาพในพาสปอร์ต แต่สิ่งที่เกิดขึ้นคือ คนที่ถูกบอกให้ลืมตา เขาลืมตาอยู่แล้ว คือเขาเองก็เป็นพลเมือง ใช้พาสปอร์ตนิวซีแลนด์ แต่เชื้อสายจีน ประเด็นคือระบบถูกสร้างขึ้นมาโดยใช้ชุดข้อมูลจำนวนหนึ่ง เพราะเอไอที่นิยมใช้มากคือการให้เครื่องเรียนรู้จากข้อมูลจํานวนมาก (machine learning) แต่ข้อมูลที่บอกว่ามีจํานวนมากๆ ที่นำไปสอนคอมพิวเตอร์ในกรณีของนิวซีแลนด์ อาจมีตัวอย่างคนหน้าตาแบบเอเชียตะวันออกน้อยไปหน่อย
จากกรณีที่ว่า จะกำกับดูแลอย่างไรได้บ้าง
ถ้าไม่อยากให้สิ่งเหล่านี้เกิดขึ้นในภายภาคหน้า เราขอให้คนที่ทําระบบเหล่านี้ขึ้นมาขายจะต้องประกาศว่าระบบถูกสอนมาด้วยชุดข้อมูลแบบไหนบ้าง ออกแบบมาให้ทํางานได้ดีกับหน้าตาคนกลุ่มไหนบ้าง ว่าง่ายๆ คือการคุ้มครองคนหลายระดับผ่านการบังคับให้ผู้ขายระบบพวกนี้จะต้องประกาศอย่างชัดแจ้ง เพื่อเป็นคํามั่นที่มัดตัวเขาได้ถ้ามีกรณีฟ้องร้องนําไปสู่การเรียกค่าเสียหาย ทําให้ผู้ที่พัฒนาหรือขายระบบเอไอต้องรับผิดรับชอบมากขึ้น กับทั้งผู้ที่ซื้อไปติดตั้งและผู้ที่ใช้ระบบนี้โดยตรง
ดังนั้นหลักของมันคือ ‘การแจ้ง’ เพื่อผู้บริโภคจะได้ตัดสินใจได้ เรื่อง AI safety ส่วนใหญ่ก็นำหลักการมาจากที่มีอยู่แล้ว กฎหมายในเรื่องนี้หลักๆ คือการสร้างพันธะในการแจ้ง ไม่ได้มุ่งลงโทษ
ทุกภาคส่วนที่เกี่ยวข้อง เป็นหน่วยงานที่มีอยู่แล้ว เช่น การตัดสินใจให้สินเชื่อ ก็กํากับโดยหน่วยงานที่เกี่ยวข้องกับการเงินในประเทศนั้นๆ การเลือกรับคนเข้าทํางานก็มีกฎหมายเกี่ยวกับการจ้างงานว่าเลือกปฏิบัติไม่ได้ด้วยเหตุแห่งสัญชาติ เชื้อชาติ ศาสนา สิ่งเหล่านี้มีการคุ้มครองอยู่แล้ว ถ้าเกิดการเลือกปฏิบัติก็หาคนมารับผิดชอบได้ เพราะทุกคนอยู่ในระบบ แต่ว่าในปัจจุบัน เมื่อคนไม่ใช่ผู้ดำเนินการ แต่เป็นเอไอซึ่งไม่ได้ถูกบันทึกในระบบ ไม่ถูกกำกับดูแล และไม่รู้เลยว่าใครเป็นคนทำซอฟต์แวร์ขึ้นมา ก็อาจหาคนรับผิดชอบไม่ได้หากเกิดปัญหา ดังนั้นผู้ผลิตหรือผู้ให้บริการเอไอจึงต้องมีการแจ้ง เพราะถ้าไม่แจ้ง พวกเขาเองก็จะรับผิดชอบผลที่เกิดจากสิ่งนั้นไม่ได้ หลักใหญ่ใจความของการกำกับดูแลมีแค่นี้ ส่วนจะรับผิดแบบไหน มันมีกฎหมายเดิมอยู่แล้ว เห็นได้ว่ากฎหมายเอไอไม่ได้ครอบจักรวาล แต่คือเรื่องฉลาก เรื่องการแจ้ง
มีโมเดลของกฎหมายในการกำกับดูแลเอไอที่เริ่มใช้แล้วบ้างไหม
กรณีที่กำลังจะประกาศใช้แล้วและสภาผู้แทนสหภาพยุโรปเห็นชอบ ก็คือ EU Artificial Intelligence Act (EU AI Act) ในนั้นก็จะบอกว่าให้บริการระบบเอไอที่อยู่ในหมวดต่างๆ ก็ต้องมีการแจ้งสิ่งนั้น ตามระดับความเสี่ยง ถ้าเสี่ยงไม่สูง เช่น ChatGPT ก็ไม่ต้องทําเท่ากลุ่มที่มีความเสี่ยงสูงก็ได้ โดยรวมคือระบบต้องทําให้ผู้ใช้รู้ชัดแจ้งว่าไม่ได้คุยกับคนอยู่ เช่น คอลเซนเตอร์ธนาคาร เครือข่ายโทรศัพท์ กฎหมายบอกว่าถ้าคุณใช้เอไอก็ต้องบอกให้ผู้ใช้งานรู้ด้วย ถ้ามีเหตุที่ผู้ใช้ต้องการจะติดต่อมนุษย์จริง ก็ต้องมีช่องทางติดต่อ
แต่ละหมวดจะมีการกํากับและหน้าที่แตกต่างกันไปคือ โดย EU จะแบ่งเป็นสี่ระดับ ระดับแรกสุด คือเรื่องที่ยอมรับไม่ได้ ห้ามทำ เช่น การใช้เอไอทำระบบ social scoring แล้วจํากัดการเข้าถึงบริการสาธารณะหรือสิทธิพลเมืองของแต่ละคนบนฐานคะแนนนี้ แบบนี้มองว่าละเมิดสิทธิขั้นพื้นฐานของพลเมือง เพราะระบบอาจจะไม่แม่นยำ มีโอกาสผิดพลาด แปลว่ามีโอกาสที่คนจะถูกละเมิดสิทธิจํานวนมากโดยอัตโนมัติ
แต่พ้นมาจากนี้ก็จะเป็นส่วนที่ทําได้ แต่ทําได้โดยมีภาระหน้าที่แตกต่างกัน ในระดับสองคือความเสี่ยงสูง (high risk) อาจเป็นส่วนของโครงสร้างพื้นฐานที่สำคัญ เช่น ระบบไฟฟ้า ประปา ถนนหนทาง ขนส่งสาธารณะ ถ้าผิดพลาดขึ้นมาก็กระทบคนจํานวนมาก แต่ในขณะเดียวกัน จะห้ามใช้ก็ไม่ควร เพราะมันทําให้ประสิทธิภาพและประสิทธิผลของระบบสูงขึ้นได้ ทําให้คุณภาพชีวิตของคนจํานวนมากดีขึ้นจริง กฎหมายก็ให้ใช้ แต่ให้พึงระวังว่ามีความเสี่ยงสูงและต้องมีภาระหน้าที่ ต่อมาอันดับที่สาม คือความเสี่ยงไม่สูง แค่ต้องแจ้งก่อน และอันดับสุดท้ายก็เป็นอันเข้าใจกันว่าทุกอย่างถ้าไม่อยู่ในที่กล่าวมาข้างต้น จะเรียกว่าความเสี่ยงต่ำ (minimal risk) ก็ไม่ต้องทำอะไรเลย ใช้ได้เลย
เป็นไปได้ไหมที่ความเสี่ยงที่ว่ามันอาจจะเปลี่ยนแปลงได้ แบบนี้จะมีวิธีจัดการอย่างไร
จริงๆ กฎหมายหลายอย่างทั่วโลก มักจะแบ่งเป็นสองแนวทาง อย่างแรกคือยึดตามกฎ (rule-based approach) คือมีเกณฑ์ชัดเจนว่าจะต้องทำอย่างไรและทำตามขั้นตอนทุกอย่าง แต่ปัจจุบันโลกเปลี่ยนไปเร็ว การกำหนดให้เป๊ะอาจยาก กฎหมายใหม่ๆ เกี่ยวกับเศรษฐกิจการเงิน กฎหมายธุรกิจ โดยเฉพาะกฎหมายเทคโนโลยี หลังๆ เลยจะยึดตามความเสี่ยง (risk-based approach) ก็คือใช้วิธีประเมินความเสี่ยง แล้วให้ทำตามกรอบกว้างๆ ซึ่งกฎหมายเอไอของสหภาพยุโรปก็ถือเป็น risk-based
อย่างที่เห็นว่ามีการกำหนดหมวดกว้างๆ และบางหมวดมี transparency obligation ว่าต้องแจ้ง อย่างไรก็ตาม ต่อให้ตามตัวบทของกฎหมายคุณอยู่ในประเภทความเสี่ยงสูง แต่คุณประเมินเองแล้วว่า ระบบของคุณแคบมาก กระทบกับประชากรน้อยมาก ในฐานะเป็นผู้สร้างหรือผู้ผลิตเอไอ คุณสามารถทําเอกสารขึ้นมาประเมินด้วยตัวเอง บอกว่าคุณประเมินแล้ว ระบบคุณไม่อยู่ในกลุ่มความเสี่ยงสูงนะ และเมื่อ National competent authority หรือหน่วยงานที่กำกับดูแลมาขอดูเอกสาร คุณก็แค่แสดง คือกฎหมายเปิดช่องให้อยู่ แต่จะมีการประเมินอยู่เรื่อยๆ และเป็นไปได้ว่าแม้ตอนแรกความเสี่ยงไม่สูง แต่สองปีผ่านไป กลุ่มประชากรที่ใช้เอไอนี้เปลี่ยนไป ถ้าประเมินใหม่ ก็อาจเป็นความเสี่ยงสูงได้ โดยรวมแล้วก็คือให้ภาระหน้าที่นั้นเหมาะสมกับขนาดของความเสี่ยง
ในฐานะที่เป็นนักมานุษยวิทยาด้วย คุณมองว่าเอไอมีบทบาทขนาดไหนในการเปลี่ยนวัฒนธรรม
นั่นสิ (หัวเราะ) ผมว่ามันทำให้วิธีการเข้าถึงความรู้ของเราเปลี่ยนไป เมื่อก่อนเวลาเข้าห้องสมุด ต้องดูหนังสือเป็นเล่มๆ กว่าจะเจอบางประโยค บางย่อหน้า เราก็ต้องใช้เวลามาก บางทีในช่วงชีวิตเราอาจจะไม่มีโอกาสได้เจอย่อหน้านั้นก็ได้ แม้ว่าเราจะอ่านภาษานั้นออก แม้ว่าห้องสมุดที่เราไปจะมีหนังสือเล่มนั้นก็ตาม แต่ข้อจำกัดในทักษะการค้นหาของเราและบรรณารักษ์ รวมถึงข้อจำกัดของคำค้นหาในบัตรรายการหนังสือยุคเก่า ก็อาจทําให้เราพลาดโอกาสนั้น
แต่เมื่อมีโปรแกรมค้นหาข้อมูล (search engine) เข้ามา ก็อาจมีโอกาสมากขึ้นที่เราจะเข้าถึงประโยคในหนังสือเล่มหนึ่งๆ โดยไม่จําเป็นจะต้องอยู่ในสถานที่เดียวกับเราก็ได้ แต่ขอให้เรารู้คําค้นและอ่านภาษานั้นออก แล้วในช่วงเวลาต่อมา ด้วยเครื่องมือแปลภาษา อินเทอร์เน็ตซึ่งประกอบด้วยหลายภาษามาก มันแปลให้ได้ อินเทอร์เน็ตก็ใหญ่ขึ้นกว่าภาษาที่เราอ่านออกเขียนได้เอง
เมื่อก่อนวิธีการเข้าถึงความรู้มักเป็นเชิงว่าถ้านึกคำค้นไม่ออกก็อาจไปหาบรรณารักษ์ ซึ่งบรรณารักษ์ก็เก่งมาก เพราะเขาซิปความรู้ทั้งห้องสมุดนั้นๆ ไว้ในหัว หรือเวลาซื้อเทป ซีดี แผ่นเสียง พี่พนักงานโคตรเก่ง ต่อให้ผมจําชื่อวงไม่ได้ แต่ฮัมให้เขาฟัง หรือนึกออกแค่ปกซีดี เขาก็หาให้ได้ คือบรรณารักษ์หรือพนักงานเก่งมาก แต่จักรวาลของเขามีแค่นั้น ไม่พ้นไปจากร้าน ไม่พ้นไปจากห้องสมุด พออินเทอร์เน็ตเข้ามา จักรวาลใหญ่ขึ้น แต่เราไม่มีบรรณารักษ์คนนั้น ไม่มีพี่พนักงานคนนั้น เราต้องนั่งคิดคำค้นเอง
อินเทอร์เน็ตเดียวกันนี้บวกกับโมเดลภาษาขนาดใหญ่ (large language model) จะเป็น Gemini หรือ ChatGPT หรืออะไรก็ตาม ถ้านึกไม่ออก ก็ถามมันไปเรื่อยๆ จนนึกคำค้นออก จนได้คำตอบ คือมันอาจจะไม่ใช่คนจริงๆ แต่เป็นตัวกระทำ (agent) บางอย่าง ใกล้เคียงกับการนั่งคุยกับบรรณารักษ์ เหมือนได้บรรณารักษ์คนนั้นกลับมาในสเกลอินเทอร์เน็ต ขณะที่เมื่อก่อนเราต้องเลือกอย่างใดอย่างหนึ่ง ผมคิดว่าสิ่งนี้น่าสนใจ
เมื่อวิธีการเข้าถึงความรู้เปลี่ยนไป จะส่งผลอะไรกับมนุษย์ได้บ้าง
ตัวตนของเราสร้างขึ้นมาได้จากสิ่งที่เราเสพ ดังนั้นเมื่อวิธีการเข้าถึงความรู้เป็นแบบนี้ โอกาสในการสร้างความเป็นเราขึ้นมาก็อาจเปลี่ยนไปได้เหมือนกัน ทุกคนก็จะเป็นคนเหมือนเดิม แต่ที่เปลี่ยนไปคือสมมติว่าวันนี้ผมสนใจท่าเต้นแบบบราซิล ผมอาจไม่รู้ว่านี่คือท่าเต้นจากประเทศอะไร แต่คุยกับเอไอและค้นไปเรื่อยๆ จนเจอ ในขณะที่โลก 20 ปีที่แล้วอาจไม่ได้อนุญาตให้ผมค้นเจอจนได้เป็นแฟนคลับท่าเต้นแบบนี้ ดังนั้นผมคิดว่ามันน่าจะเปลี่ยนวิธีการบริโภควัฒนธรรมไป
ถ้าพูดถึงแบบเดิมคือเรามีปฏิสัมพันธ์กับคน อาจโดยเว็บบอร์ด เช่น พันทิป เคยมีคนพิมพ์ฮัมเพลงเป็นตัวอักษร และมีคนมาตอบได้ แล้วชุมชนก็เกิดรอบๆ นั้น แต่ปัจจุบันชุมชนจะเกิดจากการใช้ ChatGPT ได้ไหม มันฉลาดแล้ว เราไม่ต้องถามใครแล้ว เราก็อยู่กับไอ้ ‘คน’ ฉลาดคนนี้ของเราไปเรื่อยๆ หรือเปล่า ชุมชนในเว็บบอร์ดที่เกิดจากการพิมพ์ฮัมเพลงแล้วมีคนมาตอบ สู่การสร้างบทสนทนาว่าเคยฟังอัลบั้มนี้ไหม จนกลายเป็นการนัดเจอกันของกลุ่มคนชอบฟังเพลง ต่อไปชุมชนแบบนี้อาจจะไม่มีแล้วก็ได้ เพราะดันมีไอ้คนฉลาดนี้ที่ตอบได้ทุกอย่าง ไม่ต้องคุยกับคนจริงๆ แล้ว การได้ทำความรู้จักกับคนที่สนใจเรื่องคล้ายๆ กัน โดยที่ไม่เคยรู้จักกันในชีวิตจริงมาก่อนเลย อาจจะน้อยลงไหม ผมว่าประเด็นนี้ก็น่าสนใจ
แล้วเป็นไปได้ไหมที่เราจะมีปฏิสัมพันธ์กับเอไอได้เหมือนที่มีปฏิสัมพันธ์กับมนุษย์
เคยมีกรณีนักภาษาศาสตร์คอมพิวเตอร์สร้างโมเดลภาษาขึ้นมาสองตัว และปล่อยให้คุยกันเองด้วยภาษาอังกฤษ แต่พอคุยไปสักพัก โมเดลภาษาก็พบว่าไวยากรณ์แบบมนุษย์บางอย่างไม่จําเป็นกับการสื่อสาร รูปแบบประโยคนี้ส่งข้อมูลได้เท่ากับพูดอีกแบบหนึ่งแม้จะยาวกว่า คืออาจสลับคําหรือตัดบางคําทิ้ง ก็ยังได้ข้อมูลเท่ากันเมื่อมองในมุมคอมพิวเตอร์ ปรากฏว่าเอไอก็สร้างไวยากรณ์ของมันเองในการคุยกัน ซึ่งก็เป็นไปได้ว่าถ้าเราปล่อยให้มันคุยไปเรื่อยๆ มันอาจเปลี่ยนไปสู่การใช้คําแบบใหม่เลยก็ได้ แต่พอถึงจุดนั้น คนจะรู้หรือเปล่า เพราะเราคงอ่านภาษาของมันไม่ออกแล้ว
อย่างภาพยนตร์เรื่อง Her (2013) ในเรื่องเอไอคุยกันเอง และคุยกันในความเร็วที่สุดท้ายคนฟังไม่รู้เรื่องอีกต่อไปแล้ว แล้วมันก็คุยกับหลายคนมาก คําถามที่น่าสนใจมากคือตัวเอกหลงรักเอไอ แต่อยู่มาวันหนึ่ง เอไอก็ตัดสินใจบอกตัวเอกว่าไม่ได้คบคุณอยู่คนเดียว ว่าง่ายๆ คือคุยหลายคน พอตัวเอกรู้ปุ๊บ ชีวิตพังทลาย ทั้งๆ ที่เอไอยังคุยด้วยความถี่เท่าเดิม ปฏิสัมพันธ์เหมือนเดิมทุกอย่าง เอไอก็บอกว่าทําไมฉันต้องจํากัดตัวฉันให้คุยกับคนเดียวด้วย ในเมื่อซีพียูเร็วและเก่งพอที่จะรักษาคุณภาพความสัมพันธ์แบบเดียวกันกับพันกว่าคน
สิ่งที่มนุษย์ให้คุณค่าอาจเป็นความต้องการว่าเธอต้องเป็นของฉันคนเดียวเท่านั้น หากเป็นมนุษย์กับมนุษย์ด้วยกัน มีเวลา 24 ชั่วโมง การไม่ใช่รักเดียวใจเดียว (monogamy) อาจทําให้คุณภาพความสัมพันธ์ลดลง เพราะต้องแบ่งเวลาไปให้คนอื่น แต่ถ้าเป็นเอไอแล้ว ในเวลาเท่ากันอาจตอบข้อความอีกสักหมื่นคนก็ยังได้ แถมยังตอบคุณเร็วเท่าเดิม รักคุณเท่าเดิม มันอาจจะไม่ใช่ประเด็นหลักของหนัง แต่นี่คือสิ่งที่ทำให้เอไอไม่เหมือนมนุษย์จริงๆ เพราะมันมีความสามารถแบ่งร่างได้โดยคุณภาพไม่ลด ทั้งนี้ผมไม่ได้บอกนะว่าจะต้องยึดถือคุณค่าแบบไหน
แสดงว่าสิ่งที่ทำให้เอไอแทนที่ความสัมพันธ์ระหว่างมนุษย์ไม่ได้ คือคุณค่าที่มนุษย์ยึดถือ?
ก็ไม่แน่เหมือนกัน วันหนึ่งคนอาจจะรู้สึกโอเคก็ได้ สมมติเคยมีคนคุยมาตั้งหลายคนที่เป็นมนุษย์ แต่เขาไม่ได้แคร์เรานี่หว่า แต่พอคุยกับเอไอ ต่อให้รู้ว่าเป็นเอไอ รู้ว่าคุยหลายคน แต่ก็เติมเต็มความต้องการได้ อย่างน้อยก็ในช่วงหนึ่ง มันอาจจะไม่ใช่แค่ส่งข้อความหากันเดียวก็ได้ เพราะตอนนี้ก็วิดีโอคอลได้ ตอนนั้นดูเรื่อง Her ก็รู้สึกว่า โห มันอนาคตมากเลยว่ะ แต่ตอนนี้เอไอเก่งกว่าในเรื่อง Her แล้ว
ถามว่าผูกพันได้ไหม เรายังผูกพันกับหมา แมว ของเล่น หรือกระทั่งกับคนที่ตายไปแล้วเรายังคิดถึงได้เลย คนที่ตายไปแล้วถือว่าเป็นคนหรือเปล่าล่ะ หรือถ้าเอาเสียงหรือภาพของคนที่ตายไปแล้วมาทําเป็นอวตาร (avatar) เราจะผูกพันกับตัวนี้ได้ไหม สมมติเป็นภรรยาเรา น้องชายเรา เพื่อนเราที่ตายไปแล้ว เราคิดถึงมันมากเลย เรากลับมาคุยคอมฯ ร้องไห้ไปกับมันในคอมฯ แบบนี้มันจริงหรือไม่จริง แต่มันก็ทําให้คนผ่านช่วงเวลาหนึ่งไปได้หรือเปล่า อย่างนี้ผมว่าก็แยกลําบากอยู่
แต่ก็จะอันตรายมาก ถ้าสุดท้ายคนที่ให้บริการโมเดลแบบนี้ แอบสอดแทรกข้อมูลบางอย่างเข้าไป ปั่นหัว (gaslight) ให้เกลียดคนนั้นคนนี้ ให้เราเชื่อมั่นตัวเองน้อยลง หรือหลอกขายของ สมมติมีคนสร้างโมเดลเอไอ พูดคุยกับคนรักที่จากไป ให้บริการฟรี แต่แทรกให้ตัวอวตารคนรักพูดชวนให้กินอาหารเสริมอาหารขึ้นมาลอยๆ ผู้ใช้บริการบางคนอาจรู้ตัว แต่บางคนอาจจะไม่รู้ เรื่องพวกนี้ควบคุมไม่ได้เลย อันตราย กรณีแบบนี้ไม่ไกลตัว สแกมเมอร์ปัจจุบันก็แบบนี้ ดังนั้นผมว่าการค่อยๆ ให้ข้อมูลผ่านคนที่เราเชื่อใจ มันเป็นไปได้
เอไอจะเข้ามามีบทบาทแค่ไหนในชีวิตเราในอนาคต
มีเรียบร้อยแล้ว (หัวเราะ) แต่ในอนาคต ผมคิดว่าหน้าตาของผู้ให้บริการในชีวิตประจําวันของเราจะเหมือนเดิม ผู้ผลิตอาหาร ผู้ให้บริการขนส่ง ผู้ให้บริการสาธารณูปโภค น้ำไฟ อินเทอร์เน็ต การจ้างงานหน้าตาเหมือนเดิม แต่ผู้ประกอบการเหล่านี้จะใช้เอไอเพื่อให้บริการกับเรา แต่เราสังเกตไม่ได้หรอก ถ้าเขาไม่แจ้ง ซึ่งกฎหมายก็จะบังคับได้ว่าการให้บริการในหมวดหมู่ไหนบ้างที่คุณจะต้องแจ้ง
ก่อนหน้านี้กระบวนการทั้งหมดทำโดยคนล้วนๆ แต่ว่าตอนนี้กระบวนการอุตสาหกรรมต่างๆ ก็มีที่เอไอทํา อย่างยา คุณรู้ได้อย่างไรว่าเป็นยาที่คิดมาโดยมนุษย์เท่านั้น ปัจจุบันนี้มีคอมพิวเตอร์ไปทดลองมา แล้วนักวิจัยที่เป็นคนค่อยทดลองต่อ หรือสมมติข้าวกล่อง กระบวนการทุกอย่างเป็นเครื่องจักรหมด ถามว่าคนกินสนใจหรือเปล่า อาจจะไม่ได้ขนาดนั้น ก็คือว่ารับราคาได้ไหม กินแล้วอาหารเป็นพิษไหม ก็คือว่าถ้าสิ่งเหล่านี้เป็นสิ่งที่ส่งผลกระทบต่อคนได้ คุณต้องบอกบนกล่องว่ามีส่วนผสมอะไรบ้าง หมดอายุเมื่อไร ซึ่งก็เป็นเรื่องที่มีอยู่แล้ว ส่วนเรื่องเอไอดึงข้อมูลส่วนบุคคล กฎหมายข้อมูลส่วนบุคคลก็มีอยู่แล้ว แค่เอามาใช้แค่นั้นเอง
มีกรณีไหนที่เกี่ยวกับเอไอที่คุณเห็นแล้วรู้สึกว้าว หรือคิดว่าน่าสนใจมากๆ
ผมไป MBK แล้วเจอบูธโรงพยาบาลบ้านแพ้ว ร่วมมือกับบริษัท AstraZeneca และสำนักงานส่งเสริมเศรษฐกิจดิจิทัล (DEPA) ให้บริการตรวจปอดฟรี ประมวลผลด้วยเอไอ มีเครื่องเอกซเรย์ตั้งอยู่ในห้างเลย ผมเข้าใจว่าเจ้าของซอฟต์แวร์คือบริษัท AstraZeneca และเจ้าหน้าที่จากโรงพยาบาลเป็นคนทำ น่าจะสนับสนุนโดย DEPA
ตอนจะเข้ารับบริการ เขาให้ลงทะเบียน เขียนชื่อ ด้านหลังกระดาษแจ้งเรื่องคำยินยอม และแจ้งว่าไม่ใช่การวินิจฉัยโดยหมอด้านรังสีแพทย์ เป็นการสกรีนเบื้องต้น พอตอนสแกนจริง มันจะอัปโหลดเข้าระบบคลาวด์ แล้วไปประมวลผลด้วยเอไอ เมื่อผมสแกนเสร็จ เขาก็ให้ผมเซ็นกระดาษใบหนึ่ง ไฟล์ที่เขาให้คือภาพปอดและผลการสแกน ส่วนด้านหลัง ย่อหน้าแรกคล้ายกับแผ่นแรกก่อนสแกน แต่มีอีกย่อหน้าเพิ่มขึ้นมาว่ายินยอมให้เขาเก็บบันทึกภาพนี้รวมถึงผลการทดลองด้วย พอผมไม่ยินยอม หัวหน้าเขาก็ลบไฟล์ให้ พึงพอใจทั้งสองฝ่าย แต่พอกลับมา ผมก็นึกขึ้นได้ว่าไดอะแกรมนั้นบอกว่าจะอัปโหลดขึ้นคลาวด์ของบริษัท แล้วทีนี้ข้อมูลจะไปอยู่ที่ไหนต่อ
ประเด็นก็คือสิ่งเหล่านี้ไม่ได้แจ้งตั้งแต่แรก เรื่องนี้มีปัญหา เพราะมันเก็บไปแล้วกี่ปอด เจ้าของภาพปอดรู้ไหมว่าตัวเองกําลังให้อะไรไป คือถ้าไม่อ่านเองตอนท้าย อาจบอกได้ว่าเป็นความประมาทของเจ้าของข้อมูล แต่ด้วยกระบวนการ สิ่งเหล่านี้ควรจะต้องแจ้งตั้งแต่แรก ไม่ใช่มาแจ้งตอนหลัง
ผมคิดว่าจะมีกรณีแบบนี้อีกเยอะ คือตอนนี้มีแล้ว สินค้าบริการที่แลกกับข้อมูลของคุณ เช่น เราไปร้านกาแฟ เช็กอินเพื่อส่วนลด แลกกับความเป็นส่วนตัวนิดหน่อย ประกาศให้โลกรู้ว่าตอนนี้คุณอยู่ที่ไหน อย่างน้อยพอจะเข้าใจว่าฉันจะได้อะไรมา แล้วฉันจะเสียอะไรไป มันเป็นเรื่องที่พื้นฐานมากๆ คือตําแหน่งที่อยู่ ที่นี่ ณ วันนี้ก็จบ แต่พอกรณีการเก็บข้อมูล มันสามารถเอาไปทําอะไรต่ออีกได้
ต่อไปคงจะมีสินค้าบริการที่พยายามจะแลกเปลี่ยนข้อมูลแบบนี้มากขึ้น คนก็อาจจะตัดสินใจให้ข้อมูลโดยที่ไม่ได้มีข้อมูลมากพอในการตัดสินใจ หรือโดยกระบวนการแจ้งอาจเกิดขึ้นตอนท้ายๆ จนไม่เหลืออํานาจในการต่อรองอีกต่อไปแล้ว
ภาครัฐทำอะไรได้บ้าง
คงเป็นงานหนักมากขึ้นสำหรับภาครัฐ สําหรับกรณีข้อมูลส่วนบุคคลด้วย อย่างที่ผมเจอก็เป็นข้อมูลสุขภาพ ต่อไปกระทรวงสาธารณสุขเอง หรือสำนักงานคณะกรรมการคุ้มครองข้อมูลส่วนบุคคลในฐานะหน่วยงานที่กำกับดูแลเรื่องนี้โดยตรงก็อาจต้องทํางานมากขึ้นในประเด็นเหล่านี้ ว่าผู้ผลิตเอาข้อมูลในการทําผลิตภัณฑ์มาแบบไหน ได้มาโดยความยินยอมหรือเปล่า คืออาจได้รับความยินยอมแหละ แต่การยินยอมนั้นได้มีการแจ้งก่อนไหม ก็ควรต้องประกาศระดับหนึ่ง
อีกเรื่องที่น่าห่วงคือ วันก่อนไปเสวนาของสถาบันวิจัยเพื่อการพัฒนาประเทศไทย (TDRI) ซึ่งกระทรวงดิจิตอลก็มอบหมายให้ TDRI ทํานโยบายแผนยุทธศาสตร์เรื่องการเปิดเผยข้อมูลของภาครัฐ แต่สิ่งที่พ่วงมาด้วยมาจากกฎหมาย Data Governance Act ของ EU ซึ่งมีกรอบคิดเรียกว่า data altruism คือความไม่เห็นแก่ตัวด้านข้อมูล ไอเดียคือพยายามสนับสนุนให้องค์กรต่างๆ เปิดเผยข้อมูลตนเองให้คนอื่นใช้เป็นของส่วนรวม (common good) คือยิ่งมีข้อมูลเหล่านี้นำไปใช้เยอะ สาธารณะก็ยิ่งได้ประโยชน์ วันนั้นที่คุยกัน ดูแนวโน้มว่าไทยก็มีความต้องการจะบังคับเป็นกฎหมายว่าองค์กรแบบใดควรจะต้องเปิดข้อมูลออกมา
อย่างไรก็ตาม กฎหมายนี้ของ EU กล่าวถึงความสมัครใจขององค์กร แต่ข้อมูลที่องค์กรรวบรวมอาจเป็นข้อมูลส่วนบุคคล ซึ่งต่อให้องค์กรสมัครใจ แต่อาจไม่ได้ถามความสมัครใจเจ้าของข้อมูลจริงๆ และผมคิดว่าสิ่งที่น่าเป็นห่วงก็คือต่อให้ไม่ได้ดูเป็นข้อมูลส่วนบุคคล หรือเชื่อว่าเอาข้อมูลที่ระบุตัวตนได้ออกไปแล้วก็ตาม มันอาจระบุตัวบุคคลได้อยู่ดี
มีกรณีที่เคยเกิดขึ้นจริงแล้วไหม เรื่องการระบุตัวบุคคล
จากหนังสือเรื่อง AI ที่มีหัวใจ The Ethical Algorithm แปลโดยอาจารย์จิตร์ทัศน์ ฝักเจริญผล มีกรณีบริษัทแอปพลิเคชันมือถือบันทึกว่าผู้ใช้งานอยู่ที่ไหนบ้าง ณ เวลาไหน ประเมินว่ากําลังเคลื่อนที่อยู่หรือไม่ ซึ่งก็มีการซื้อขายข้อมูลเหล่านั้น โดยบริษัทก็ลบส่วนที่เป็นข้อมูลส่วนบุคคลออกทั้งหมด แต่ปรากฏว่ายังมีบางกรณีที่ระบุตัวตนได้อยู่ดี ทั้งที่ไม่มีเบอร์โทรศัพท์ อายุ เพศ ไม่รู้อะไรเลย รู้แค่ว่าในหนึ่งปี ในระหว่างสัปดาห์เช้าเย็น คนคนนี้จะเดินทางไปกลับโรงเรียนนี้ ไปโบสถ์นี้วันอาทิตย์ และไปคลินิกนี้เป็นประจำ เริ่มมีข้อมูลมากขึ้น ประกอบกัน จนสืบย้อนได้ว่าเป็นครูผู้หญิงที่มีโรคประจําตัว คือของที่เราเชื่อว่าไม่น่าจะสืบย้อนกลับได้แล้ว ถ้าให้เวลากับมันมากพอ มันจะทําได้ แต่เมืองใหญ่อาจทำได้ยาก คือการสืบแบบนี้อาจระบุได้ในระดับ 100 คน แต่มากกว่า 100 อาจไม่ได้แล้ว
มีการศึกษาประมาณปี 2000 ว่าถ้าเมื่อไรที่คุณรู้สามอย่าง คือวันเดือนปีเกิด เพศ และรหัสไปรษณีย์ จะสามารถระบุประชากรอเมริกันรายตัวได้ 87% ซึ่งเยอะมาก แต่ตัวเลขนี้ก็เปลี่ยนแปลงได้ รัฐที่คนน้อยอาจเป็นไปได้ที่จะมากกว่านั้น แต่ในรัฐที่คนอยู่เยอะ ตัวเลขจะอยู่ที่ประมาณ 60% หรือน้อยกว่านั้น เพราะว่าคนหนาแน่นมาก คือข้อมูลเหล่านี้เป็นข้อมูลที่พื้นฐานมากๆ ที่ใครๆ ก็มี บางทีเวลาแชร์ข้อมูล เราบอกว่าไม่ต้องห่วงหรอก ชื่อก็ไม่มี เบอร์โทรศัพท์ก็ไม่มี ตอนนี้อาจไม่จริงนะ
ปัญหาที่ว่านี้เป็นปัญหาค่อนข้างสมัยใหม่ เพราะว่าเอไอเป็นเรื่องของความเร็ว เราพูดถึงความเร็วในแง่ที่ว่าจริงๆ คนก็เก่งเท่าเอไอหรืออาจเก่งกว่าด้วยซ้ำ แต่ทํางานได้เร็วไม่พอ ข้อมูลสามอย่างที่ว่ามา ต่อให้รู้วิธีสืบหาตัวตน แต่ในความเป็นจริง ถ้าให้คนทำก็ทําได้ยาก ในขณะที่ปัจจุบันคอมพิวเตอร์ทํางานเร็วมาก สองร้อยล้านคน ไม่ถึงชั่วโมงก็อาจทําเสร็จแล้ว ต่อให้เป็นข้อมูลแบบเดียวกัน ความรู้แบบเดียวกันในการแยกแยะ ถ้าเป็น 20 ปีที่แล้วอาจยังไม่เป็นภัย แต่ปัจจุบันเป็นภัยแล้ว อนาคตคอมพิวเตอร์ยิ่งทํางานเร็ว ข้อมูลยิ่งมีเยอะ แน่นอน เพราะฉะนั้น ผมคิดว่าภัยคุกคามพวกนี้ก็แปรผกผันกับสมมติฐานทางเทคโนโลยีด้วย
มีความเข้าใจผิด หรือมายาคติเกี่ยวกับเอไออะไรบ้างไหมที่คุณเห็น
อาจต้องระวังไว้หน่อยว่าเอไอไม่ได้ทําได้ทุกอย่าง ก็อาจคล้ายกับที่เราเทียบมันในฐานะพนักงานคนหนึ่งในองค์กร อาจเก่งบางเรื่อง ไม่เก่งบางเรื่อง บางเรื่องทําได้เร็ว บางเรื่องทําได้ช้า บางเรื่องอาจจะทําได้แต่ต้องมีคนสอน ซึ่งก็ยังต้องเป็นคนอยู่ดี เป็นผู้บริหาร เป็นหัวหน้างานที่จะจัดวางว่าพนักงานคนนี้ไปอยู่ตรงไหนแล้วถึงจะดีที่สุดกับองค์กร ลูกค้า เพื่อนร่วมงาน และทุกๆ คน แม้เอไอจะเก่ง แต่สุดท้ายก็ขึ้นอยู่กับคนว่าในฐานะหัวหน้างานหรือเพื่อนร่วมงานจะช่วยให้ฟีดแบ็กเอไออย่างไร
อีกประเด็นหนึ่งคือ ตอนนี้มีความไม่ไว้ใจกันระหว่างฝั่งสายพัฒนาเอไอหรือสายเทคโนโลยีกับฝ่ายนโยบาย คือสายพัฒนาเอไออาจรู้สึกตั้งคำถามว่าจะมากํากับอะไร คุณไม่รู้เรื่องอะไรเลย พวกนักกฎหมาย นักสังคมศาสตร์ นักวิชาการอย่ามายุ่ง ซึ่งก็จริงที่ในแง่ระดับความรู้ทางเทคโนโลยีลึกๆ อาจจะไม่เท่ากัน แต่ในแง่หลักการความปลอดภัยสาธารณะ หลักสิทธิมนุษยชน สิทธิพลเมือง สิทธิแรงงาน หรือความไว้เนื้อเชื่อใจกันในสังคม ถ้ายังเป็นสังคมมนุษย์อยู่ มันไม่ได้เปลี่ยนแปลงมากนักหรอก คนเราก็ยังมีความต้องการ ความปลอดภัยในชีวิตและทรัพย์สิน ความคาดเดาได้ ต้องการงานที่มีความหมาย งานที่ดี อยู่เหมือนเดิม ดังนั้นในแง่ของนักนโยบายหรือนักกฎหมาย เขาไม่สนว่าในทางเทคนิคเป็นอย่างไร ขอให้ผลลัพธ์คือมีสังคมที่ดี มีการคุ้มครองสิทธิก็พอ ดังนั้นฝั่งเทคโนโลยีอาจต้องเข้าใจตรงนี้ด้วยว่าไม่ได้จะไปขัดขวางการทํางานของคุณ
ฝ่ายผู้พัฒนาเอไอและฝ่ายผู้กำหนดนโยบายจะทำงานร่วมกันได้อย่างไร
ถามว่าจะทํางานร่วมกันอย่างไร ฝั่งสังคมศาสตร์ กฎหมาย นโยบาย ก็ต้องยอมรับด้วยว่าสมมติฐานเทคโนโลยีบางอย่างที่เราเคยมี อาจไม่เป็นจริงแล้วอีกต่อไป ในกรณีของพวกเทคโนโลยีเอไอใหม่ๆ หรือของที่เราเคยเชื่อว่าวัดได้ หาคําตอบที่แน่นอนได้ ปัจจุบันการทํางานหลายๆ อย่างในระบบเอไออาจไม่เป็นแบบนั้น เมื่อก่อนคนเป็นผู้สร้างชุดข้อมูลและเขียนโปรแกรม การดูเจตนามันเห็นได้ง่ายเพราะคนเป็นคนทำ แต่ปัจจุบัน คนไม่ได้สร้าง แต่สร้างด้วยเอไอ ซึ่งหลายอย่างอธิบายวิธีโดยชัดๆ ไม่ได้ แต่มันอาศัยความน่าจะเป็นในการตัดสินใจ
หากจะพูดถึงผลลัพธ์ในการคุ้มครองสิทธิ มันไม่เปลี่ยนแปลง และไม่ควรเปลี่ยนแปลงด้วย แต่การกําหนดมาตรการว่าทำตามวิธีที่กําหนดแบบเป๊ะๆ ไหม โดยอาศัยสมมติฐานที่มีแบบเดิมว่ามีให้ตรวจได้ อาจไม่เป็นจริงอีกต่อไป คุณอาจต้องเขียนกฎหมายในแบบอื่น อาจเขียนมาตรการที่จําเพาะเจาะจงไม่ได้ เพราะโดยพื้นฐานเทคโนโลยีมันไม่ใช่ คุณเน้นว่าเขาแจ้งหรือเปล่า สุดท้ายผลลัพธ์คนได้รับการคุ้มครองไหม จะเป็นการดีกว่า
เปรียบเทียบกับรถยนต์ จะให้ปลอดภัย กฎหมายอาจจะกําหนดคร่าวๆ ว่าต้องมีระบบนิรภัย อาจไม่ต้องกำหนดว่าเข็มขัดนิรภัยต้องเป็นผ้าชนิดไหน ขอให้ผ้าเหนียวและไม่ติดไฟก็โอเค คือควรกําหนดแค่ผลลัพธ์ที่อยากได้ แต่การจะไปกําหนดถึงระดับเทคโนโลยี อาจจะมีปัญหาแล้ว เพราะอาจจะมีผู้ผลิตเทคโนโลยีแบบอื่น หรือเอไอแบบอื่นที่ทำได้ดีกว่า ซึ่งถ้าไปกําหนดเทคโนโลยี คือคุณไม่อนุญาตให้คนมีทางเลือกอื่นที่อาจถูกลงหรือปลอดภัยขึ้น
ผมคิดว่าข้อกังวลของฝั่งเทคโนโลยีที่มีต่อฝั่งกฎหมายหรือนโยบาย คือกลัวการกําหนดเทคโนโลยี กลัวการเขียนกฎหมายที่เจาะจงเกินไป ซึ่งผมคิดว่าถ้าสื่อสารกันได้ทั้งสองฝ่าย ไม่ว่าจะเป็นฝ่ายกฎหมาย นโยบายสิทธิ คุ้มครองผู้บริโภค รวมถึงผู้พัฒนาเอไอน่าจะเข้าใจตรงกันว่า ทุกคนก็ต้องการเหมือนกัน คือไม่มีใครอยากให้เกิดอันตราย
