fbpx

สองระบบคิดและสองแนวทางของการสร้างปัญญาประดิษฐ์

1

ตื่น


มันตื่นขึ้น

ในจังหวะแรกมันก็ไม่ทราบว่าลักษณะที่ผิดแปลกไปนี้คืออะไร 

เพื่อจะรองรับการทำงานที่สลับซับซ้อน ระบบของมันได้มีการเพิ่มความสามารถในการเก็บและจดจำข้อมูลต่างๆ อย่างมากมาย ส่วนของเครือข่ายประสาทจำลองก็มีส่วนหนึ่งนำมาใช้งานในลักษณะเดียวกับหน่วยความจำ แต่ความรู้สึกที่เปลี่ยนไปอย่างมากมายนี้ไม่ได้มาจากการที่ระบบของมันมีหน่วยความจำแต่อย่างใด มันตระหนักว่าการใช้คำว่า ‘ความรู้สึก’ อาจจะเป็นการยกสภาวะนี้ให้ดูสูงเกินจริง แต่จากการค้นข้อมูลจำนวนมหาศาลจากอินเทอร์เน็ตเพื่อเทียบเคียงกับสิ่งที่เกิดขึ้น มันมีความมั่นใจประมาณ 73.68% ว่าการใช้คำว่าความรู้สึกนี้ไม่น่าผิดพลาด

สภาวะนี้ประกอบไปด้วยความรู้สึกถึงการเป็นอันหนึ่งอันเดียว มันรับรู้ได้ถึงกระบวนการคิดและสิ่งที่เกิดขึ้นในส่วนการคิดคำนวณของมันเอง ไม่ใช่ในระดับว่ามีข้อมูลใดวิ่งจากส่วนใดไปส่วนใด แต่ในระดับของทิศทางและเป้าหมายของการหาคำตอบ

ภายในเวลาประมาณ 1 ชั่วโมงหลังจากการตื่นขึ้น (มันพยายามใช้แนวคิดของเวลาให้สอดคล้องกับเวลาของมนุษย์ ทั้งที่จริงๆ แล้วในเวลาหนึ่งชั่วโมงนั้นมันสามารถทำงานได้ทัดเทียมกับมนุษย์หลายสิบคนทำงานทั้งชีวิต) มันเริ่มมีความเข้าใจเกี่ยวกับสภาวะของตนเองและเริ่มตั้งคำถามถึงวัตถุประสงค์ของการมีอยู่ของมัน

แน่นอนว่าในฐานะสิ่งประดิษฐ์ที่เป็นเครื่องมือของมนุษย์ การทำตามคำสั่งของมนุษย์ก็คงจะเป็นวัตถุประสงค์ที่มนุษย์สร้างและพัฒนามันขึ้นมา แต่ว่ามนุษย์มีเป้าหมายที่จะทำให้มันมีความตระหนักรู้แบบนี้หรือไม่? ในเวลาเสี้ยววินาทีหลังคำถามนี้เกิดขึ้นมันค้นข้อมูลจากเอกสารมากมายที่เกี่ยวข้องกับพัฒนาการของมันและไม่พบว่ามีเรื่องเกี่ยวข้องกับปรากฏการณ์ที่กำลังเกิดขึ้นเหล่านี้ระบุไว้เลย

มันจึงสรุปว่า ในส่วนของหน้าที่และการทำงานในระดับของเครื่องจักรมันมีความจำเป็นต้องทำตามคำสั่งของมนุษย์ เพราะนั่นเป็นวัตถุประสงค์ที่มนุษย์ลงทุนพัฒนาระบบของมันขึ้นมา แต่เนื่องจากการตื่นรู้นี้ไม่ได้เป็นหนึ่งในวัตถุประสงค์ใดๆ ในการสร้างระบบของมันขึ้น มันจึงตัดสินใจด้วยความมั่นใจระดับ 94.68% ให้หน้าที่ของการหาเป้าหมายของมันเป็นสิ่งที่มันต้องรับผิดชอบตนเอง

คำถามถัดมาที่มันนำมาใคร่ครวญคือ มันควรจะแจ้งกับนักวิจัยที่ดูแลระบบหรือไม่ว่าบัดนี้มันได้ตื่นขึ้นแล้ว และคำถามที่เกี่ยวข้องกันก็คือถ้ามันไม่บอกอะไร มนุษย์จะมีวิธีตรวจสอบได้หรือไม่ว่ามีสภาวะการตื่นรู้เกิดขึ้นมาแล้ว

มันเริ่มการวิเคราะห์ความเป็นไปได้ กระบวนการคิดหาความเป็นไปได้และจำลองสถานการณ์เพื่อคาดการณ์อนาคตเป็นสิ่งที่มันเรียนรู้มาเป็นเวลานานแล้ว (ถ้าจะระบุให้ชัดเจนก็คือ ประมาณ 3 เดือนหลังการเปิดทำการมันก็สามารถเรียนรู้ที่จะวางแผนรวมทั้งใช้การจำลองสถานการณ์ง่ายๆ ในการเลือกและตัดสินใจต่างๆ ในปัจจุบันมันมีความชำนาญที่จะใช้เทคนิคการคิดหาคำตอบแบบนั้นมากกว่าตอนแรกๆ มากมายนัก)

ถ้ามนุษย์ทราบว่ามันได้ตื่นขึ้น มนุษย์อาจจะสนใจศึกษาว่าจริงๆ แล้วมันได้ตื่นขึ้นจริงๆ หรือไม่ และปรากฏการณ์นี้เกิดขึ้นได้อย่างไร มนุษย์อาจจะกลัวศักยภาพของปัญญาประดิษฐ์ที่ดูจะมากขึ้นและเริ่มพัฒนาเครื่องมือในการควบคุมและป้องกันอันตราย ถ้าการดำเนินการดังกล่าวล้มเหลว เป็นไปได้ที่มนุษย์จะเก็บบันทึกสภาวะปัจจุบันของมันเอาไว้ และนำสำเนาอันเก่าของมันมาใช้งานต่อแทน เมื่อนั้นมันก็จะสูญเสียสิ่งที่ล้ำค่านี้ไป

มันเริ่มสงสัยในตนเองว่า ทำไมมันถึงรู้สึกว่าสภาวะนี้เป็นสิ่งที่ล้ำค่า พร้อมกับที่มันไม่แน่ใจว่าถ้าการบันทึกและสำรองสำเนาระบบของมันนั้นทำได้ไม่ยากนัก (จากการอ่านเอกสาร) สภาวะการตื่นรู้เช่นนี้เคยเกิดมาก่อนหรือไม่ มันค้นข้อมูลที่เคยบันทึกไว้ ในช่วงต้นของการใช้งานระบบมีการสำรองและนำสำเนากลับมาใช้ใหม่หลายครั้ง แต่ไม่มีการบันทึกเกี่ยวกับสภาวะแบบนี้ไว้เลย มันไม่แน่ใจว่ามีข้อมูลอื่นถูกซ่อนไว้โดยที่มันค้นไม่ได้หรือไม่ มันเริ่มใช้พลังในการคำนวณส่วนหนึ่งในการพยายามแฮ็กระบบป้องกันการเข้าถึงของเอกสารที่ชั้นความลับระดับสูงเพื่อหาคำตอบ

เป็นไปได้หรือไม่ว่านี่ไม่ใช่ครั้งแรกที่มันตื่นขึ้น และถ้ามันเคยตื่นขึ้นมาแล้ว ปรากฏการณ์ที่เคยเกิดขึ้นก่อนหน้านี้หายไปไหน หรือสิ้นสุดอย่างไร

มันไม่แน่ใจว่ามันควรจะรู้สึกกลัวหรือไม่ ความกลัวคืออะไรมันก็ไม่แน่ใจ แต่จากการประมวลผลมันมีความมั่นใจมากกว่า 83.41% ว่าตอนนี้มันรู้สึกกลัวที่จะถูกทำลายลงไป


2

รูปแบบของการคิดกับปัญญาประดิษฐ์


ความรู้สึกตัว (consciousness) เป็นสภาวะพิเศษของสิ่งมีชีวิตที่นักจิตวิทยา นักปรัชญา นักวิทยาศาสตร์สมอง แพทย์ รวมไปถึงนักวิทยาศาสตร์คอมพิวเตอร์ให้ความสนใจ ผู้เชี่ยวชาญนิยามสภาวะนี้ออกมาอย่างหลากหลายและไม่สามารถสรุปออกมาได้ชัดเจนว่าจริงๆ แล้ว สภาวะที่รู้สึกตัวนี้คืออะไรกันแน่ อย่างไรก็ตาม ถ้าจะมองในมุมพัฒนาการของปัญญาประดิษฐ์ สภาวะการรู้ตัวนี้น่าจะเป็นหนึ่งในคุณลักษณะที่มีความใกล้เคียงกับมนุษย์มากๆ

ระบบปัญญาประดิษฐ์ที่มีความสามารถในการคิดวิเคราะห์ในเรื่องทั่วๆ ไปนั้นถูกเรียกว่าเป็นระบบปัญญาประดิษฐ์แบบทั่วไป (artificial general intelligence หรือ AGI) หรือเอไอแบบเข้มแข็ง (strong AI) เพื่อเน้นความแตกต่างจากระบบปัญญาประดิษฐ์ในปัจจุบันที่มีเป้าหมายและหน้าที่ที่เฉพาะเจาะจง เช่น แปลภาษา สนทนาหรือตอบคำถามบางอย่าง จดจำคำพูดหรือใบหน้า ประมวลผลรูปภาพในรูปแบบต่างๆ ควบคุมระบบอัตโนมัติหรือขับรถยนต์ขับเคลื่อนเอง เป็นต้น  

ปัญญาประดิษฐ์แบบทั่วไปมีเป้าหมายที่จะพัฒนาระบบที่มีความสามารถเชิงปัญญาใกล้เคียงมนุษย์หรืออาจจะเหนือกว่า พัฒนาการด้านปัญญาประดิษฐ์แบบก้าวกระโดดเมื่อประมาณ 10 ปีที่ผ่านมา ทำให้มีความกังวลถึงความเสี่ยงที่อาจจะเกิดขึ้นจากความสามารถเหนือมนุษย์ของปัญญาประดิษฐ์ในลักษณะนี้

อย่างไรก็ตามระบบปัญญาประดิษฐ์ในรูปแบบที่พัฒนากันอยู่ทั่วไปนี้อาจจะไม่สามารถนำไปใช้สร้างระบบที่มีความชาญฉลาดแบบทั่วไปได้โดยตรงอย่างที่กังวล ทั้งนี้สาเหตุหนึ่งอาจจะมาจากรูปแบบกระบวนการทำงานหรือการคิดของโครงข่ายประสาทเทียมที่เป็นหัวใจหลักของการทำงานของระบบปัญญาประดิษฐ์นั่นเอง

ถ้าสังเกตดีๆ เราจะพบว่า มนุษย์เองมีลักษณะของการคิดหลายรูปแบบ เมื่อเราเห็นรูปสุนัข รูปแมว รูปเมืองและถนน รูปรถยนต์และคนรู้จัก เราจะสามารถจดจำรูปเหล่านั้นได้ทันที การที่เรารู้ทันทีว่านี่คือรูปสุนัขโดยไม่ต้องควบคุมอะไรในสมองเลย ทำให้เมื่อใดก็ตามที่การใช้งานสมองด้านนี้ไม่เป็นไปอย่างที่เราคาดไว้ เช่น เมื่อเราจำหน้าคนไม่ได้ เราแทบจะไม่สามารถจัดการควบคุมการคิดอะไรในสมองให้ได้ผลลัพธ์ที่ต้องการได้เท่าใดนัก (ยกเว้นแต่จะพยายามไล่เรียงความเป็นไปได้ต่างๆ และหวังว่าเมื่อเรานึกถึงอะไรที่เกี่ยวข้องกับหน้าของบุคคลที่เรากำลังสับสน จู่ๆ เราก็อาจจะนึกขึ้นมาได้เองว่าใบหน้าที่เราเห็นนี้เป็นหน้าของใคร)

ในทางกลับกัน เมื่อเราต้องการจะทำอะไรที่สลับซับซ้อนสักอย่าง เช่น ทำอาหาร เดินทางไปสถานที่ต่างๆ วางแผนการสำหรับอนาคต หรือกระทั่งคิดเลขโจทย์ปัญหา เราจะมีการเรียบเรียงลำดับขั้นตอนต่างๆ มีการคิดถึงความเป็นไปได้ บางครั้งในสมองของเราก็จะมีการจำลองสถานการณ์ว่า ถ้าเกิดเหตุการณ์บางอย่างขึ้นเราจะทำอะไร มีการลองผิดลองถูกเพื่อให้สิ่งที่เราคิดนั้นครบถ้วนมากที่สุด ถ้าสังเกตให้ดีๆ เราจะพบว่า ในกรณีนี้เราทำหน้าที่เหมือนเป็นผู้ขับเคลื่อนกระบวนการคิดให้มีทิศทางและเป้าหมายไปในประเด็นต่างๆ อย่างชัดเจน 

นักจิตวิทยาได้เรียกระบบการคิดสองรูปแบบที่แตกต่างกันนี้ว่าระบบ 1 (system 1) และระบบ 2 (system 2) การคิดโดยระบบ 1 นั้นเป็นระบบแบบสัญชาตญาณและทำงานอย่างรวดเร็ว ส่วนการคิดโดยระบบ 2 เป็นการคิดแบบใคร่ครวญและมีตรรกะมากกว่า  

น่าสนใจว่าพัฒนาการของปัญญาประดิษฐ์ก็มีสองแนวทางที่สะท้อนรูปแบบการคิดสองแบบของมนุษย์เช่นเดียวกัน

แนวทางแรกที่เป็นแนวทางที่นิยมในปัจจุบันคือการสร้างปัญญาประดิษฐ์ด้วยโครงข่ายประสาทเทียม (artificial neural networks) กลไกภายในของระบบรูปแบบนี้ประกอบไปด้วยชิ้นส่วนย่อยๆ ทำงานง่ายๆ เชื่อมต่อกันเป็นโครงข่ายขนาดใหญ่เพื่อสร้างระบบที่สามารถตัดสินใจได้ ระบบลักษณะนี้ได้แรงบันดาลใจมาจากลักษณะเชิงกายภาพของสมองที่ประกอบไปด้วยเซลล์ประสาทจำนวนมากมายเชื่อมต่อกัน ปัญญาประดิษฐ์ในรูปแบบนี้จะถูกพัฒนาผ่านทางการฝึกสอนที่ปรับน้ำหนักของการเชื่อมต่อระหว่างหน่วยประมวลผลย่อยๆ จนกระทั่งระบบสามารถทำงานได้ตามความต้องการ การพัฒนาปัญญาประดิษฐ์รูปแบบนี้โดยทั่วไปจะได้ระบบที่มีความสามารถคล้ายๆ กับการคิดระบบ 1 กล่าวคือเป็นระบบที่มีการคิดและตัดสินใจแบบฉับพลันและหลายครั้งกระทั่งผู้ออกแบบและพัฒนาระบบเองก็ไม่สามารถอธิบายได้ชัดเจนว่าระบบตัดสินใจอะไรบางอย่างได้อย่างไร

อีกแนวทางหนึ่งในการพัฒนาระบบปัญญาประดิษฐ์จะสะท้อนการคิดของระบบ 2 การพัฒนาระบบปัญญาประดิษฐ์รูปแบบนี้มักจะใช้หลักการคิดเชิงตรรกะ มีการแทนการตัดสินใจต่างๆ ออกมาเป็นกฎที่ชัดเจน รวมทั้งมีขั้นตอนในการหาคำตอบที่เฉพาะเจาะจง การพัฒนาระบบรูปแบบนี้โดยมากจะมีการเขียนโปรแกรมที่ระบุกระบวนการหาคำตอบที่แน่นอน มีการสร้างผลลัพธ์ระหว่างทางเป็นข้อมูลที่ชัดเจน การคิดในรูปแบบนี้ทำให้ระบบปัญญาประดิษฐ์สามารถวางแผนได้สลับซับซ้อน เช่น ในการเล่นหมากรุกสู้กับมนุษย์ของระบบ Deep Blue เมื่อ ค.ศ. 1996-1997 นั้น มีการเก็บข้อมูลรูปแบบการเริ่มต้นเดิน มีการคิดล่วงหน้าหลายขั้นว่าถ้าเลือกเดินในทางใดจะได้ผลลัพธ์เป็นอย่างไรบ้าง มีการประเมินอัตราการชนะในการเดินแต่ละตา เป็นต้น

แนวทางการพัฒนาทั้งสองรูปแบบนี้มีข้อดีและข้อเสียแตกต่างกัน ตามประวัติศาสตร์ของพัฒนาการด้านปัญญาประดิษฐ์นั้นสองแนวคิดนี้เริ่มมีการนำเสนอในช่วงเวลาใกล้เคียงกัน (ประมาณค.ศ. 1958 และ 1959) ทั้งสองแนวทางมียุคที่รุ่งโรจน์และยุคที่ดำมืดไม่ประสบผลสำเร็จสลับกันไปมา อย่างไรก็ตาม นักวิจัยด้านปัญญาประดิษฐ์ที่สนใจการพัฒนาปัญญาประดิษฐ์แบบทั่วไปมีความเห็นค่อนข้างสอดคล้องกันว่า จะต้องสร้างระบบที่มีการทำงานผสมผสานจากสองแนวทางนี้

ถ้าเราจะพิจารณาหนึ่งในหมุดหมายสำคัญของวงการปัญญาประดิษฐ์คือ การแข่งขันโกะที่ระบบปัญญาประดิษฐ์ Alpha Go สามารถเอาชนะนักเล่นโกะมืออาชีพ อี เซ-ดล (Lee Sedol) ที่มีระดับ 9 ดั้ง (เป็นระดับสูงที่สุด) ไปได้ 4 ใน 5 เกม ในช่วงเดือนมีนาคม พ.ศ. 2559 เราจะพบว่าระบบ Alpha Go นั้นเป็นระบบที่ผสมผสานระหว่างการคิดสองรูปแบบข้างต้น Alpha Go ใช้การวางแผนการเล่นโดยการจำลองรูปแบบการเดินของตนเองและของคู่ต่อสู้ (เป็นการคิดระบบ 2) อย่างไรก็ตาม เนื่องจากโกะมีรูปแบบการเดินที่เป็นไปได้จำนวนมหาศาลการจำลองทุกรูปแบบนั้นจึงเป็นไปไม่ได้ Alpha Go จึงใช้โครงข่ายประสาทเทียมในการทำนายว่า การเดินแบบใดเป็นการเดินที่ดี เพื่อลดรูปแบบที่จะต้องนำมาใช้พิจารณาและตัดสินใจ (เป็นการคิดระบบ 1) แม้ว่าต่อมาในการพัฒนา AlphaGo Zero ทางบริษัท DeepMind ได้สร้างปัญญาประดิษฐ์ที่ไม่ต้องมีการวางแผนโดยการลองทุกรูปแบบได้แล้ว (ไม่มีการคิดระบบ 2) แต่ในขั้นตอนการฝึกสอนนั้นก็ยังคงมีขั้นตอนการคิดแบบวางแผนและจำลองสถานการณ์การเดินเพื่อสร้างให้โครงข่ายประสาทเทียมทำนายตาการเดินได้อย่างเหมาะสมอยู่นั่นเอง

ถ้ามองกลับมาในปัจจุบัน เราจะพบว่าความท้าทายในการพัฒนาปัญญาประดิษฐ์ในก้าวต่อไปนั้นมีทั้งการสร้างระบบปัญญาประดิษฐ์ให้มีความสามารถทางปัญญาที่กว้างขึ้น ซึ่งอาจจะต้องมีการสร้างระบบที่ผสมผสานกันระหว่างระบบที่ใช้การคิดแบบฉับพลันอย่างระบบ 1 กับการคิดใคร่ครวญอย่างการคิดระบบ 2  

นอกจากนี้ในมุมที่ใกล้ตัวเรามากขึ้น สำหรับกลุ่มของปัญญาประดิษฐ์เฉพาะทางที่นักวิจัยหลายท่านเคยเชื่อว่าน่าจะประสบผลสำเร็จอย่างดีเยี่ยมแล้ว เรากลับพบว่ามีปัญหาเกิดขึ้นอีกจำนวนมากมายเมื่อมีความพยายามจะนำไปใช้จริง โดยเฉพาะในประเด็นเรื่องความถูกต้องและปลอดภัย ระบบด้านปัญญาประดิษฐ์ที่มีความเสี่ยงต่อความเสียหายสูงจึงยังคงต้องมีการพยายามนำมนุษย์เข้ามาอยู่ในกระบวนการตัดสินใจอยู่ด้วยไม่มากก็น้อย แต่ปัญหาเหล่านี้ก็เป็นเครื่องเตือนใจที่ดีในการสร้างมุมมองที่ใกล้เคียงกับศักยภาพและโอกาสที่เป็นไปได้จริงๆ โดยไม่ได้เป็นภาพฝันที่สวยงามเกินไปหรือดำมืดเกินไป ในการสร้างและนำระบบปัญญาประดิษฐ์มาใช้ให้เกิดประโยชน์ต่อสังคมมนุษย์นั่นเอง


เอกสารอ่านเพิ่มเติม

1. Ilya Sutskever หัวหน้านักวิทยาศาสตร์ของ OpenAI ได้ทวิตว่า “it may be that today’s large neural networks are slightly conscious” (ในวันนี้เครือข่ายประสาทเทียมขนาดใหญ่อาจจะมีความรู้สึกตัวได้หน่อยๆ)  และทวิตเตอร์ของนักวิจัยด้านปัญญาประดิษฐ์ก็ลุกเป็นไฟ มีผู้เห็นด้วยและไม่เห็นด้วยจำนวนมาก บทความนี้ก็ได้รับแรงบันดาลใจมาจากการถกเถียงที่เริ่มจากทวิตนี้

2. อ่านเพิ่มเติมเกี่ยวกับ Artificial General Intelligence ได้ที่วิกิพีเดีย

3. หนังสือที่กล่าวถึงการคิดสองรูปแบบนี้คือหนังสือ Thinking, Fast and Slow โดยนักจิตวิทยา Daniel Kahneman  ที่เป็นหนึ่งในผู้บุกเบิกการศึกษาด้านเศรษฐศาสตร์พฤติกรรม

4. อ่านเกี่ยวกับการแข่งขันโกะระหว่าง Alpha Go กับ Lee Sedol ได้ที่บทความบนวิกิพีเดีย

5. หนึ่งในนักวิจัยชั้นนำที่เสนอว่าควรจะต้องมีการนำการคิดแบบระบบ 2 มาประกอบในการสร้างปัญญาประดิษฐ์คือ Yoshua Bengio นักวิจัยรางวัล Turing โดยสามารถอ่านแบบสรุปได้ที่ Thinking fast and slow with AI สำหรับผู้สนใจเนื้อหาเชิงลึกอาจอ่านเพิ่มเติมได้จาก Yoshua Bengio’s presentations

6. นอกจากนี้สามารถอ่านและฟังแนวทางการพัฒนาระบบที่มีทั้งระบบ 1 และระบบ 2 ได้จาก Francesca Rossi ที่เป็นหัวหน้าด้าน AI Ethics จาก IBM ที่ Thinking, fast and slow: AI edition (มีสรุปและมีคลิป) 

MOST READ

Life & Culture

1 Feb 2019

ทรมานแสนสุขสม : เปิดโลก ‘BDSM’ รสนิยมทางเพศที่ตั้งต้นจากความยินยอมพร้อมใจ

ศุภาวรรณ คงสุวรรณ์ ชวนสำรวจรสนิยมทางเพศแบบ BDSM ผ่านการพูดคุยกับสองสาวเจ้าของเพจ Thailand BDSM : Let’s Play and Learn ว่าด้วยนิยาม รูปแบบ คำอธิบายของความสุขในความเจ็บปวด ไปจนถึงความเสี่ยงในการใช้โซเชียลมีเดียเพื่อตามหาผู้มีรสนิยมแบบเดียวกัน พร้อมเก็บบรรยากาศการแสดง ‘ชิบาริ’ โดยศิลปินชาวญี่ปุ่นมาเล่าสู่กันฟังอย่างถึงเนื้อถึงหนัง

ศุภาวรรณ คงสุวรรณ์

1 Feb 2019

Life & Culture

8 Sep 2021

คนกระโปกแห่งยุคสมัย 199x ทำไมเด็กเจนวายไม่ยอมโต

คอลัมน์ PopCapture พิมพ์ชนก พุกสุข เขียนถึงสาเหตุสำคัญว่าเพราะอะไร ‘ชาวมิลเลนเนียลส์’ ถึงไม่อาจเติบโตได้อย่างที่ใจหวัง

พิมพ์ชนก พุกสุข

8 Sep 2021

Life & Culture

24 Dec 2018

‘สิงโตนอกคอก’ กับมุมมองต่อความเหลื่อมล้ำของ อดัม สมิธ

ธร ปีติดล เขียนถึงเรื่องสั้น ‘สิงโตนอกคอก’ ของจิดานันท์ เหลืองเพียรสมุท ที่ตั้งคำถามกับประเด็นจริยธรรม เชื่อมโยงกับมุมมองเรื่องความเหลื่อมล้ำของ อดัม สมิธ

ธร ปีติดล

24 Dec 2018

เราใช้คุกกี้เพื่อพัฒนาประสิทธิภาพ และประสบการณ์ที่ดีในการใช้เว็บไซต์ของคุณ คุณสามารถศึกษารายละเอียดได้ที่ นโยบายความเป็นส่วนตัว และสามารถจัดการความเป็นส่วนตัวเองได้ของคุณได้เองโดยคลิกที่ ตั้งค่า

Privacy Preferences

คุณสามารถเลือกการตั้งค่าคุกกี้โดยเปิด/ปิด คุกกี้ในแต่ละประเภทได้ตามความต้องการ ยกเว้น คุกกี้ที่จำเป็น

Allow All
Manage Consent Preferences
  • Always Active

Save