Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy

by Cathy O'Neil

We live in the age of the algorithm. Increasingly, the decisions that affect our lives--where we go to school, whether we can get a job or a loan, how much we pay for health insurance--are being made not by humans, but by machines. In theory, this should lead to greater fairness: Everyone is judged according to the same rules.
But as mathematician and data scientist Cathy O'Neil reveals, the mathematical models being used today are unregulated and uncontestable, even when they're wrong. Most troubling, they reinforce discrimination--propping up the lucky, punishing the downtrodden, and undermining our democracy in the process.

Genres: Nonfiction, Science, Technology, Politics, Mathematics, Economics, Business

259 pages, Hardcover

First published September 6, 2016

About the author

Cathy O’Neil is the author of the bestselling Weapons of Math Destruction, which won the Euler Book Prize and was longlisted for the National Book Award. She received her PhD in mathematics from Harvard and has worked in finance, tech, and academia. She launched the Lede Program for data journalism at Columbia University and recently founded ORCAA, an algorithmic auditing company. O’Neil is a regular contributor to Bloomberg View.

Reviews

[รพีพัฒน์ อิงคสิทธิ์]

สนุกครับ แต่รู้สึกว่ามีบางช่วงที่หลงเข้ารกเข้าพงจนไม่ได้โฟกัสที่เรื่อง WMD สักเท่าไหร่

จริงๆ ถ้าผู้เขียนใส่ความรู้พื้นฐานเกี่ยวกับ Big Data ว่าทำงานอย่างไรในบทเริ่มต้นแรกๆ เข้าไปหน่อยก็น่าจะทำให้เข้าถึงได้ง่ายขึ้น แต่ลักษณะการวางโครงสร้างเน้นโยนปัญหาที่ค่อนข้างเชิงเทคนิคเข้าไป ทำให้ผู้อ่านที่ไม่มีพื้นฐานก็ได้ความประมาณว่า ก็รู้แหละว่ามันไม่ดี แต่ไม่รู้ว่าไม่ดีอย่างไร

แนะนำครับ แต่ควรอ่านหนังสืออย่าง Naked Statistic / Rise of the Robots ก่อนเพื่อให้พอรู้เรื่องคร่าวๆ

[Poramin Tasanoh]

ขอเกริ่นต้นด้วยการบอกว่า เป็นหนังสือที่อ่านสนุกที่สุดแบบวางไม่ลงเลย
เพราะผมใช้เวลาแค่ 9 วัน ก็อ่านจบแล้ว ไม่แน่ใจว่าเพราะวิธีการนำเสนอของหนังสือ ที่เกี่ยวข้องกับเราโดยตรง หรือการใช้ภาษาที่ง่ายต่อการเข้าใจสำหรับคนธรรมดาอย่างผม

ใครอ่านเล่มนี้บอกเลย ไม่ตกเทรน Big data หลายคนอาจจะงง ว่ามันจะเกี่ยวกันยังไง ถ้าไม่รู้จัก Big data อ่านจะเข้าใจไหม
ขอบอกเลยว่า ไม่ต้องเป็นผู้เชียวชาญด้าน data scientist หรือ economist ก็เข้าใจหนังสือเล่มนี้ได้ไม่ยาก

เนื้อเรื่องให้ความสนใจไปที่ algorithms ที่ถูกใช้กันอย่างแพร่หลายในทุกวันนี้โดยบริษัทในอุตสาหกรรมยักษใหญ่มากมายไม่เว้นแม้กระทั้งภาครัฐ ในยุคที่ข้อมูล ข่าวสาร หรือ การกระทำต่างๆ ของบุคคลถูกนำเข้ามาประมวลผลเพื่อคาดการณ์เหตการณ์ในอนาคต มันก็ทำให้เราอดตั้งคำถามกับ ระบบประมวณผลเหล่านี้ algorithmsนี้ มันมีประสิทธิภาพมากแค่ไหน หรือว่ามันส่งผลอย่างไรบ้าง

หนังสือเล่มนี้จะเปิดเผยอีกด้านหนึ่งของการใช้ algorithms ในปัจจุบันว่าจริงๆ แล้วมันส่งผลกระทบต่อพวกเราในระดับปัจเจกอย่างไรบ้าง หรือมันส่งผลกระทบต่อภาครวมของเศรษฐกิจ หรือสังคมเราอย่างไร ผลสัมฤทธิ์ของมันจริงแค่ไหน หรือมันแค่ขยายช่องว่างของความเหลื่อมล้ำให้เพิ่มมากขึ้น โดยการศึกษาจาก กรณีศึกษาต่างๆในสังคมปัจจุบันอย่างกว้างขวาง

*ถ้าคุณเป็นแค่คนธรรมดา = คุณจะได้ตระหนักถึงที่จะตามมามากขึ้น
ถ้าคุณเป็นนักวิทยาศาสตร์ข้อมูล (Data Scientist) = คุณควรจะกังวลและศึกษาผลกระทบจากการใช้ algorithms มากยิ่งขึ้น
ถ้าคุณเป็นหนวยงานภาครัฐ = คุณควรกำหนด กฏเกฑณ์ขึ้นมาเพื่อควบคุม บริษัทเอกชนที่ค่อยสร้างโมเดล algorithms ต่างๆ ออกมาใช้กับคน ชุมชน และสังคมในวงกว้าง ให้บุคคลได้รับความคุ้มครองมากขึ้นจากการใช้โมเดลเหล่านั้น

[Chayanon Kittidusaditham]

หลายคนคิดว่าการพัฒนาเทคโนลียีด้านคอมพิวเตอร์อย่าง Big data หรือ AI มาทำงานบางสิ่งบางอย่างแทนที่มนุษย์จะช่วยลดความเหลื่อมล้ำ อคติของการตัดสินใจของมนุษย์ระหว่างการทำงานแล้ว เค้าอาจจะคิดผิด แม้ว่าเทคโนโลยีเหล่านี้จะช่วยลดอคติบางอย่างของมนุษย์ได้จริง แต่ในบางกรณี กลับได้เพิ่มสิ่งผิดพลาดเข้าไปด้วยเช่นกัน หนังสือได้เล่าถึงกรณีของเทคโนโลยีที่มีช่องโหว่ ซึ่งส่งผลให้เกิดอคติบางอย่างจนส่งผลกระทบต่อการทำงานหรือชีวิตของมนุษย์อย่างใหญ่หลวง และเรียกมันว่า Weapons of Math Destruction
โดยรวมแล้วหนังสือค่อนข้างอ่านสนุก ช่วยให้เราเข้าใจด้านมืดของเทคโนโลยีเหล่านี้ และตระหนักถึงผลกระทบของมันที่เกิดขึ้นบนโลกใบนี้

[Woranart]

ในโลกที่ข้อมูลข่าวสารอยู่รอบตัว เราเห็นการนำความสัมพันธ์ของข้อมูลมาใช้ประโยชน์ ที่แท้จริงแล้วเราแทบไม่ทราบกระบวนการแปรผลข้อมูล อัลกอริทึมเป็นกล่องดำ และอาจเต็มไปด้วยอคติ
หนังสือเล่มนี้อธิบายกรณีตัวอย่างว่าการใช้ข้อมูลในยุคเทคโนโลยีนั้นมีจุดบกพร่องและสร้างความไม่เท่าเทียมได้อย่างไร
การใช้บิ๊กดาต้ามาตัดสินสิ่งต่างๆ แต่ขาด feedback จะสร้างวงจรอุบาทว์ที่ยิ่งขยายความเหลื่อมล้ำได้อย่างไร
เทคโนโลยีสารสนเทศกลายเป็นเหมือนกับสาธารณูปโภคอื่นๆ มันมีความจำเป็นและเข้าถึงคนจำนวนมาก
แต่หากมันกลายเป็นอาวุธ ผู้ได้ประโยชน์จะเป็นใคร ปัจเจกหรือผู้ควบคุม platform

[Pipat Tanmontong]

หนังสือเล่มนี้พาเราไปทำความรู้จักกับโมเดลคำนวณต่างๆที่มีผลกระทบต่อการดำรงชีวิตและโครงสร้างทางสังคมในโลกยุคที่มี AI สมรรถนะสูงสามารถรวบรวมและประมวลผลข้อมูลมหาศาลได้ในระยะเวลาอันสั้น ซึ่งจะปฏิวัติทุกๆอย่างในสังคมเราให้ต่างไปจากโลกในทศวรรษที่ผ่านมาอย่างสิ้นเชิง
เนื้อหาน่าสนใจแต่การอ่านต่อเนื่องไม่ลื่นเท่าไหร่

[Boost to Futon]

อ่านแล้วสะพรึง555 มีบางบทที่ศัพท์เทคนิคด้านการเงิน/การลงทุนเยอะจนอ่านไม่รู้เรื่องแต่ในกรณึศึกษาอื่น ๆ ก็คืออธิบายละเอียดมากว่าทำไมถึงเป็น WMD ชอบบทที่เกี่ยวกับมหาวิทยาลัย

ตอนอ่านก็คิดว่าที่อเมริกาเค้ามาถึงขนาดนี้กันแล้ว(และเล่มนี้ก็เขียน 5 ปีที่แล้ว) แต่ที่ไทยคือน่าจะยังไม่เริ่มมีการนำข้อมูลมาใช้ทำอะไรแบบนี้เลยมั้ง ไม่รู้ว่าควรดีใจหรือเสียใจ

[DoDo]

รวมด้านมืดของ Big data กล่าวถึงกลไกของ Big data การรวบรวมข้อมูลเพื่อทำการแทรกแซง
หรือมีหลักการอย่างไร ภาษาอ่านง่ายเข้าใจง่ายดี

มีส่วนที่ชอบหลายๆบท ในฟิลด์ที่ผู้เขียนลงไปเกี่ยวข้องเองจะอธิบายค่อนข้างเข้าใจง่าย แต่ด้านอื่นๆที่ไม่อยู่ก็จะอธิบายค่อนข้างขัดๆนิดหน่อย แต่โดยรวมเนื้อหาก็จะแนวทางเดียวกัน ทำให้ชะงักและคิดถึงเรื่องความเป็นส่วนตัวในการให้ข้อมูลกับเบื้องหลังการรวบรวมข้อมูลต่างๆเพื่อเอาไปหาประโยชน์ทางธุรกิจบางอย่าง

ชอบการแสดงมุมมองหลายมุมมอง โดยเฉพาะการแสดงความเหลื่อมล้ำที่มาจากข้อมูล เช่นโปรแกรมตรวจหาอาชญากรรมล่วงหน้าของตำรวจ ซึ่งเก็บข้อมูลพื้นที่เสี่ยงต่อการเกิดอาชญากรรม ถ้าเป็นคนดีแต่อยู่ในย่านยากจน มีผู้กระทำผิดอยู่รอบข้างก็จะโดนจับตาโดยข้อมูลว่าเป็นผู้ที่เสี่ยงต่อการกระทำผิดโดยวัดจากสิ่งแวดล้อมรอบๆ ส่วนคนที่ผิดโดยอยู่ในย่านคนรวยก็จะไม่ถูกข้อมูลตรวจจับเพราะไม่มีเหตุผลและแรงจูงใจให้ทำผิด

หนังสือยังกล่าวถึงผู้ที่โดนผลกระทบต่ออัลกอรึทึ่ม โดนตัดโอกาสตั้งแต่ส่งใบสมัครงานโดยที่บางคนก็ไม่มีโอกาสได้รับรู้ แม้การคำนวณดูจะมีเหตุผลและยุติธรรมโดยเฟ้นหาผู้มีประสิทธิภาพสูงสุดเข้ามาทำงาน แต่จะมั่นใจได้อย่างไรว่าสิ่งที่ใส่ลงไปในอัลกอริทึ่มนั้นจะไม่มีอคติอย่างเพศ เชื้อชาติ รวมทั้งกีดกันผู้ที่มีโอกาสเจ็บป่วยในการหางานด้วย

โดยรวมคืออ่านสนุก น่ากลัวและเตือนสติหลายๆบทเลยทีเดียว