ความล้มเหลวครั้งยิ่งใหญ่ของ AI: สิ่งที่เราเรียนรู้ได้จากความผิดพลาดอันมีค่าใช้จ่ายสูง
ฉันติดตามการพัฒนา AI มาหลายปี และในขณะที่เราเฉลิมฉลองความก้าวหน้า แต่ก็ยังมีอีกด้านหนึ่ง: ความล้มเหลวอันน่าตื่นตาที่ต้องใช้เงินลงทุนหลายพันล้าน มาดูความล้มเหลวของโครงการ AI ที่ให้ความรู้มากที่สุดและสิ่งที่พวกเขาสอนเรากัน
เหตุการณ์รถขับเคลื่อนด้วยตนเองของ Uber (2018)
ในเดือนมีนาคม 2018 รถยนต์ไร้คนขับของ Uber มีส่วนร่วมในเหตุการณ์ร้ายแรงในเมืองเทมพี รัฐแอริโซนา ซึ่งนำไปสู่การระงับโครงการขับเคลื่อนด้วยตนเอง การสอบสวนเผยให้เห็นความล้มเหลวของระบบหลายครั้ง
เซ็นเซอร์ของรถตรวจพบสิ่งกีดขวางก่อนชน 5.6 วินาที แต่ระบบจำแนกประเภท AI ไม่สามารถระบุและตอบสนองได้อย่างถูกต้อง ระบบหมุนเวียนไปตามการจำแนกประเภทต่างๆ โดยไม่มีการดำเนินการที่เหมาะสม
คุณลักษณะด้านความปลอดภัยที่สำคัญถูกปิดใช้งาน ทำให้เกิดการพึ่งพาการควบคุมดูแลของมนุษย์ที่เป็นอันตราย เหตุการณ์ดังกล่าวเน้นย้ำข้อบกพร่องพื้นฐานในโปรโตคอลการทดสอบและระบบความปลอดภัย ซึ่งท้ายที่สุดแล้ว ความทะเยอทะยานของยานพาหนะขับเคลื่อนอัตโนมัติของ Uber ก็ยุติลง
IBM Watson for Oncology: ภาพลวงตาทางการแพทย์มูลค่า 62 ล้านเหรียญสหรัฐ
IBM ทำการตลาดให้วัตสันเป็นที่ปรึกษาด้านการรักษามะเร็งเชิงปฏิวัติ โดยอ้างว่าสามารถวิเคราะห์วรรณกรรมทางการแพทย์เพื่อแนะนำการรักษาได้ โรงพยาบาลจ่ายเงินหลายล้าน โดย Memorial Sloan Kettering ลงทุนมากกว่า 62 ล้านดอลลาร์
ความเป็นจริงนั้นช่างเลวร้าย วัตสันให้คำแนะนำที่ไม่ปลอดภัยและไม่ถูกต้อง ในกรณีหนึ่ง มีการเสนอยาที่ทำให้เลือดออกแก่ผู้ป่วยที่มีเลือดออกอยู่แล้ว ระบบไม่ได้วิเคราะห์วรรณกรรม แต่เป็นการกระตุ้นอคติจากแพทย์กลุ่มเล็กๆ
ความล้มเหลวเป็นเพียงแนวคิด IBM เข้าใจผิดด้านเนื้องอกวิทยา การรักษาโรคมะเร็งไม่ได้เกี่ยวกับการประมวลผลข้อมูล แต่ต้องใช้วิจารณญาณของมนุษย์ซึ่ง AI ไม่สามารถทำซ้ำได้
Tay ของ Microsoft: เมื่อ AI เรียนรู้บทเรียนที่ผิด
ในปี 2559 Microsoft ได้เปิดตัว Tay ซึ่งเป็นแชทบอท Twitter ที่ออกแบบมาเพื่อเรียนรู้จากการสนทนาของผู้ใช้ ภายใน 24 ชั่วโมง โทรลล์ที่ประสานงานได้เปลี่ยนมันให้กลายเป็นบอทเหยียดเชื้อชาติ เหยียดเพศ โดยพ่นคำพูดแสดงความเกลียดชังและทฤษฎีสมคบคิด
สิ่งนี้เผยให้เห็นข้อบกพร่องพื้นฐานในสมมติฐานการเรียนรู้ของ AI แนวคิดที่ว่า AI เรียนรู้พฤติกรรม "ดี" ตามธรรมชาตินั้น มองข้ามว่ามนุษย์มักประพฤติตนไม่ดีทางออนไลน์ โดยเน้นถึงช่องโหว่ของ AI ต่อการยักย้ายที่ประสานกัน
อัลกอริธึมการจ้างงานแบบเอนเอียงของ Amazon
Amazon แอบใช้ AI เพื่อคัดกรองผู้สมัครงาน และฝึกอบรมเกี่ยวกับเรซูเม่ 10 ปี ระบบเรียนรู้ที่จะเลือกปฏิบัติต่อผู้หญิง โดยลดระดับเรซูเม่ที่กล่าวถึงกิจกรรม "ของผู้หญิง" หรือวิทยาลัยสตรีล้วน
โดยได้เรียนรู้รูปแบบการจ้างงานในอดีตของ Amazon ที่สนับสนุนผู้ชายและรักษาอคตินั้นไว้ วิศวกรไม่สามารถรับประกันได้ว่าจะไม่พบวิธีการเลือกปฏิบัติอื่นๆ ดังนั้นพวกเขาจึงยกเลิกโครงการนี้ในปี 2018
บทเรียนที่ลึกซึ้งยิ่งขึ้น
ความล้มเหลวเหล่านี้เผยให้เห็นถึงปัญหาทางระบบ:
ปัญหาข้อมูลการฝึกอบรม: AI ทุกตัวจะดีพอๆ กับข้อมูลเท่านั้น วัตสันเรียนรู้จากกลุ่มตัวอย่างที่มีอคติ, AI ของ Amazon จากรูปแบบการจ้างงานที่มีอคติ, Tay จากพฤติกรรมที่เป็นพิษ
ภาวะที่กลืนไม่เข้าคายไม่ออกของกล่องดำ: ระบบทำการตัดสินใจที่ไม่สามารถอธิบายได้ เมื่อรถของ Uber ไม่สามารถจำแนกคนเดินถนนได้หรือวัตสันให้คำแนะนำที่เป็นอันตราย ผู้สร้างก็ไม่เข้าใจว่าทำไม
กับดักความมั่นใจมากเกินไป: บริษัทขายความสามารถมากเกินไป IBM อ้างว่าวัตสันจะปฏิวัติการแพทย์ ส่วน Uber แนะนำว่ารถยนต์ปลอดภัยกว่ามนุษย์ สิ่งนี้นำไปสู่การปรับใช้ก่อนเวลาอันควร
ปัจจัยด้านมนุษย์: ความล้มเหลวเกือบทั้งหมดเกี่ยวข้องกับการตัดสินใจที่ไม่ดีของมนุษย์เกี่ยวกับการปรับใช้หรือการตรวจสอบ มนุษย์ปิดการใช้งานระบบความปลอดภัย เพิกเฉยต่อสัญญาณอคติ หรือไม่สามารถคาดการณ์ปัญหาได้
สิ่งนี้หมายถึงอะไรสำหรับอนาคต
ความล้มเหลวเหล่านี้ให้บทเรียนที่สำคัญ:
การทดสอบที่ดีกว่า: ระบบ AI ต้องการการทดสอบที่มีการควบคุมนานกว่าก่อนที่จะใช้งานจริง แรงกดดันด้านความเร็วอาจนำไปสู่ปัญหาด้านความปลอดภัยที่ร้ายแรงได้
AI ที่อธิบายได้: หากเราไม่เข้าใจการตัดสินใจของ AI เราไม่ควรไว้วางใจการตัดสินใจที่สำคัญเหล่านั้น ปัญหากล่องดำเป็นปัญหาด้านความปลอดภัยขั้นพื้นฐาน
ทีมและข้อมูลที่หลากหลาย: ทีมที่เป็นเนื้อเดียวกันสร้างระบบที่มีอคติ เราต้องการมุมมองที่หลากหลายทั้งในด้านผู้สร้างและข้อมูลการฝึกอบรม
กรอบการกำกับดูแล: "เคลื่อนย้ายอย่างรวดเร็วและทำลายสิ่งของ" ใช้ไม่ได้กับระบบที่มีความสำคัญต่อชีวิต เราต้องการกฎระเบียบที่รอบคอบเพื่อสร้างสมดุลระหว่างนวัตกรรมกับความปลอดภัย
ความอ่อนน้อมถ่อมตน: ความล้มเหลวครั้งใหญ่ที่สุดมาจากบริษัทที่เชื่อในการโฆษณาของตัวเอง AI มีข้อจำกัด และการเพิกเฉยต่อสิ่งเหล่านี้จะส่งผลที่ตามมาอย่างแท้จริง
ถนนข้างหน้า
ฉันไม่ได้โต้แย้งกับการพัฒนา AI เทคโนโลยีเหล่านี้มีศักยภาพมหาศาล แต่เราต้องเรียนรู้จากความล้มเหลวอันแสนแพง
บริษัทที่ประสบความสำเร็จจะเข้าถึง AI ด้วยความระมัดระวังอย่างเหมาะสม ลงทุนในความปลอดภัยและการทดสอบ และรักษาความคาดหวังที่สมจริงเกี่ยวกับความสามารถของระบบ
เดิมพันสูงในการทำให้ถูกต้อง ด้วยการศึกษาความล้มเหลวของโครงการเหล่านี้ เราหวังว่าจะหลีกเลี่ยงการเกิดซ้ำได้เนื่องจาก AI กลายเป็นศูนย์กลางในการดำเนินงานของเรามากขึ้น
อนาคตของ AI ไม่ใช่แค่การสร้างระบบที่ชาญฉลาดขึ้นเท่านั้น แต่ยังเกี่ยวกับการสร้างระบบที่ชาญฉลาดอีกด้วย ภูมิปัญญามักมาจากการเข้าใจความล้มเหลวพอๆ กับการเฉลิมฉลองความสำเร็จ
*คุณคิดอย่างไรเกี่ยวกับความล้มเหลวของ AI เหล่านี้ แบ่งปันความคิดของคุณในความคิดเห็นด้านล่าง *