โลกของเรากำลังกลายเป็นดิจิทัลมากขึ้นทุกนาที และปริมาณข้อมูลที่สร้างขึ้นก็เพิ่มขึ้นอย่างทวีคูณ ในขณะเดียวกัน AI กำลังพัฒนาอย่างรวดเร็วและการเติบโตของการวิจัยและคำแนะนำด้านนโยบายจำเป็นต้องทำให้แน่ใจว่า AI ได้รับการนำไปใช้อย่างมีจริยธรรมในการนำ AI ไปใช้อย่างมีจริยธรรม หน่วยงานจำเป็นต้องตรวจสอบให้แน่ใจว่า AI ดำเนินการภายในขอบเขต และพฤติกรรมของ AI ได้รับการตรวจสอบอย่างดีในแง่ของความเป็นธรรมและอันตราย หากโมเดล AI ไม่สามารถเชื่อถือได้ว่าเข้ากันได้กับภารกิจนั้น หรือไม่สามารถพิสูจน์ได้ว่าจำกัดอันตรายต่อสาธารณะ มันก็ไม่สามารถกลายเป็นส่วนหนึ่งของโครงสร้างพื้นฐานสาธารณะได้
ด้วยเหตุนี้ AI ที่อธิบายได้ (XAI) จึงเป็นส่วนสำคัญของกรอบการจัดการความเสี่ยง
การมีเครื่องมือในการทำความเข้าใจโมเดลและโมเดล AI ด้วยสถาปัตยกรรมที่สามารถสร้างคำอธิบายที่มนุษย์เข้าใจได้ถือเป็นพื้นฐานและข้อกำหนดเบื้องต้นในการประเมินความเสี่ยงในระบบ AI ใดๆ การปกป้องบางสิ่งก่อนอื่นจำเป็นต้องดูว่าอะไรที่ก่อให้เกิดความเสี่ยง
หลักการสี่ประการของสถาบันมาตรฐานและเทคโนโลยีแห่งชาติสำหรับ XAI สรุปความต้องการส่วนประกอบ – แบบจำลองควรเข้ากันได้กับการสร้างคำอธิบาย คำอธิบายนั้นต้องถูกต้องเพื่อใช้เป็นเมตริกที่มีประโยชน์ คำอธิบายต้องมีความหมายต่อผู้มีส่วนได้ส่วนเสียในบริบทของผลลัพธ์ด้วย และสุดท้าย คำอธิบายนั้นต้องรวมถึงขีดจำกัดของอำนาจในการอธิบาย ดังนั้นแบบจำลองจะไม่ถูกนำไปใช้ในทางที่ผิดโดยไม่ตั้งสัญญาณเตือน
DoD Cloud Exchange ของ Federal News Network: จากองค์กรสู่ความได้เปรียบทางยุทธวิธี — ค้นพบว่ากระทรวงกลาโหมและหน่วยบริการทางทหารมีความตั้งใจที่จะยกระดับการใช้เทคโนโลยีคลาวด์อย่างไร
แม้จะมีความจำเป็น แต่การบรรลุ XAI ตามหลักการของ NIST อาจเป็นเรื่องที่ท้าทาย แบบจำลอง AI ส่วนใหญ่พยายามจำลองวิธีคิดของมนุษย์ แต่แบบจำลองทางคณิตศาสตร์พื้นฐานนั้นแตกต่างกันอย่างมาก ทำให้ตรรกะหรือฮิวริสติกที่อยู่เบื้องหลังการตัดสินใจแบบจำลองเหล่านี้เข้าใจได้ยากสำหรับมนุษย์ สามขั้นตอน ได้แก่ การนำโมเดล AI ที่เน้นความโปร่งใสมาใช้ การรักษาการตรวจสอบการผลิต และรวมถึงการศึกษาของพนักงาน สามารถช่วยหน่วยงานต่างๆ ใช้ AI อย่างมีความรับผิดชอบและสอดคล้องกับหลักการของ NIST
ทำให้ AI สามารถอธิบายได้
ประการแรก หน่วยงานต้องสามารถตีความความซับซ้อนที่แตกต่างกันของอัลกอริธึมต่างๆ ที่ขับเคลื่อนโมเดล AI เหล่านี้ได้ ทั้งนี้ขึ้นอยู่กับหลักการพื้นฐาน อาจเป็นสิ่งที่ค่อนข้างเข้าใจได้ง่าย เช่น การถดถอยและแผนผังการตัดสินใจ หรืออาจเป็นสิ่งที่เป็นนามธรรมมากกว่า เช่น ตัวแปลงภาษาธรรมชาติ ซึ่งยากต่อการเข้าใจผลลัพธ์
เพื่อให้แบบจำลองสามารถอธิบายได้ การตีความจะต้องเข้าใจได้ง่ายด้วย นี่คือจุดที่ความรู้ของ AI และการโต้ตอบระหว่างมนุษย์กับคอมพิวเตอร์สามารถรวมพลังกัน แปลเมตริกทางสถิติและการวัดแบบจำลองเป็น ภาษาที่ช่วยให้มนุษย์ตัดสินใจว่าจะดำเนินการตามผลลัพธ์ของแบบจำลองหรือไม่
ตัวอย่างเช่น ด้วยอัลกอริทึมการมองเห็นของคอมพิวเตอร์ที่ช่วยระบุความผิดปกติในภาพทางการแพทย์ เช่น การค้นหามะเร็งในการสแกน CT-scan ของปอด การวินิจฉัยขั้นสุดท้ายควรทำโดยผู้เชี่ยวชาญทางการแพทย์ อัลกอริธึมการมองเห็นของคอมพิวเตอร์เน้น “พื้นที่ที่น่าสนใจ” เช่น พิกเซลสูงที่ช่วยในการตรวจหาเนื้อเยื่อมะเร็งโดยอัตโนมัติ แต่การค้นพบเหล่านี้ได้รับการยืนยันโดยผู้เชี่ยวชาญด้านมนุษย์ที่มีประสบการณ์
แนวทางที่โปร่งใสเป็นอันดับแรกสำหรับ AI
มีสององค์ประกอบหลักที่ช่วยให้แนวทางแบบเนทีฟมีความโปร่งใสในการพัฒนาโมเดล AI และการดำเนินการ องค์ประกอบแรกคือ MLOps (Machine Learning Operations) ซึ่งเป็นโครงสร้างพื้นฐานและกระบวนการทางเทคโนโลยีที่ช่วยให้สามารถพัฒนาและปรับใช้แบบจำลองที่ทำซ้ำได้และทำซ้ำได้ หากไม่มี MLOps ความสามารถในการอธิบายโมเดลจะเป็นแบบเฉพาะกิจและแบบแมนนวล การเปลี่ยนแปลงเล็กน้อยหรือการอัปเกรดโมเดลจะใช้เวลามากและมีราคาแพง และการตรวจสอบประสิทธิภาพของโมเดล AI ในการผลิตที่ไม่สอดคล้องและไม่น่าเชื่อถือ
ความจริงก็คือ AI ทุกรุ่นจะมีประสิทธิภาพลดลงเมื่อเวลาผ่านไป สิ่งนี้สามารถเกิดขึ้นได้เนื่องจากการเลื่อนลอยของข้อมูลหรือแนวคิด อัลกอริทึมใหม่ หรือการเปลี่ยนแปลง ROI ทางธุรกิจ ไม่ว่าด้วยเหตุผลใดก็ตาม การตรวจสอบการผลิตเป็นวิธีที่สามารถแจ้งเตือนเจ้าของ/ผู้ปฏิบัติงานและกระตุ้นการดำเนินการที่ถูกต้อง
องค์ประกอบที่สองคือความสามารถในการอธิบายด้วยอัลกอริทึม ความสามารถในการแยกและแปลฮิวริสติกที่อยู่เบื้องหลังการตัดสินใจของแบบจำลองเป็นภาษาที่นำไปปฏิบัติได้ ความเชี่ยวชาญด้านการเรียนรู้ด้วยเครื่องเป็นสิ่งสำคัญในการแยกการวิเคราะห์พฤติกรรมการตัดสินใจของแบบจำลอง ขึ้นอยู่กับกรณี
Credit : สล็อตยูฟ่า / คืนยอดเสีย / เว็บสล็อตออนไลน์
