Microsoft ประกาศ Video Authenticator เพื่อระบุ Deepfakes

เพื่อตอบโต้การแพร่ขยายของของปลอมลึกMicrosoft ได้เปิดตัวเครื่องมือตรวจสอบสิทธิ์วิดีโอใหม่ที่สามารถใช้วิเคราะห์ภาพนิ่งหรือวิดีโอเพื่อกำหนดเปอร์เซ็นต์ความน่าจะเป็นที่สื่อถูกดัดแปลง

ในกรณีของวิดีโอ Microsoft ระบุว่าสามารถให้เปอร์เซ็นต์นี้แบบเรียลไทม์สำหรับแต่ละเฟรมในขณะที่กำลังเล่นวิดีโอ ตรวจจับเส้นผสมขององค์ประกอบระดับสีเทาที่ลึก ละเอียด หรือสีซีดจางที่อาจมองไม่เห็นด้วยตามนุษย์

Deepfakes หรือสื่อสังเคราะห์อาจเป็นรูปภาพ วิดีโอ หรือไฟล์เสียงที่จัดการโดยปัญญาประดิษฐ์ (AI) การตรวจจับการปลอมแปลงในเชิงลึกมีความสำคัญต่อการเลือกตั้งของสหรัฐฯ ที่จะเกิดขึ้น ตามที่ Microsoft ระบุ

เทคโนโลยีนี้สร้างขึ้นโดยใช้ชุดข้อมูลสาธารณะจาก Face Forensic ++ Microsoft กล่าวว่าได้รับการทดสอบด้วยชุดข้อมูล DeepFake Detection Challenge ซึ่งเชื่อว่าเป็นโมเดลชั้นนำ เพื่อฝึกอบรมและทดสอบเทคโนโลยีการตรวจจับของปลอมที่เข้ามา

“เราคาดว่าวิธีการสร้างสื่อสังเคราะห์จะมีความซับซ้อนมากขึ้นเรื่อยๆ เนื่องจากวิธีการตรวจจับ AI ทั้งหมดมีอัตราความผิดพลาด เราจึงต้องเข้าใจและเตรียมพร้อมที่จะตอบสนองต่อของปลอมที่ฝังลึกซึ่งผ่านวิธีการตรวจจับ” บริษัทกล่าวในบล็อกโพสต์

“ในระยะยาว ดังนั้น เราต้องมองหาวิธีที่แข็งแกร่งกว่าในการรักษาและรับรองความถูกต้องของบทความข่าวและสื่ออื่นๆ”

ด้วยเครื่องมือบางอย่างที่พร้อมใช้งาน Microsoft ยังได้แนะนำเทคโนโลยีใหม่ที่สามารถตรวจจับเนื้อหาที่ถูกดัดแปลง และทำให้แน่ใจว่าสื่อที่คุณกำลังรับชมนั้นเป็นของแท้

เทคโนโลยีประกอบด้วยสององค์ประกอบ อย่างแรกคือเครื่องมือที่สร้างขึ้นใน Microsoft Azure ซึ่งช่วยให้ผู้ผลิตเนื้อหาสามารถเพิ่มแฮชดิจิทัลและใบรับรองให้กับเนื้อหาได้

“แฮชและใบรับรองอยู่กับเนื้อหาเป็นเมตาดาต้า ไม่ว่าจะออนไลน์ที่ไหน” ไมโครซอฟท์กล่าว

ประการที่สองคือโปรแกรมอ่านที่สามารถรวมอยู่ในส่วนขยายของเบราว์เซอร์ที่ตรวจสอบใบรับรองและเปรียบเทียบแฮชกับการจับคู่เพื่อกำหนดความถูกต้อง

Microsoft ยังได้ร่วมมือกับ AI Foundation ในการต่อสู้หลอกหลอน ในฐานะที่เป็นส่วนหนึ่งของการเป็นหุ้นส่วน ทั้งสองฝ่ายจะจัดหาเครื่องตรวจสอบวิดีโอให้กับองค์กรที่เกี่ยวข้องกับกระบวนการประชาธิปไตย รวมถึงองค์กรข่าวและการรณรงค์ทางการเมือง ผ่านความคิดริเริ่ม Reality Defender 2020 ของมูลนิธิ

ตัวตรวจสอบความถูกต้องของวิดีโอในขั้นต้นจะพร้อมใช้งานผ่านความคิดริเริ่มเท่านั้น

ความร่วมมืออีกประการหนึ่งกับกลุ่มบริษัทสื่อที่รู้จักกันในชื่อ Project Origin คือการทดสอบเทคโนโลยีความถูกต้องของ Microsoft โครงการริเริ่มโดยผู้จัดพิมพ์และบริษัทโซเชียลมีเดียหลายแห่ง Trusted News Initiative ตกลงที่จะทำงานร่วมกับ Microsoft เพื่อทดสอบเทคโนโลยีของพวกเขา

University of Washington, In-House Counterfeit Detection Sensitivity และ USA Today ได้ร่วมมือกับ Microsoft เพื่อปรับปรุงความรู้ด้านสื่อ

“ด้วยการปรับปรุงความรู้ด้านสื่อ ผู้คนสามารถกำจัดข้อมูลที่ผิดโดยอิงจากเหตุการณ์จริง และจัดการความเสี่ยงของการปลอมแปลงที่มีราคาถูกและลึก” ไมโครซอฟท์กล่าว “การรู้จักสื่อสามารถช่วยให้เราทุกคนคิดวิเคราะห์เกี่ยวกับบริบทของสื่อและกลายเป็นพลเมืองที่มีส่วนร่วมมากขึ้นในขณะที่เพลิดเพลินกับการเสียดสีและการล้อเลียน”

ในส่วนหนึ่งของความร่วมมือครั้งนี้ จะมีแคมเปญประกาศบริการสาธารณะที่จะเชิญผู้คนให้ “หยุดเพื่อทบทวน” และตรวจสอบว่าข้อมูลมาจากองค์กรข่าวที่มีชื่อเสียงก่อนที่จะแชร์หรือโปรโมต บนโซเชียลมีเดียก่อนการเลือกตั้ง

ทั้งสองฝ่ายยังได้เปิดแบบสอบถามสำหรับผู้มีสิทธิเลือกตั้งชาวอเมริกันเพื่อเรียนรู้เพิ่มเติมเกี่ยวกับสื่อสังเคราะห์