หุ้มรถด้วยลาย ‘adversarial’ ทำให้กล้อง AI ของ Flock ไม่อ่านป้ายทะเบียนได้

การสวม “ห่ม” รถยนต์ด้วยลวดลายที่ออกแบบโดย noRecognition จะทำให้ยานพาหนะหลบเลี่ยงกล้อง AI ของบริษัท Flock ได้หรือไม่ ? บริษัทสตาร์ท‑อัพผู้ก่อตั้งโดยนักวิจัยด้านความปลอดภัยไซเบอร์ Bill Swearingen นำเสนอการใช้ลาย “adversarial” ที่สร้างขึ้นด้วยคอมพิวเตอร์เพื่อทำให้ระบบอ่านป้ายทะเบียนอัตโนมัติ (ALPR) ของ Flock ไม่สามารถจำแนกยานได้อย่างแม่นยำ งานนี้ได้รับความสนใจหลังจากการสาธิตรถ Toyota Yaris รุ่น 2009 พร้อมหุ้มลายสีฟ้า‑เหลืองที่ Def Con 2024

Overview

บริษัท noRecognition ตั้งเป้าหมายต่อสู้กับเครือข่ายกล้องวงจรปิดทั่วสหรัฐอเมริกาที่เพิ่มจำนวนอย่างรวดเร็วโดยการนำเสนอลวดลาย “anti‑AI” ที่สามารถใช้บนเสื้อยืด ฮูดี หรือแม้กระทั่งหุ้มรถยนต์ ลายเหล่านี้ถูกออกแบบให้สร้าง “noise” ต่อโมเดลคอมพิวเตอร์วิชั่น ทำให้ระบบ AI จัดประเภทวัตถุผิดพลาด การขายสินค้าจำกัดและแต่ละชิ้นมีลายที่ไม่ซ้ำกันเป็นกลยุทธ์เพื่อหลีกเลี่ยงการฝึกฝนของ AI ให้จดจำแบบเดิม

อัลกอริธึม ALPR ของ Flock ได้รับความวิพากย์วิจารณ์จากหลายชุมชน เนื่องจากสามารถรวบรวมข้อมูลส่วนบุคคล ป้ายทะเบียน และประวัติการเคลื่อนที่ของผู้ขับได้อย่างละเอียด บริษัทรัฐต่างก็ใช้ข้อมูลเหล่านี้ในการสร้างโปรไฟล์ ผู้คนจึงมองหาวิธีปกป้องความเป็นส่วนตัวโดยไม่จำกัดการเคลื่อนไหวในพื้นที่สาธารณะ

Proof of Concept

ในงาน Def Con ที่จัดขึ้นที่ Las Vegas เมื่อ 6 เดือนสิงหาคม ปี 2024 Swearingen ได้นำเสนอรถ Toyota Yaris รุ่น 2009 ที่หุ้มด้วยลายสีฟ้า‑เหลืองแบบ “adversarial” เพื่อทดสอบความสามารถในการหลบกล้อง ALPR ของ Flock ผลการทดลองแสดงให้เห็นว่ากล้องหลายตัวไม่สามารถอ่านป้ายทะเบียนได้อย่างสมบูรณ์ แม้ว่ารถจะเคลื่อนที่ในระยะไกลและภายใต้สภาพแสงต่าง ๆ

Swearingen ยืนยันว่าแนวคิดนี้เกิดจากความกังวลส่วนบุคคลต่อการขยายตัวของเครือข่ายกล้องในเมืองบ้านเกิดของเขา เขากล่าวว่า “Privacy is a fundamental right” ในการให้สัมภาษณ์กับ TechCrunch การทดลองครั้งแรกเป็นเพียงขั้นตอนเริ่มต้นเพื่อพิสูจน์ว่าลวดลายที่ออกแบบโดย AI สามารถสร้างความสับสนแก่ระบบคอมพิวเตอร์วิชั่นได้จริง

How Adversarial Patterns Work

เทคนิค “adversarial media” หรือ “adversarial noise” ใช้ข้อมูลดิจิทัลที่เจือจางเพื่อทำให้โมเดลเรียนรู้ผิดพลาด การสร้างลายเหล่านี้มักเริ่มจากการฝึกโมเดล AI เพื่อค้นหาจุดอ่อนของระบบจำแนกภาพ จากนั้นจึงสังเคราะห์รูปแบบสีและรูปร่างที่ทำให้ผลลัพธ์ออกมาเป็น “false negative” หรือ “misclassification”

ในกรณีของ noRecognition ลายบนรถหรือเสื้อผ้าจะประกอบด้วยรูปทรงเรขาคณิตและโทนสีที่ AI พิจารณาว่าเป็นสัญญาณรบกวน ตัวอย่างเช่น การใช้จุดสีเข้มต่อเนื่องกับพื้นหลังสีอ่อน ทำให้การตรวจจับขอบของวัตถุยากขึ้น นอกจากนี้ ลายเหล่านี้ยังถูกออกแบบให้ทำงานได้ในเวลาจริง ขณะกล้องกำลังบันทึกภาพ

Testing & Limitations

บริษัทระบุว่าได้ทดสอบลวดลายของตนกับ 11 อัลกอริธึมตรวจจับแบบโอเพ่นซอร์ส รวมถึงซอฟต์แวร์ที่ขับเคลื่อนกล้อง ALPR ของ Flock และระบบกล้องบอดี้คาเมราของบริษัท Axon

• 11 อัลกอริธึมเปิด‑source (รวม Flock ALPR, Axon body‑camera)

แม้ผลการทดสอบแสดงถึงความสำเร็จในหลายกรณี แต่ Swearingen ยอมรับว่าประสิทธิภาพของลาย “adversarial” ไม่ได้เป็นสากล ทุกระบบ AI มีวิธีปรับตัวและอัปเดตโมเดลอย่างต่อเนื่อง การเปลี่ยนแปลงของพารามิเตอร์หรือการฝึกใหม่อาจทำให้ลายที่เคยใช้ได้แล้วไม่สามารถหลบได้อีก

อีกประเด็นหนึ่งคือความท้าทายด้านกฎหมายและข้อกำหนดว่าการใส่ลาย “ขัดขวาง” กล้องตรวจจับอาจถือเป็นการละเมิดกฎจราจรหรือความปลอดภัยสาธารณะ การนำไปใช้จริงจึงต้องพิจารณากรอบกฎหมายของแต่ละรัฐ

Potential Impact

หากเทคโนโลยีนี้ได้รับการปรับตัวและทำให้ใช้งานได้อย่างต่อเนื่อง มันอาจกลายเป็นหนึ่งในเครื่องมือสำคัญสำหรับผู้ที่มองหาการป้องกันข้อมูลส่วนบุคคลจากระบบสังเกตการณ์แบบอัตโนมัติ ผู้ใช้รถยนต์ส่วนบุคคลหรือองค์กรขนาดเล็กอาจเลือกซื้อ “wrap” ที่มีลายเฉพาะเพื่อปกปิดตัวตนของยาน

ในระดับนโยบาย การมีกลไกที่ทำให้กล้อง ALPR ทำงานได้ไม่เต็มประสิทธิภาพอาจกระตุ้นให้หน่วยงานรัฐหันไปพัฒนามาตรฐานใหม่ หรือกำหนดเงื่อนไขการใช้เทคโนโลยี “adversarial” อย่างชัดเจน เพื่อลดความเสี่ยงต่อการบิดเบือนข้อมูลสาธารณะ

อย่างไรก็ตาม การพัฒนาเทคโนโลยี AI ด้านตรวจจับภาพก็มีแนวโน้มเติบโตเร็วขึ้นโดยอัตโนมัติ การตอบโต้ด้วยลาย “adversarial” จะต้องเป็นกระบวนการต่อเนื่องและได้รับการทดสอบอย่างสม่ำเสมอเพื่อให้ยังคงทำงานได้ในสภาวะที่เปลี่ยนแปลง

Summary

noRecognition ได้นำเสนอวิธีใช้ลาย “adversarial” บนรถยนต์เพื่อหลบกล้อง AI ของ Flock, ซึ่งได้รับการทดสอบกับหลายอัลกอริธึมและแสดงศักยภาพในการทำให้ระบบ ALPR ทำงานผิดพลาด แม้จะมีข้อจำกัดด้านความมั่นคงของลายและประเด็นทางกฎหมาย แต่แนวคิดนี้ชี้ให้เห็นถึงการต่อสู้เพื่อความเป็นส่วนตัวในยุคที่กล้องเฝ้าระวังเพิ่มจำนวนอย่างรวดเร็ว.