กองทัพสหรัฐฝึก AI agents ทำหน้าที่ไซเบอร์ภายใต้การควบคุมของมนุษย์

การทหารสหรัฐกำลังพัฒนา AI agents ให้ทำหน้าที่ไซเบอร์เฉพาะด้านพร้อมกับการควบคุมของเจ้าหน้าที่มนุษย์ โดยมุ่งเน้นให้ระบบอัตโนมัติสามารถดำเนินงานได้เร็วกว่าแต่ยังต้องผ่านการตรวจสอบจากผู้เชี่ยวชาญ เรื่องนี้เป็นส่วนสำคัญของความพยายามเพิ่มศักยภาพทางไซเบอร์ของกองทัพในยุคที่คู่แข่งทำงานด้วย “machine speed” อย่างต่อเนื่อง

Overview

หน่วย Army Cyber Command (ARCYBER) ระบุว่าโครงการฝึกอบรม AI agents นี้ดำเนินการผ่าน Task Force Lexington** ซึ่งรับผิดชอบดูแลโปรแกรมปัญญาประดิษฐ์ทั้งหมดของกองทัพ กระบวนการฝึกจะกำหนดให้แต่ละเอเย่นต์ทำงานใน “work role” เฉพาะเจาะจงภายในหน่วยไซเบอร์ โดยเจ้าหน้าที่มนุษย์ยังคงเป็นผู้ตัดสินใจขั้นสุดท้ายเมื่อต้องเผชิญกับความเสี่ยงเชิงปฏิบัติการ

Training Framework & Roles

การฝึกอบรมของเอเย่นต์ครอบคลุมตำแหน่งหลายประเภทที่เคยดำเนินงานโดยบุคคลจริง ได้แก่ ผู้พัฒนา, วิศวกรข้อมูล, นักวิเคราะห์โฮสต์และนักวิเคราะห์การใช้ประโยชน์ (exploitation analyst) ทุกเอเย่นต์ต้องผ่าน Job Qualification Readiness ก่อนจะได้รับมอบหมายภารกิจใด ๆ ขั้นตอนนี้คล้ายกับมาตรฐานที่กำหนดให้บุคลากรมนุษย์

• ผู้พัฒนา (Developers)
• วิศวกรข้อมูล (Data Engineers)
• นักวิเคราะห์โฮสต์ (Host Analysts)
• นักวิเคราะห์การใช้ประโยชน์ (Exploitation Analysts)

ทีมฝึกอบรมของ Task Force Lexington มีขนาดประมาณ 10 คน ที่มีความเชี่ยวชาญด้านเทคนิค โดยทีมนี้ยังได้ส่งเจ้าหน้าที่ไปที่ Defense Innovation Unit เพื่อรับการสอนเพิ่มเติมจากวิศวกรอาวุโส ซึ่งช่วยยกระดับความสามารถของเอเย่นต์ให้ตรงกับภารกิจระดับสูง

Deployment and Operational Use

AI agents ที่ผ่านการฝึกแล้วเริ่มถูกนำไปใช้ในหลายฟังก์ชัน เช่น การ “network hunting”, การจัดการความเสี่ยงด้านไซเบอร์, และการปกป้องระบบสารสนเทศของกองทัพที่ทำงานตลอดวัน เมื่อเอเย่นต์ทำผิดพลาด เจ้าหน้าที่จะทำการแก้ไขและส่งกลับเข้าสู่กระบวนการฝึกซ้ำเพื่อปรับปรุงผลลัพธ์ ดังนั้น แม้ว่าระบบจะทำงานได้เร็วกว่า แต่ความแม่นยำยังคงต้องอาศัยการตรวจสอบจากมนุษย์

Human Oversight & Risk Management

ถึงแม้เอเย่นต์จะสามารถดำเนินงานบางส่วนได้ด้วย “machine speed” กองทัพสหรัฐไม่ได้ให้สิทธิ์แก่ระบบเหล่านี้ในการรับความเสี่ยงเชิงปฏิบัติการโดยอัตโนมัติ ตามคำของ Lt. Gen. Christopher Eubank ผู้บังคับบัญชา ARCYBER ว่า “เราไม่มีเอเย่นต์ใดที่ได้รับอิสระให้รับความเสี่ยงด้วยตนเอง” ผู้บังคับการจะประเมินระดับการป้องกันและกำหนดว่าภารกิจใดควรมอบหมายให้ AI ทำได้ ส่วนงานที่ต้องการการตัดสินใจเชิงศีลธรรมหรือมีผลกระทบรุนแรงยังคงอยู่ภายใต้การตรวจสอบของเจ้าหน้าที่มนุษย์

Strategic Implications

ตามคำกล่าวของ Lt. Gen. Jeth Rey รองหัวหน้าฝ่าย G‑6 ของกองทัพ “เราปฏิบัติการและป้องกันเครือข่ายด้วยความเร็วของคน แต่ศัตรูทำได้ด้วยความเร็วของเครื่อง” การผสมผสานระหว่างการทำงานอัตโนมัติที่รวดเร็วกับการควบคุมโดยมนุษย์จึงเป็นก้าวสำคัญในการรักษาความได้เปรียบทางไซเบอร์ ในขณะเดียวกัน การกำหนดกรอบความรับผิดชอบและมาตรฐานคุณภาพของเอเย่นต์จะช่วยลดช่องโหว่ที่อาจเกิดจากการทำงานโดยอัตโนมัติเต็มรูปแบบ

Summary

กองทัพสหรัฐกำลังฝึก AI agents ให้ทำหน้าที่ไซเบอร์เฉพาะด้านภายใต้การควบคุมของเจ้าหน้าที่มนุษย์ กระบวนการฝึกรวมถึงการรับรองคุณสมบัติและการตรวจสอบผลลัพธ์เพื่อให้แน่ใจว่าแม้ระบบจะทำงานเร็วกว่า แต่ความเสี่ยงยังคงถูกจัดการโดยผู้เชี่ยวชาญ.