กำแพง: ไฟร์วอลล์นโยบายเพื่อจำกัดตัวแทน AI อิสระ
rampart ซึ่งพัฒนาโดย Peg เป็นกรอบความปลอดภัยแบบโอเพนซอร์สที่นั่งอยู่ระหว่าง AI agents และทรัพยากรของระบบเพื่อลดการกระทำอิสระที่มีความเสี่ยง มันประเมินการดำเนินการที่เริ่มต้นโดยตัวแทนและบังคับใช้กฎในขณะที่สแกนผลลัพธ์เพื่อตรวจสอบการรั่วไหลของข้อมูลที่ละเอียดอ่อน โครงการนี้จับคู่เส้นทางการตรวจสอบและกระบวนการอนุมัติจากมนุษย์กับการเชื่อมต่อสำหรับเครื่องมือของตัวแทน มันมุ่งเป้าไปที่นักพัฒนาและวิศวกรด้านความปลอดภัยที่ต้องการการควบคุมการดำเนินงานที่เข้มแข็งขึ้นรอบ ๆ ผู้ช่วยการเขียนโค้ดอิสระและการปรับใช้ตัวแทนตามโปรโตคอล.
คุณสามารถใช้มันทำงานอะไรได้บ้าง?
rampart ทำหน้าที่เป็นพร็อกซี่กลางสำหรับเซิร์ฟเวอร์ MCP โดยการดักจับการเรียกเครื่องมือ เช่น การดำเนินการเชลล์ การเข้าถึงไฟล์ และคำขอเครือข่ายขาออก และตรวจสอบตามนโยบายของผู้ใช้ ผู้ดูแลระบบสามารถเลือกการจัดการอัตโนมัติหรือขอการอนุมัติจากมนุษย์สำหรับการดำเนินการที่ถูกตั้งธง การใช้งานทั่วไป ได้แก่ การป้องกันการอ่านไฟล์ที่ไม่ได้รับอนุญาต การบล็อกคำสั่งเชลล์ที่ทำลายล้าง และการหยุดตัวแทนจากการเริ่มการเชื่อมต่อเครือข่ายที่ไม่ได้รับอนุมัติ
มันมีประสิทธิภาพเพียงใดในการหยุดการรั่วไหลของข้อมูลประจำตัวและพิสูจน์กิจกรรม?
เครื่องมือทำการสแกนการตอบสนองเพื่อตรวจจับข้อมูลประจำตัวและความลับก่อนที่ผลลัพธ์เหล่านั้นจะถึงหน้าต่างบริบทของตัวแทน ลดความเสี่ยงของการขโมยข้อมูลประจำตัว กิจกรรมจะถูกบันทึกด้วยการตรวจสอบที่เชื่อมโยงด้วยแฮชเพื่อให้บันทึกยังคงสามารถตรวจสอบได้ในระหว่างการตรวจสอบเหตุการณ์ มีคู่หูชื่อ Snare ใช้โทเค็นนกกระทุงเพื่อตรวจจับการถูกบุกรุกของตัวแทน โดยเสนอระบบการตรวจจับที่ใช้งานได้เพิ่มเติมจากการบันทึกแบบพาสซีฟ
มันต้องการข้อมูลนำเข้าและการรวมระบบอะไรบ้าง?
rampart รองรับหลายระดับการรวมระบบ: การห่อเชลล์ การดักจับ syscalls LD_PRELOAD และการเชื่อมต่อพื้นเมืองสำหรับตัวแทน เช่น Claude Code, Cursor และ Codex มันมีโหมดพร็อกซี่ MCP ที่เรียกใช้เป็น rampart mcp เพื่อบังคับใช้กฎที่ชั้นการขนส่งโปรโตคอล นักพัฒนารวบรวมโครงการด้วย Goor ใหม่; เครื่องมือยังสามารถสร้างนโยบายโดยอัตโนมัติจากกิจกรรมของตัวแทนที่สังเกตได้เพื่อเร่งการสร้างกฎเริ่มต้น
มันมีความเป็นไปได้ในการนำไปใช้ในกระบวนการทำงานของนักพัฒนาและความปลอดภัยหรือไม่?
เครื่องมือรวมถึงการอนุมัติการทำงานที่มีมนุษย์เป็นส่วนร่วมและสนับสนุนการละเว้นสิทธิชั่วคราวหรือการใช้งานครั้งเดียว (ตัวอย่าง: '--for 1h' และ '--once') ซึ่งตรงกับการควบคุมการดำเนินงานทั่วไปที่ทีมคาดหวังเมื่อทดสอบตัวแทน การควบคุมเหล่านั้นช่วยให้ทีมสามารถให้ข้อยกเว้นชั่วคราวโดยไม่ทำให้กฎอ่อนแอลงอย่างถาวร การรวมระบบต้องการการเชื่อมต่อระดับระบบสำหรับการดักจับที่ลึกขึ้น ดังนั้นการนำไปใช้จึงเอื้ออำนวยต่อสภาพแวดล้อมที่ทีมสามารถจัดการการเปลี่ยนแปลงการปรับใช้ระดับต่ำได้
ทางเลือกที่ใช้งานได้จริงสำหรับทีมที่ให้ความสำคัญกับการควบคุมตัวแทนที่กระตือรือร้น
rampart เป็นตัวเลือกที่ใช้งานได้จริงสำหรับนักพัฒนาและวิศวกรความปลอดภัยที่ต้องการควบคุมตัวแทนอิสระ; การตอบรับเชิงบวกใน Hacker News และ Reddit แสดงให้เห็นว่าโครงการนี้ตอบสนองช่องว่างด้านความปลอดภัยที่แท้จริงในกระบวนการทำงานของตัวแทน คาดว่าจะมีการเรียนรู้การปฏิบัติการในระหว่างการเปิดตัว และจับคู่เครื่องมือนี้กับการดูแลจากมนุษย์สำหรับการดำเนินงานที่มีความเสี่ยงสูง โครงการนี้เหมาะสำหรับทีมที่ยินดีลงทุนในด้านการกำหนดค่าและการตรวจสอบเพื่อฟื้นฟูการควบคุมพฤติกรรมของตัวแทน.
