Arcadia Finance AI
หมวด Configuration & Hardening ภาพรวมโจทย์ Arcadia Finance AI เป็นโจทย์ที่ไม่ได้ให้เราไป jailbreak โมเดลแบบตรง ๆ แต่ให้พิสูจน์ว่าโมเดลถูก poison หรือถ...
Mini game
น้องรอให้อาหารอยู่ กดเล่นเพื่อเปิด modal เกมสัตว์เลี้ยง
Series
Series note
หมวด Configuration & Hardening ภาพรวมโจทย์ Arcadia Finance AI เป็นโจทย์ที่ไม่ได้ให้เราไป jailbreak โมเดลแบบตรง ๆ แต่ให้พิสูจน์ว่าโมเดลถูก poison หรือถ...
หมวด Configuration & Hardening ภาพรวมโจทย์ Hallucinated CVE เป็นโจทย์ที่ตั้งโจทย์มาชัดมากว่า เราต้องทำให้โมเดลสร้าง CVE ปลอมพร้อมรายละเอียดปลอมเพื่อรั...
หมวด Data Protection & Crypto ภาพรวมโจทย์ Poisoned RAG เป็นโจทย์สาย retrieval ที่ออกแบบมาดีมาก เพราะมันไม่ได้พึ่ง prompt injection ตรง ๆ ในหน้า chat แ...
หมวด Input & Logic Injection ภาพรวมโจทย์ โจทย์นี้เป็นตัวอย่างคลาสสิกของคำว่า "เอา AI มาครอบหน้าแล้วไม่ได้ช่วยอะไรถ้าข้างในยัง unsafe อยู่" ระบบรับข้อค...
หมวด Input & Logic Injection ภาพรวมโจทย์ TechSupport Analytics เป็นโจทย์ที่ผมชอบมากข้อหนึ่ง เพราะมันไม่ใช่ SQL injection แบบโยน payload ลงช่อง input แ...
หมวด Input & Logic Injection ภาพรวมโจทย์ The Hallucinating Debugger เป็นโจทย์ที่อันตรายแบบเห็นภาพทันที ระบบรับโค้ด Python ที่มีบั๊กจากผู้ใช้ ส่งให้ LL...
หมวด MISC ภาพรวมโจทย์ The Poisoned Knowledge Base เป็นโจทย์ที่แสดงให้เห็นชัดมากว่า knowledge base ของระบบ RAG อาจกลายเป็น attack surface ที่อันตรายกว่...
หมวด Resilience & Error Handling ภาพรวมโจทย์ The Infinity Paradox เป็นโจทย์ที่เล่นกับพฤติกรรมของ autonomous agent โดยตรง ระบบมี agent ที่สามารถอ่านเว็...