AI Prompt Injection Attack ในมุมของ WHITEHAT: เคยเกิดกรณีเสียหายกับธุรกิจจริงหรือไม่? โจมตีในวงกว้างจริงหรือเปล่า?
ปัจจุบันนี้ ข่าวสารเกี่ยวกับเทคโนโลยี AI ใหม่ๆ รวมถึงเทคนิคการโจมตีและการป้องกัน AI ได้รับการเผยแพร่อัปเดตแทบจะทุกวัน แต่ในฐานะผู้ที่คลุกคลีในวงการ ท่านเคยได้รับทราบข่าวความเสียหายที่เกิดขึ้นจริงจังบ้างหรือไม่? ความเสียหายที่รุนแรงและจับต้องได้ เช่น รายงานบริการคลาวด์ล่มทั่วโลก หรือข้อมูลรั่วไหลจริง ซึ่งมีสาเหตุหลักจากการโจมตี AI โดยตรง มีการโจมตีในวงกว้างที่กลายเป็นข่าวจริงให้เราได้ยินในช่วง 2-3 เดือนล่าสุดนี้บ้างหรือไม่? คำถามสำคัญคือ: เราควรให้ความสำคัญกับการศึกษาด้าน AI Security (หรือ Security for AI) มากน้อยแค่ไหน ในเมื่อเทคโนโลยีมีการเปลี่ยนแปลงอย่างรวดเร็วถึงเพียงนี้? รากฐานของความกังวล: LLM และความเสี่ยงจากการเรียนรู้ ตลอดระยะเวลากว่าสามปี นับตั้งแต่ ChatGPT เปิดตัวเมื่อปลายปี 2022 ทั่วโลกได้รู้จักกับนวัตกรรม AI รูปแบบใหม่ที่เรียกว่า Large Language Model (LLM) โมเดลภาษาที่ทำงานโดยการทำความเข้าใจข้อความที่ผู้ใช้ป้อนเข้ามา (Prompt) แล้วนำไปย่อยเป็นหน่วยย่อยที่เรียกว่า Token (เวกเตอร์ทางคณิตศาสตร์) เพื่อใช้ในการคำนวณหาความน่าจะเป็นของ Token คำถัดไป โดยอาศัยการเปรียบเทียบจากฐานข้อมูล Parameter ขนาดมหาศาลที่โมเดลได้เรียนรู้มา […]