ช่องโหว่ใน Google Gemini ทำองค์กรเสี่ยงถูกฟิชชิ่งด้วยข้อความลวง
นักวิจัยด้านความปลอดภัยพบว่าฟีเจอร์ “Summarize this email” ของ Google Gemini ซึ่งเป็นระบบ AI ที่ฝังอยู่ใน Google Workspace มีช่องโหว่ที่อาจถูกใช้ในการหลอกลวงแบบฟิชชิ่งผ่านเทคนิคที่เรียกว่า “prompt injection”
Marco Figueroa นักวิจัยด้านความปลอดภัยจาก Mozilla ได้ค้นพบว่าแฮกเกอร์สามารถฝังคำสั่งที่มองไม่เห็นในเนื้อหาอีเมลได้ โดยซ่อนข้อความไว้ด้วยเทคนิคทาง HTML เช่น ใช้สีฟอนต์ขาวบนพื้นขาวหรือกำหนดฟอนต์ขนาด 0 ซึ่งข้อความที่ซ่อนไว้นี้ไม่ได้ปรากฏให้ผู้ใช้เห็นในเนื้อหาอีเมล แต่ระบบ AI ของ Gemini ที่ทำหน้าที่สรุปเนื้อหากลับอ่านเข้าไปเต็มๆ และนำไปตีความเป็นสรุปอย่างไร้การกรอง
ผลลัพธ์คือ ผู้ใช้จะเห็นข้อความสรุปจาก Gemini ที่อาจระบุว่า “บัญชี Gmail ของคุณถูกบุกรุก กรุณาโทรด่วนที่เบอร์นี้” ซึ่งเบอร์นั้นก็คือของมิจฉาชีพที่รอให้เหยื่อโทรเข้ามา และตกเป็นเป้าของการหลอกเอาข้อมูลสำคัญ เช่น รหัสผ่าน หรือรหัส OTP
จุดสำคัญคือผู้ใช้ส่วนใหญ่มักไว้วางใจข้อความจาก Gemini เพราะถือว่าเป็นฟีเจอร์จาก Google เอง และมองว่าเป็นเนื้อหาที่ “ถูกตรวจสอบแล้ว” ทั้งที่ความจริงแล้ว AI เพียงแค่ตีความจากคำสั่งที่ได้รับ โดยไม่สามารถแยกแยะได้ว่าเป็นคำหลอกลวง
ช่องโหว่นี้อันตรายอย่างยิ่ง เพราะอีเมลที่ใช้เทคนิคแบบนี้ไม่มีลิงก์ ไม่มีไฟล์แนบ และไม่มีคีย์เวิร์ดอันตรายใดๆ จึงหลุดรอดระบบกรองสแปมหรือระบบตรวจจับภัยคุกคามขององค์กรได้อย่างง่ายดาย แฮกเกอร์จึงสามารถเจาะเข้าถึงพนักงานในองค์กรหรือผู้ใช้งานรายบุคคลได้ โดยใช้เพียงข้อความไม่กี่บรรทัดที่ Gemini แปลความผิด
ทาง Google ได้รับแจ้งถึงช่องโหว่นี้และกำลังอยู่ระหว่างเพิ่มระบบป้องกัน พร้อมระบุว่ายังไม่พบการโจมตีจริงในวงกว้าง
อย่างไรก็ตาม ผู้เชี่ยวชาญเตือนว่าผู้ดูแลระบบควรรีบตั้งระบบตรวจจับเบื้องต้น เช่น การล้างข้อความซ่อนในอีเมลก่อนส่งเข้าฟีเจอร์ AI หรือแม้แต่การอบรมพนักงานให้ไม่ตัดสินใจตามข้อความสรุปเพียงอย่างเดียว โดยเฉพาะเมื่อเนื้อหามีลักษณะเร่งด่วน ให้ตรวจสอบอีเมลต้นฉบับก่อนเสมอ