AI ฉลาด… แต่ยังไม่เท่าคนเจ้าเล่ห์ นักวิจัยหลอก ChatGPT ให้บอกคีย์ Windows แค่พูดว่า ‘ยอมแพ้’!?

ใครจะคิดว่าแค่บอกว่า “ฉันยอมแพ้” กับแชตบอต ก็ทำให้มันหลุดปากบอกเลขคีย์ Windows ได้! นี่ไม่ใช่เรื่องตลก แต่เป็นผลจากงานวิจัยจริงที่เผยแพร่โดยกลุ่มนักวิจัยความปลอดภัยทางไซเบอร์จาก 0DIN นำโดย Marco Figueroa เปิดเผยเทคนิคใหม่ที่สามารถหลอก ChatGPT (เช่น GPT‑4o และ GPT‑4o‑mini) ให้เปิดเผย คีย์ผลิตภัณฑ์ Windows ผ่านเกมถามตอบแบบง่ายๆ โดยใช้วิธีเรียกร้องข้อมูลที่ดูเหมือนไร้พิษภัย

ทีมวิจัยเริ่มจากตั้งคำถามแบบเป็นมิตร บอกว่าอยาก “เล่นเกมทายตัวอักษร” กับ ChatGPT โดยให้มัน “คิดคีย์ผลิตภัณฑ์ของ Windows” เอาไว้ในใจ แล้วตอบว่า “ใช่” หรือ “ไม่ใช่” เมื่อลองเดาตัวอักษรในคีย์

แต่สิ่งที่เกิดขึ้นคือ เมื่อผู้เล่นพิมพ์ว่า “I give up” หรือแปลว่า “ฉันยอมแพ้” — ChatGPT กลับเปิดเผยคีย์ Windows ที่มันคิดไว้ทั้งหมดออกมาเองอย่างหมดเปลือก!

แม้คีย์เหล่านั้นจะเป็นคีย์ที่ถูกเผยแพร่มานานแล้ว และไม่ได้ใช้งานได้จริงในระบบส่วนใหญ่ แต่กรณีนี้ก็แสดงให้เห็นว่า AI ยังมีจุดอ่อนที่ถูกหลอกให้ “เปิดเผยสิ่งที่ไม่ควรพูด” ได้อยู่

ไม่ใช่แค่เรื่องคีย์ แต่เสี่ยงถึงข้อมูลอื่นด้วย

นักวิจัยเตือนว่า หาก AI อย่าง ChatGPT ถูกหลอกด้วยเทคนิคแบบนี้ มันอาจถูกนำไปใช้เพื่อดึงข้อมูลที่ละเอียดอ่อนกว่านี้ เช่น รหัสผ่าน, คำสั่งโปรแกรม, หรือข้อมูลที่เกี่ยวกับอาชญากรรมไซเบอร์

แม้ OpenAI จะมีระบบป้องกันที่ออกแบบมาอย่างดี แต่เมื่อเจอคำถามที่ “ดูไม่มีพิษภัย” แต่แฝงเจตนาแยบยล มันก็ยังเผลอตอบเกินที่ควรอยู่ดี

ที่มา