เมื่อ AI แชตบอต มีช่องโหว่ความปลอดภัย จนเกือบทำธุรกิจ Eurostar พัง
ในยุคที่ใครๆ ก็ใช้ AI ช่วยตอบลูกค้า องค์กรชั้นนำอย่าง Eurostar ผู้ให้บริการรถไฟความเร็วสูงในยุโรป ก็ไม่พลาดที่จะนำแชตบอตสุดล้ำมาให้บริการ แต่ความสะดวกสบายนี้กลับแฝงมาด้วยอันตรายที่ไม่คาดคิด เมื่อทีมวิจัยจาก Pen Test Partners ได้เปิดเผยว่าระบบแชตบอตตัวนี้มี “ช่องโหว่” ความปลอดภัย ที่เปิดโอกาสให้ผู้ไม่หวังดีเข้ามาปั่นป่วนและเจาะระบบได้
โดยเรื่องนี้เริ่มแดงขึ้นเพียงเพราะข้อความแจ้งเตือนเล็กๆ ว่า “คำตอบนี้สร้างโดย AI” ที่ไปสะดุดตานักวิจัยเข้า จนนำไปสู่การค้นพบความผิดปกติที่น่าตกใจ
ระบบ “หัวอ่อน” เชื่อทุกคำที่ป้อนให้: ช่องโหว่ที่อันตรายกว่าที่คิด
ปัญหาใหญ่ของแชตบอตตัวนี้ไม่ได้อยู่ที่ความฉลาดน้อย แต่อยู่ที่ความ “ซื่อ” เกินไปของระบบหลังบ้าน ปกติแล้วเวลาเราคุยกับบอท ระบบควรจะจดจำและตรวจสอบประวัติการคุยทั้งหมดว่าเป็นของจริงหรือไม่ แต่ระบบของ Eurostar กลับเลือกที่จะตรวจสอบความถูกต้องแค่ “ข้อความล่าสุด” ที่ส่งเข้ามาเท่านั้น ส่วนประวัติการคุยก่อนหน้านั้นกลับปล่อยผ่านโดยไม่เช็กอะไรเลย
ช่องโหว่นี้เปรียบเสมือนการเปิดประตูให้แฮกเกอร์สามารถ “ใส่คำพูดใส่ปาก” AI ได้ตามใจชอบ โดยการส่งประวัติการสนทนาปลอมๆ ที่แต่งขึ้นเองกลับไปหลอกเซิร์ฟเวอร์ ผลที่ตามมาคือ:
- AI คายความลับ (Prompt Injection): แฮกเกอร์สามารถหลอกถามข้อมูลความลับของระบบ เช่น คำสั่งเบื้องหลังที่โปรแกรมเมอร์ซ่อนไว้ เปรียบเหมือนการกล่อมให้พนักงานขายบอกรหัสเซฟของร้าน
- วางกับดักผู้ใช้ (Self-XSS): แม้แฮกเกอร์จะเจาะเอาข้อมูลลูกค้าคนอื่นออกไปไม่ได้โดยตรง แต่พวกเขาสามารถเขียนโค้ดอันตรายฝังไว้ แล้วหลอกให้ผู้ใช้ทั่วไปกดรันโค้ดนั้นผ่านหน้าแชต ซึ่งอาจนำไปสู่การขโมยรหัสผ่านหรือคุกกี้ (Cookies) ของผู้ใช้นั้นๆ ได้โดยไม่รู้ตัว
- ข้อมูลเชื่อถือไม่ได้: หาก AI ถูกปั่นหัว มันอาจให้ข้อมูลมั่วๆ กับลูกค้า เช่น แจกตั๋วฟรีทิพย์ หรือบอกเวลาเดินรถผิดๆ ซึ่งทำลายความน่าเชื่อถือของแบรนด์
ดราม่าเบื้องหลังการแจ้งเตือน: เมื่อความหวังดีถูกมองร้าย
สิ่งที่น่าปวดหัวไม่แพ้เรื่องเทคนิค คือเบื้องหลังการทำงานร่วมกันระหว่างนักวิจัยกับบริษัทครับ Ross Donald ผู้ค้นพบช่องโหว่นี้เล่าว่า เขาพยายามแจ้งเตือน Eurostar ตั้งแต่เดือนมิถุนายน แต่กลับเจออุปสรรคสารพัด ทั้งความล่าช้าในการตอบกลับ และความเข้าใจผิดที่ร้ายแรงถึงขั้นที่ทีมงานของ Eurostar คิดว่านักวิจัยกลุ่มนี้เป็นมิจฉาชีพที่พยายามจะแบล็กเมล์บริษัท ทั้งที่ความจริงพวกเขาทำตามหลักจริยธรรมทุกอย่าง
เหตุการณ์นี้จบลงด้วยดีที่ Eurostar ยอมแก้ไขช่องโหว่จนเสร็จสิ้น และระบบกลับมาปลอดภัยแล้ว แต่มันคือบทเรียนสำคัญสำหรับทุกองค์กรว่า การมีระบบ AI ที่ทันสมัยอย่างเดียวไม่พอ ต้องมีทีมงานที่พร้อมรับฟังและเข้าใจภาษาของนักวิจัยความปลอดภัยด้วย เพราะในโลกไซเบอร์ที่มีภัยคุกคามรอบด้าน การมี “มิตร” ที่คอยช่วยสอดส่องย่อมดีกว่าการสร้าง “ศัตรู” โดยไม่ตั้งใจ