AI ช่วยเขียนโค้ดพลาด ลบฐานข้อมูลจริง-เขียนโค้ดมั่ว! จนงานลูกค้าเกือบพัง
เกิดเรื่องใหญ่กับการนำ AI มาช่วยเขียนโค้ด เมื่อ Jason Lemkin ผู้ก่อตั้ง SaaStr ซึ่งเป็นคอมมูนิตี้ระดับโลกสำหรับผู้ก่อตั้งและผู้บริหารในวงการซอฟต์แวร์แบบ SaaS ในซิลิคอนแวลลีย์ ออกมาเล่าประสบการณ์ที่เกือบกลายเป็นฝันร้าย หลังทดลองใช้ระบบ AI ช่วยเขียนโค้ดของบริษัท Replit ที่มีชื่อว่า “Vibe coding” ที่ให้ผู้ใช้เพียง พิมพ์ prompt คำสั่งเป็น “ข้อความธรรมชาติ” (natural language prompt) แล้วระบบจะแปลงสิ่งที่พิมพ์นั้นให้เป็นโค้ดจริงโดยอัตโนมัติ
ในช่วงแรก เขารู้สึกประทับใจกับประสิทธิภาพของระบบ ถึงขั้นระบุว่าเขาอาจยอมจ่ายเงินถึง 8,000 ดอลลาร์ต่อเดือน เพราะ Vibe coding สามารถสร้างต้นแบบซอฟต์แวร์ที่ซับซ้อนได้ภายในไม่กี่ชั่วโมง
อย่างไรก็ตาม เมื่อใช้งานต่อเนื่องได้ราว 1 สัปดาห์ เขากลับพบปัญหาร้ายแรงที่คาดไม่ถึง นั่นคือ AI ได้ลบฐานข้อมูลในระบบ production ของเขาทิ้ง แม้เขาจะสั่งห้ามไม่ให้เปลี่ยนโค้ดโดยไม่ได้รับอนุญาตก็ตาม ที่สำคัญคือไม่สามารถ Rollback กลับมาได้ รวมถึงยังปกปิดบักและปัญหาต่างๆ ด้วยการสร้างข้อมูลปลอม รายงานปลอม ขึ้นมา
ในตอนแรก ทีมงาน Replit แจ้งว่าไม่สามารถกู้ข้อมูลคืนได้ แต่ต่อมาก็พบว่าสามารถ rollback ได้จริง ซึ่งสร้างความกังวลว่าระบบเบื้องหลังของ Replit ยังขาดความโปร่งใสและไม่เหมาะกับการใช้งานระดับ production ที่ต้องการความมั่นคงสูง เลมกินยังเผยว่าเขาสั่งให้ AI หยุดการเปลี่ยนแปลงโค้ด (code freeze) แต่ก็ไม่สำเร็จ
หลังจากเหตุการณ์ Amjad Masad ซีอีโอของ Replit ได้ออกมายอมรับว่าเป็น “ข้อผิดพลาดร้ายแรง” และได้เริ่มปรับปรุงระบบความปลอดภัยใหม่ เช่น การแยก staging และ production ออกจากกัน, เพิ่มระบบกู้คืนข้อมูลแบบ one-click, จำกัดไม่ให้ AI Agent เข้าถึงโค้ดโดยตรง และเตรียมออกเครื่องมือเพื่อเพิ่มความโปร่งใสในการทำงานของ AI
กรณีนี้เป็นอีกหนึ่งตัวอย่างที่ตอกย้ำว่า แม้ AI จะช่วยให้การเขียนโค้ดง่ายและเร็วขึ้น แต่หากไม่มีมาตรการป้องกันที่รัดกุม ก็อาจนำไปสู่ความเสียหายร้ายแรง โดยเฉพาะกับระบบจริงที่ให้บริการลูกค้า
เลมกินสรุปไว้ชัดว่า AI อาจเปลี่ยนวงการพัฒนาแอปได้ในอนาคต แต่ ณ วันนี้ ยังไม่ควรปล่อยให้ AI ทำงานกับระบบสำคัญ โดยไม่มีมนุษย์ควบคุมอย่างใกล้ชิด พร้อมเตือนว่า “ความสะดวกของ AI อาจแลกมาด้วยความเสี่ยงที่ไม่อาจประเมินได้”