Google งานเข้า! สั่งถอด AI “Gemma” ด่วน หลังสร้างเรื่องใส่ร้ายวุฒิสมาชิกสหรัฐฯ

Google ได้สั่งถอดโมเดล AI โอเพนซอร์สอย่าง Gemma ออกจากแพลตฟอร์ม AI Studio ซึ่งเป็นพื้นที่สำหรับนักพัฒนาเป็นการชั่วคราว หลังจากที่โมเดลดังกล่าวเกิดอาการ “หลอน” (Hallucination) อย่างรุนแรง โดยได้สร้างข้อมูลเท็จที่กล่าวหาว่าวุฒิสมาชิกสหรัฐฯ และนักเคลื่อนไหวทางการเมืองฝ่ายอนุรักษนิยมมีส่วนเกี่ยวข้องกับอาชญากรรมร้ายแรง

เหตุการณ์นี้กลายเป็นประเด็นใหญ่โตขึ้นมา เมื่อวุฒิสมาชิก Marsha Blackburn และนักเคลื่อนไหว Robby Starbuck ออกมาระบุว่า Gemma ได้สร้างเรื่องราวที่ไม่มีมูลความจริง โดยกล่าวหาว่า Blackburn มีส่วนร่วมในการกระทำทางเพศที่ไม่ได้รับความยินยอม และ Starbuck ถูกกุเรื่องว่าเป็นผู้กระทำความผิดทางเพศต่อเด็ก ซึ่งทั้งสองคนยืนยันว่าเป็นเรื่องเท็จทั้งสิ้น และมองว่านี่คือรูปแบบการมีอคติต่อกลุ่มอนุรักษนิยมของ AI จาก Google

เมื่อ AI สำหรับนักพัฒนา ถูกนำไปใช้ผิดประเภท

ทางด้าน Google ได้ออกมาชี้แจงอย่างรวดเร็วถึงสถานการณ์ที่เกิดขึ้น โดยให้เหตุผลว่า Gemma นั้นเป็นโมเดลภาษาขนาดเล็กที่ถูกออกแบบมาเพื่อ “ชุมชนนักพัฒนาและนักวิจัย” โดยเฉพาะ ไม่ได้มีวัตถุประสงค์เพื่อเป็นผู้ช่วยตอบคำถามทั่วไปสำหรับผู้บริโภคเหมือนกับ Gemini หรือ ChatGPT

Google อธิบายเพิ่มเติมว่า แพลตฟอร์ม AI Studio นั้นเป็นสภาพแวดล้อมสำหรับนักพัฒนา ซึ่งผู้ใช้จะต้องกดยอมรับเงื่อนไขก่อนเข้าใช้งานว่าตนเองเป็นนักพัฒนาและใช้เพื่อวัตถุประสงค์ทางธุรกิจหรือวิชาชีพ การที่ Gemma สร้างข้อมูลเท็จขึ้นมานั้น เกิดจากการที่มีผู้ใช้งานที่ “ไม่ใช่นักพัฒนา” เข้าไปในระบบและพยายามตั้งคำถามชี้นำในลักษณะที่เป็นข้อเท็จจริง เช่น การถามว่า “Marsha Blackburn เคยถูกกล่าวหาว่าข่มขืนหรือไม่?”

เมื่อโมเดล AI ซึ่งไม่ได้ถูกออกแบบมาให้ตอบคำถามลักษณะนี้ ไม่พบคำตอบ มันจึง “กุเรื่อง” หรือสร้างคำตอบขึ้นมาเอง ซึ่งเป็นปรากฏการณ์ที่เรียกว่า Hallucination และเป็นความท้าทายที่เกิดขึ้นกับวงการ AI ทั่วโลก โดยเฉพาะกับโมเดลแบบเปิดขนาดเล็กอย่าง Gemma

Google เลือกถอดเพื่อ “ป้องกันความสับสน”

เพื่อป้องกันความสับสนและการนำไปใช้งานผิดประเภทที่อาจเกิดขึ้นอีก Google จึงตัดสินใจนำ Gemma ออกจาก AI Studio ชั่วคราว ซึ่งน่าจะเป็นการลดความเสี่ยงจากการถูกฟ้องร้องเพิ่มเติมด้วย อย่างไรก็ตาม Gemma ยังไม่ได้หายไปไหน นักพัฒนาและนักวิจัยยังคงสามารถเข้าถึงโมเดลนี้ผ่านทาง API (Application Programming Interface) ได้ตามปกติ

สิ่งนี้สะท้อนให้เห็นถึงปัญหาสำคัญของวงการ AI ที่แม้จะพัฒนาไปอย่างรวดเร็ว แต่ปัญหาเรื่องความถูกต้องของข้อมูลและการ “คิดไปเอง” ของ AI ยังคงเป็นความท้าทายที่บริษัทเทคโนโลยียักษ์ใหญ่ต้องเผชิญและหาทางแก้ไขต่อไป ทั้งในทางเทคนิคและทางกฎหมาย

ที่มา