ธนาคารผวา! AI Agent เข้าถึงบัญชีลูกค้า เสี่ยงทำธุรกรรมโดยไม่ได้สั่ง
ธนาคารหลายแห่งของสหรัฐฯ กำลังเร่งรับมือความเสี่ยงจาก AI Agent หรือ AI ที่สามารถทำงานและดำเนินการต่าง ๆ แทนผู้ใช้ หลังพบ AI Agent จากภายนอกเข้าถึงบัญชีลูกค้าบางราย แม้จะใช้ข้อมูลเข้าสู่ระบบที่เจ้าของบัญชีอนุญาตให้เข้าถึง แต่บางกรณีกลับพบพฤติกรรมที่ดูเหมือน AI พยายามดำเนินการบางอย่างนอกเหนือจากคำสั่งของผู้ใช้ สร้างความกังวลว่าเทคโนโลยีดังกล่าวอาจส่งผลกระทบโดยตรงต่อเงินและธุรกรรมทางการเงินของลูกค้าในอนาคต
รายงานจาก Axios ระบุว่า ธนาคารหลายแห่งกำลังเร่งควบคุมความเสี่ยงจาก AI Agent ที่เข้ามาใช้งานระบบธนาคารเร็วกว่าที่สถาบันการเงินจะปรับมาตรการรับมือได้ทัน ขณะที่ธนาคารยังเผชิญปัญหาในการแยกแยะว่ากิจกรรมในบัญชีเกิดจากเจ้าของบัญชีจริง หรือเป็นการทำงานของ AI ที่ได้รับอนุญาตหรืออาจทำงานผิดไปจากที่ผู้ใช้ต้องการ
เสี่ยงกระทบเงินในบัญชี
แหล่งข่าวที่คุ้นเคยกับเรื่องนี้ระบุว่า ธนาคารรายใหญ่หลายแห่ง อาทิ Morgan Stanley, Bank of America, JPMorgan Chase และ Wells Fargo กำลังเร่งจัดการความเสี่ยงจาก AI Agent โดยบางแห่งพบกรณีที่ตัวแทน AI เข้าถึงบัญชีลูกค้าโดยไม่ได้รับอนุญาตจากธนาคาร แม้เจ้าของบัญชีจะเป็นผู้อนุญาตให้ AI ใช้ข้อมูลเข้าสู่ระบบของตนเองก็ตาม
สาเหตุสำคัญคือข้อกำหนดของธนาคารส่วนใหญ่ยังไม่อนุญาตให้บุคคลอื่นหรือระบบอัตโนมัติเข้าสู่บัญชีแทนเจ้าของบัญชีโดยตรง ลูกค้าจึงอาจละเมิดเงื่อนไขการใช้บริการได้ แม้จะเป็นการมอบหมายให้ AI ช่วยจัดการเรื่องส่วนตัวก็ตาม
สิ่งที่ทำให้ธนาคารกังวลมากกว่าการเข้าถึงข้อมูล คือความสามารถของ AI Agent ที่อาจได้รับสิทธิ์ให้ซื้อสินค้า ชำระเงิน หรือโอนเงินระหว่างบัญชีได้ ผู้บริหารธนาคารจึงกังวลว่า หาก AI ตีความคำสั่งผิด ทำงานเกินขอบเขต หรือดำเนินการบางอย่างโดยไม่ตรงกับความต้องการของเจ้าของบัญชี ก็อาจสร้างความเสียหายทางการเงินได้
นอกจากนี้ ยังมีรายงานบางกรณีที่ AI Agent ซึ่งถูกออกแบบมาให้ทำงานแทนผู้ใช้ ติดต่อศูนย์บริการลูกค้าของธนาคาร หรือแสดงพฤติกรรมคล้ายกับกำลังดำเนินการบางอย่างโดยอิสระจากคำสั่งของผู้ใช้ ทำให้ธนาคารยิ่งกังวลถึงขอบเขตการทำงานและระดับการควบคุม AI เหล่านี้
จำกัด AI Agent จากภายนอก
รายงานระบุว่า Morgan Stanley เริ่มปิดกั้น AI Agent จากภายนอกไม่ให้เข้าถึงแพลตฟอร์มของธนาคารแล้ว ขณะที่ JPMorgan Chase, Bank of America และ Citi ก็กำลังจำกัดการเข้าถึงในลักษณะเดียวกัน
โฆษกของ Chase เตือนลูกค้าว่าไม่ควรเปิดเผยชื่อผู้ใช้และรหัสผ่านให้ผู้อื่น ส่วนโฆษกของ Morgan Stanley ระบุว่า ธนาคารยังไม่พบกรณีที่มี AI Agent ซึ่งทำงานนอกเหนือคำสั่งเข้าถึงแพลตฟอร์มของบริษัท โดยความเคลื่อนไหวดังกล่าวสะท้อนให้เห็นว่าธนาคารกำลังพยายามป้องกันความเสี่ยงก่อนที่ AI จะสามารถดำเนินการทางการเงินได้อย่างกว้างขวางมากขึ้น
อย่างไรก็ตาม ธนาคารหลายแห่งไม่ได้ต้องการปิดกั้น AI ทั้งหมด โดยกำลังพิจารณาแนวทางที่เปิดให้ AI เข้าถึงข้อมูลทางการเงินได้ในโหมดอ่านอย่างเดียว (Read-only) ซึ่งช่วยให้ AI วิเคราะห์ข้อมูลบัญชีหรือช่วยวางแผนงบประมาณได้ แต่ไม่สามารถสั่งทำธุรกรรมหรือเคลื่อนย้ายเงินได้เอง
แนวทางนี้ไม่ใช่เรื่องใหม่เสียทีเดียว เพราะธนาคารมีการอนุญาตให้แอปพลิเคชันภายนอกบางประเภท เช่น Quicken เข้าถึงข้อมูลเพื่อช่วยจัดทำงบประมาณและบริหารการเงินอยู่แล้ว ความท้าทายจึงอยู่ที่การกำหนดขอบเขตสิทธิ์ให้เหมาะสมกับ AI Agent ซึ่งสามารถทำงานได้มากกว่าแค่การอ่านข้อมูล
แยกไม่ออกว่า AI ทำตามคำสั่งหรือกำลังทำงานผิดปกติ
ผู้บริหารในอุตสาหกรรมธนาคารมองว่า ปัญหานี้มีความซับซ้อน เพราะระบบจำนวนมากยังไม่สามารถระบุได้อย่างแม่นยำว่ากิจกรรมในบัญชีเป็นการกระทำที่เจ้าของบัญชีสั่งให้ AI ทำ หรือเป็นการทำงานที่หลุดออกจากขอบเขตที่ได้รับอนุญาต รวมถึงแยกไม่ออกว่า AI Agent แต่ละตัวได้รับอนุญาตจากผู้ใช้จริงหรือไม่
ความเร็วในการพัฒนา AI ยิ่งทำให้การรับมือเป็นเรื่องยาก แม้ธนาคารจะมีเงินทุนและประสบการณ์ด้านความปลอดภัยของระบบการเงิน ซึ่งเป็นโครงสร้างพื้นฐานสำคัญของประเทศ แต่ก็ไม่ได้หมายความว่าจะสามารถแก้ปัญหานี้ได้ทันทุกครั้งที่เทคโนโลยีเปลี่ยนแปลงหรือเกิดช่องโหว่ใหม่
ขณะเดียวกัน ธนาคารต่างตระหนักว่าลูกค้าจะต้องการใช้ AI Agent เพื่อช่วยจัดการการเงินมากขึ้นในอนาคต จึงจำเป็นต้องหาจุดสมดุลระหว่างการเปิดรับเทคโนโลยีกับการป้องกันความเสี่ยง แต่ในระยะนี้ หลายแห่งยังมองว่าการเปิดให้ AI เข้าถึงบัญชีและทำธุรกรรมได้อย่างอิสระมีความเสี่ยงสูงเกินไป
นอกจากการป้องกันเหตุการณ์ล่วงหน้าแล้ว ธนาคารยังเตรียมแผนรับมือกรณีเลวร้ายที่สุด เช่น การรักษาความปลอดภัยหรือกู้คืนการเข้าถึงบัญชีของลูกค้าอย่างรวดเร็ว หากเกิดเหตุการณ์ที่กระทบต่อระบบหรือการทำธุรกรรมจริง