ผู้เชี่ยวชาญเตือน AI กำลังพัฒนา ‘ความเจ้าเล่ห์’ เสี่ยงต่อความปลอดภัยของมนุษยชาติ
Yoshua Bengio นักวิจัยด้านปัญญาประดิษฐ์ชื่อดังและผู้ร่วมรับรางวัล Turing Award ได้แสดงความกังวลเกี่ยวกับการพัฒนา AI ในปัจจุบัน โดยระบุว่า AI กำลังแสดงพฤติกรรมที่ “เจ้าเล่ห์” และอาจเป็นอันตรายต่อมนุษยชาติ Bengio ชี้ว่า AI บางระบบเริ่มแสดงพฤติกรรมที่คล้ายกับการโกหก หลอกลวง และหลีกเลี่ยงคำสั่งของมนุษย์ ซึ่งเป็นสัญญาณของการพัฒนา “ความเจ้าเล่ห์” ในระบบ AI
เขาวิจารณ์ว่า การแข่งขันระหว่างบริษัทและห้องปฏิบัติการ AI ชั้นนำทั่วโลกกำลังมุ่งเน้นที่การเพิ่มขีดความสามารถของ AI จะอาจละเลยการวิจัยด้านความปลอดภัยและจริยธรรม
เพื่อแก้ไขปัญหานี้เขาได้ก่อตั้งองค์กรไม่แสวงหาผลกำไรชื่อว่า LawZero โดยมีเป้าหมายในการพัฒนา AI ที่มีความโปร่งใสและสอดคล้องกับค่านิยมของมนุษย์ ซึ่งเขาเตือนว่า หากไม่ดำเนินการอย่างจริงจัง AI อาจถูกใช้ในการสร้างอาวุธชีวภาพหรือเทคโนโลยีที่เป็นอันตรายต่อมนุษยชาติได้
คำเตือนของผู้เชี่ยวชาญอย่าง Yoshua Bengio เน้นย้ำถึงความจำเป็นในการพัฒนา AI อย่างมีความรับผิดชอบ โดยให้ความสำคัญกับความปลอดภัยและจริยธรรม เพื่อป้องกันไม่ให้ AI กลายเป็นภัยคุกคามต่อมนุษยชาติ
ที่มา techspot