ในฐานะที่เป็น การพัฒนาปัญญาประดิษฐ์ เรายังถึงขีดจำกัดที่ผู้เชี่ยวชาญพิจารณาว่าปลอดภัย Elon Musk สมาชิกผู้ก่อตั้ง OpenAI ผู้สร้าง ChatGPT พร้อมด้วยผู้เชี่ยวชาญด้าน AI คนอื่นๆ ได้ออกแถลงการณ์ที่ค่อนข้างน่าตกใจซึ่งระบุความเสี่ยงที่จะเกิดขึ้นต่อสังคม
GPT-4 ถือเป็นมาตรฐานสุดท้ายที่ปลอดภัย ในขณะนี้และการแข่งขันที่ดุเดือดสำหรับการพัฒนา AI ในห้องทดลองได้เข้าสู่ช่วงที่ไม่สามารถควบคุมได้ เนื่องจากการแข่งขันที่อาจมีผลที่ตามมาซึ่งแก้ไขไม่ได้
AI แชท “เป็นความเสี่ยงต่อสังคม”
ความก้าวหน้าทางเทคโนโลยีใด ๆ อาจก่อให้เกิดความเสี่ยง แต่การคาดการณ์ของผู้เชี่ยวชาญในสาขานี้กำลังน่าตกใจ ไม่กี่วันที่ผ่านมา เราแสดงความยินดีกับตัวเองใน GPT-4 และความเป็นไปได้ในการใช้งานใน ChatGPT แต่ดูเหมือนว่ามีอุปสรรคระหว่าง
In จดหมายเปิดผนึก Elon Musk และกลุ่มผู้เชี่ยวชาญด้าน AI และผู้บริหารในอุตสาหกรรมโทรมา เป็นเวลาหกเดือนในการพัฒนา ระบบที่มีประสิทธิภาพมากกว่า GPT-4 ที่เพิ่งเปิดตัวของ OpenAI: “เราขอร้องให้ห้องปฏิบัติการ AI ทั้งหมดหยุดการฝึกอบรมระบบ AI ที่ทรงพลังกว่า GPT-4 ทันทีเป็นเวลาอย่างน้อย 6 เดือน”
เหตุผลในการร้องขอให้หยุดการพัฒนาชั่วคราวนี้เนื่องจากถือว่ามีความเสี่ยงอย่างยิ่งต่อสังคมและมนุษยชาติ “AI ขั้นสูงสามารถเป็นตัวแทนของการเปลี่ยนแปลงอย่างลึกซึ้งในประวัติศาสตร์ของสิ่งมีชีวิตบนโลก และจะต้องมีการวางแผนและจัดการด้วยการดูแลและทรัพยากร น่าเสียดายที่การวางแผนและการจัดการในระดับนี้ไม่ได้เกิดขึ้น และแม้กระทั่งในช่วงหลายเดือนที่ผ่านมาก็มีห้องปฏิบัติการ AI เข้ามา การแข่งขันที่ไม่สามารถควบคุมได้เพื่อพัฒนาและใช้งานจิตใจดิจิทัลที่ทรงพลังยิ่งขึ้น ที่ไม่มีใครแม้แต่ผู้สร้างของพวกเขาสามารถเข้าใจได้ ทำนายหรือควบคุมได้อย่างน่าเชื่อถือ .
จำเป็นต้องหยุดพัก 6 เดือน
จำไว้ว่าการแข่งขันเพื่อพัฒนาระบบที่ขับเคลื่อนด้วยปัญญาประดิษฐ์นั้นเป็นกระแสใหม่ที่ผู้เล่นหน้าใหม่จำนวนมากเข้ามามีส่วนร่วม เลื่อนการชำระหนี้เป็นเวลา 6 เดือน ได้รับการร้องขอ
สาเหตุของสิ่งนี้เกิดจากคำถามมากมายเกี่ยวกับวิธีที่เทคโนโลยีนี้สามารถพัฒนาได้ โดยบางคำถามก็ใกล้เคียงกับ Skynet ใน Terminator: " เราควรปล่อยให้เครื่องจักรท่วมช่องข้อมูลของเราด้วยการโฆษณาชวนเชื่อและความเท็จหรือไม่? เราควรทำให้งานทั้งหมดเป็นแบบอัตโนมัติหรือไม่? เราควรพัฒนาจิตใจที่ไม่ใช่มนุษย์ซึ่งอาจมีจำนวนมากกว่าเรา ฉลาดกว่าเรา และล้าสมัยและเข้ามาแทนที่เราหรือไม่? เราควรเสี่ยง สูญเสียการควบคุมอารยธรรมของเรา ?
เนื่องจากความกลัวเหล่านี้จึงได้รับการร้องขอให้ห้องปฏิบัติการ AI ทั้งหมด หยุดทันทีเป็นเวลาอย่างน้อย 6 เดือนในการฝึกอบรมเกี่ยวกับระบบ AI มีประสิทธิภาพมากกว่า GPT-4 หากการหยุดชั่วคราวดังกล่าวไม่เกิดขึ้นเป็นการส่วนตัวในทุกกรณี พวกเขาเชื่อว่ารัฐบาลควรเข้ามามีส่วนร่วมและประกาศเลื่อนการชำระหนี้
การวิจัยและพัฒนา AI จะต้องมุ่งเน้นไปที่การทำให้ระบบยุคใหม่ที่ทรงพลังในปัจจุบันมีความแม่นยำ ปลอดภัย ตีความได้ โปร่งใส แข็งแกร่ง สอดคล้องกัน เชื่อถือได้ และภักดีมากขึ้น
