มีการนำปัญญาประดิษฐ์มาประยุกต์ใช้อย่างหลากหลาย แต่ก็ยังมีขอบเขตและข้อจำกัดที่ต้องกำหนด ข้อกังวลประการหนึ่งที่อาจเกิดขึ้น โดยเฉพาะอย่างยิ่งในกรณีของ AI การสนทนาประเภท ChatGPT ก็คือ พวกเขาควรนับเท่าไหร่และควรเงียบเท่าไร … และเส้นสีแดงนั้นดูเหมือนจะชัดเจนกว่าที่เราคิด
มีคำพูดที่ว่า “ฉันมีค่าสำหรับสิ่งที่ฉันเงียบมากกว่าสิ่งที่ฉันพูด” และนั่นคือคุณค่าเพิ่มเติมใหม่ที่ AI ต้องการจะมอบให้ นั่นคือเพื่อหลีกเลี่ยงการเปิดเผยความลับ
วิธีป้องกันไม่ให้ AI แบ่งปันความลับ
เอา ตัวอย่างเช่น Github ที่ได้อัปเดตโมเดล AI ของ Copilot ผู้ช่วยการเขียนโปรแกรมที่สร้างซอร์สโค้ดตามเวลาจริงและการแนะนำคุณสมบัติใน Visual Studio โดยอ้างว่าตอนนี้ปลอดภัยและมีประสิทธิภาพมากขึ้น
ในการทำเช่นนี้ โมเดล AI ใหม่ ซึ่งจะเผยแพร่ต่อผู้ใช้ในสัปดาห์นี้ จะให้คำแนะนำที่มีคุณภาพดีขึ้นโดยใช้เวลาน้อยลง ปรับปรุงประสิทธิภาพของนักพัฒนาซอฟต์แวร์ให้ดียิ่งขึ้นโดยเพิ่มอัตราการยอมรับ Copilot จะนำเสนอกระบวนทัศน์ใหม่ที่เรียกว่า “Fill-In-the-Middle” ซึ่งใช้ไลบรารีของคำสั่งรหัสที่รู้จักและ ปล่อยให้ช่องว่างสำหรับเครื่องมือ AI เพื่อเติมเต็ม ทำให้มีความเกี่ยวข้องและสอดคล้องกับส่วนที่เหลือมากขึ้น ของรหัสโครงการ
หนึ่งในการปรับปรุงที่โดดเด่นที่สุดในการอัปเดต Copilot นี้คือการแนะนำระบบกรองช่องโหว่ใหม่ที่จะช่วยระบุและบล็อกคำใบ้ที่ไม่ปลอดภัย เช่น ข้อมูลประจำตัวที่มีสัญญาณรบกวน การฉีดพาธ และการฉีด SQL . บริษัทซอฟต์แวร์กล่าวว่า Copilot สามารถสร้างความลับ เช่น คีย์ ข้อมูลประจำตัว และรหัสผ่าน ซึ่งดูในข้อมูลการฝึกอบรมเกี่ยวกับสตริงใหม่ อย่างไรก็ตาม ไม่สามารถใช้สิ่งเหล่านี้ได้เนื่องจากเป็นของปลอมทั้งหมดและจะถูกบล็อกโดยระบบการกรองใหม่
วิจารณ์แรงเรื่องเปิดเผยความลับ
การปรากฏตัวของความลับเหล่านี้ในคำแนะนำโค้ดของ Copilot ได้วาด คำวิจารณ์ที่รุนแรงจากชุมชนนักพัฒนาซอฟต์แวร์โดยมีการกล่าวหามากมาย ไมโครซอฟท์ ในการใช้ชุดข้อมูลขนาดใหญ่ที่เปิดเผยต่อสาธารณะเพื่อฝึกโมเดล AI โดยไม่คำนึงถึงความปลอดภัย รวมถึง ชุดที่มีความลับโดยไม่ได้ตั้งใจ .
ด้วยการบล็อกคำแนะนำที่ไม่ปลอดภัยในเครื่องมือแก้ไขแบบเรียลไทม์ GitHub ยังสามารถต่อต้านการโจมตีชุดข้อมูลที่มีเป้าหมายเพื่อฝึกผู้ช่วย AI อย่างลับๆ เพื่อให้คำแนะนำที่มีเพย์โหลดที่เป็นอันตราย
ในขณะนี้ LLMs (Long Learning Models) ของ Copilot ยังคงได้รับการฝึกอบรม แยกความแตกต่างระหว่างรูปแบบรหัสที่มีช่องโหว่และไม่มีช่องโหว่ ดังนั้นประสิทธิภาพของโมเดล AI ในด้านนั้นคาดว่าจะค่อยๆ ดีขึ้นในอนาคตอันใกล้นี้ .
