ความก้าวหน้าด้านปัญญาประดิษฐ์นั้นเหลือเชื่อมาก เรายังไม่รู้ว่าขีดจำกัดอาจอยู่ตรงไหน และถ้าวันหนึ่งจะเป็นไปไม่ได้เลยที่จะแยกแยะสิ่งที่สร้างโดย AI กับมนุษย์ในเรื่องต่างๆ เช่น ข้อความหรืองานศิลปะ
จนกว่าสมมติฐานนั้นจะมาถึงซึ่งขีดจำกัดระหว่างการสร้างสรรค์สิ่งหนึ่งกับอีกสิ่งหนึ่งจะพร่ามัว สิ่งที่เราทำได้ตอนนี้คือพยายามค้นหาว่าข้อความนั้นเขียนโดยมนุษย์หรือโดย AI
ตรวจจับข้อความที่พิมพ์โดย AI
OpenAI ได้เปิดตัวตัวแยกประเภทข้อความ AI ที่พยายามตรวจสอบว่าเนื้อหาอินพุตถูกสร้างขึ้นโดยใช้เครื่องมือปัญญาประดิษฐ์เช่น ChatGPT หรือไม่ “ตัวแยกประเภทข้อความ AI เป็นโมเดล GPT ที่เหมาะสม ทำนายความน่าจะเป็นที่ AI ได้สร้างข้อความ จากแหล่งต่างๆ เช่น ChatGPT” อธิบายโพสต์บล็อก OpenAI ใหม่
OpenAI เปิดตัวเครื่องมือนี้หลังจากที่มหาวิทยาลัยและเขตการศึกษาหลายแห่งสั่งห้ามแชทบอทที่ขับเคลื่อนด้วย AI ยอดนิยมของบริษัทอย่าง ChatGPT เนื่องจากความสามารถในการ นักเรียนที่สมบูรณ์ การมอบหมายงาน เช่น การเขียนรีวิวหนังสือ เรียงความ และแม้แต่การมอบหมายงานให้เสร็จ การเขียนโปรแกรม
การดำเนินการค่อนข้างง่าย คุณก็ต้องไปที่ เว็บไซต์ของเครื่องมือตรวจสอบนี้ และเข้าสู่ระบบหรือลงทะเบียน (บัญชีของคุณจะดำเนินการหากคุณใช้ ChatGPT) หลังจากนี้ คุณจะต้องวางข้อความที่คุณต้องการตรวจสอบ และเครื่องมือจะส่งกลับผลลัพธ์โดยแจ้งว่าอาจเขียนโดย AI หรือมนุษย์
“ไม่น่าเชื่อถือ 100%” เตือน OpenAI
เนื่องจากนักการศึกษามีแนวโน้มที่จะใช้เครื่องมือตรวจสอบข้อความ AI ใหม่นี้เพื่อตรวจสอบว่านักเรียนโกงงานที่ได้รับมอบหมายหรือไม่ OpenAI เตือนว่าไม่ควรใช้เป็น "แบบทดสอบเดียว" เพื่อตัดสินความไม่ซื่อสัตย์ทางวิชาการ
“ลักษณนามของเราไม่น่าเชื่อถือโดยสิ้นเชิง ในการประเมิน 'ชุดความท้าทาย' ของข้อความภาษาอังกฤษ ลักษณนามของเรา ระบุข้อความ 26% ที่ AI เขียนได้อย่างถูกต้อง (ผลบวกจริง) 'อาจเขียนโดย AI' ในขณะที่ติดป้ายกำกับข้อความที่มนุษย์เขียนอย่างไม่ถูกต้องว่าเป็น 9% ที่เขียนโดย AI (ผลบวกลวง) โดยทั่วไปความน่าเชื่อถือของตัวแยกประเภทของเราจะดีขึ้นเมื่อความยาวของข้อความที่ป้อนเพิ่มขึ้น เมื่อเปรียบเทียบกับตัวแยกประเภทที่เปิดตัวก่อนหน้านี้ ตัวแยกประเภทใหม่นี้มีความน่าเชื่อถือมากกว่าอย่างเห็นได้ชัดในข้อความของระบบ AI ล่าสุด”
นอกจากนี้ยังได้แบ่งปัน ชุดของข้อ จำกัด เพื่อให้การใช้ตัวแยกประเภทข้อความสามารถทำได้อย่างมีประสิทธิภาพสูงสุด
- ลักษณนามไม่น่าเชื่อถืออย่างมากสำหรับข้อความสั้น (น้อยกว่า 1,000 ตัวอักษร) แม้แต่ข้อความที่ยาวที่สุดก็ยังติดป้ายกำกับผิดในบางครั้ง
- บางครั้งตัวแยกประเภทจะติดป้ายกำกับข้อความที่เขียนโดยมนุษย์อย่างไม่ถูกต้องว่าเขียนโดย AI
- ขอแนะนำให้ใช้ลักษณนามสำหรับข้อความภาษาอังกฤษเท่านั้น มันทำงานได้แย่กว่ามากในภาษาอื่นและไม่น่าเชื่อถือในโค้ด
- ไม่สามารถระบุข้อความที่คาดเดาได้สูงอย่างน่าเชื่อถือ ตัวอย่างเช่น เป็นไปไม่ได้ที่จะคาดเดาว่ารายการของจำนวนเฉพาะ 1,000 รายการแรกเขียนโดย AI หรือโดยมนุษย์ เนื่องจากคำตอบที่ถูกต้องจะเหมือนกันเสมอ
- ข้อความที่พิมพ์ด้วย AI สามารถแก้ไขเพื่อข้ามตัวแยกประเภทได้ ตัวแยกประเภทสามารถอัปเดตและฝึกใหม่ตามการโจมตีที่ประสบความสำเร็จ แต่ก็ไม่ชัดเจนว่าการตรวจจับมีข้อได้เปรียบในระยะยาวหรือไม่
- เป็นที่ทราบกันดีว่าตัวแยกประเภทตามโครงข่ายประสาทเทียมนั้นได้รับการปรับเทียบคุณภาพต่ำนอกข้อมูลการฝึกอบรม สำหรับการป้อนข้อมูลที่แตกต่างจากข้อความในชุดการฝึก บางครั้งผู้จำแนกจะมั่นใจมากในการคาดคะเนที่ไม่ถูกต้อง
