OpenAI ประสบความสำเร็จ ลดความ “ปากร้าย” ของ AI โดยเปลี่ยน แหล่งข้อมูลที่ใช้สอน


เทคโนโลยี AI นั้น แม้จะถือว่าเป็นอีกหนึ่งเทคโนโลยีที่กำลังพัฒนาอย่างก้าวกระโดดอยู่ก็ตาม แต่มันก็ยังเรียกว่าเป็นเทคโนโลยีที่สมบูรณ์ได้ไม่เต็มปากนัก

เพราะแม้ปัจจุบัน AI และระบบ Machine Learning หลายตัวก็ยังคงประสบปัญหา AI ที่ออกมา “ปากไม่ดี” หรือมีความ “ขี้โกหก” ให้ข้อมูลที่เป็นเท็จได้ (หากนึกไม่ออกให้นึกภาพพวก “แชทบอท” เอาไว้)

แต่ปัญหานี้ก็อาจจะหมดไปในเร็วๆ นี้แล้วก็ได้ เมื่อล่าสุดนี้เอง OpenAI ห้องปฏิบัติการวิจัยปัญญาประดิษฐ์มีชื่อ ก็เพิ่งจะออกมาประกาศว่าพวกเขาได้สร้าง AI ตัวใหม่ที่สามารถรับมือกับปัญหาที่ว่าออกมาแล้ว

 

เจ้า AI ตัวใหม่นี้เป็น ระบบที่ได้รับการพัฒนามาจาก AI ที่ออกแบบมาเพื่อการเรียนรู้ภาษาอย่าง GPT-3 ซึ่งแม้จะมีการทำงานที่น่าสนใจแต่ก็ประสบปัญหามักใช้คำพูดที่ไม่ดีอยู่บ่อยๆ

โดยทาง OpenAI ได้ตรวจสอบ GPT-3 อย่างละเอียดดูและพบว่า ต้นตอของปัญหานี้อาจจะมาจากเอกสารที่นักวิทยาศาสตร์ให้ ฝึกสอนตัว AI เอง ซึ่งแม้จะเยอะถึง 175,000 ล้านชิ้น แต่หลายๆ ชิ้นกลับไม่ค่อยมีคุณภาพนัก

ในการสร้าง AI ตัวใหม่อย่าง InstructGPT พวกเขาจึงทดลองลดจำนวนแหล่งข้อมูลที่ใช้ฝึกสอน AI ลงเหลือ 1,300 ล้านชิ้น แต่มีการคัดกรองที่ถูกต้องแม่นยำขึ้น ด้วยความช่วยเหลือของมนุษย์ดู

 

พวกเขาพบว่าไม่เพียงแต่ InstructGPT จะตอบคำถามในเชิง “เป็นพิษ” น้อยลงเท่านั้น แต่ข้อมูลที่มันให้มายังมักจะมีความเที่ยงตรงขึ้นด้วย แสดงให้เห็นได้เป็นอย่างดีว่า “คุณภาพ” ของแหล่งข้อมูลมีความสำคัญมากๆ

แต่มันตามมันก็ไม่ได้หมายความว่า AI ตัวใหม่นี้จะ ออกมาสมบูรณ์แบบไร้ที่ติ เพราะนานๆ ครั้ง มันก็ยังอาจมีการนำเสนอผลลัพธ์ที่ลำเอียง หรือเนื้อหาเกี่ยวกับเรื่องเพศและความรุนแรง ทั้งๆ ที่ผู้ใช้ไม่ได้ร้องขออยู่

ถึงอย่างนั้นก็นี่ก็นับว่าเป็นความสำเร็จที่น่าสนใจไม่ใช่น้อย ดังนั้นทีม OpenAI จึงหวังที่จะใช้แนวทางที่พวกเขาพบในการพัฒนา AI รุ่นใหม่ต่อไป

 

และมันก็ไม่แน่เหมือนกัน ว่าในอนาคตเราอาจจะได้เห็น AI ภาษา ที่ยังคงสามารถสมบูรณ์แบบไร้ที่ติได้ แม้ต้องพบกับแง่มุมที่เลวร้ายที่สุดของมนุษยชาติก็ตาม

 

 

ที่มา

www.technologyreview.com/2022/01/27/1044398/new-gpt3-openai-chatbot-language-model-ai-toxic-misinformation/

www.pcgamer.com/human-reinforced-learning-could-mean-more-truthful-and-less-toxic-ai/

analyticsindiamag.com/openai-dumps-its-own-gpt-3-for-something-called-instructgpt-and-for-right-reason/

www.protocol.com/enterprise/openai-gptinstruct


ถ้าชอบเนื้อหา อย่าลืมส่งปลาทูให้ผู้เขียน...

ติดตาม
แจ้งเตือนเมื่อ
guest
0 Comments
Inline Feedbacks
View all comments
ปิดพัฒนาระบบ เจอกันอีกเร็วๆ นี้นะครับ