OpenAI ประสบความสำเร็จ ลดความ “ปากร้าย” ของ AI โดยเปลี่ยน แหล่งข้อมูลที่ใช้สอน

Date:

เทคโนโลยี AI นั้น แม้จะถือว่าเป็นอีกหนึ่งเทคโนโลยีที่กำลังพัฒนาอย่างก้าวกระโดดอยู่ก็ตาม แต่มันก็ยังเรียกว่าเป็นเทคโนโลยีที่สมบูรณ์ได้ไม่เต็มปากนัก

เพราะแม้ปัจจุบัน AI และระบบ Machine Learning หลายตัวก็ยังคงประสบปัญหา AI ที่ออกมา “ปากไม่ดี” หรือมีความ “ขี้โกหก” ให้ข้อมูลที่เป็นเท็จได้ (หากนึกไม่ออกให้นึกภาพพวก “แชทบอท” เอาไว้)

แต่ปัญหานี้ก็อาจจะหมดไปในเร็วๆ นี้แล้วก็ได้ เมื่อล่าสุดนี้เอง OpenAI ห้องปฏิบัติการวิจัยปัญญาประดิษฐ์มีชื่อ ก็เพิ่งจะออกมาประกาศว่าพวกเขาได้สร้าง AI ตัวใหม่ที่สามารถรับมือกับปัญหาที่ว่าออกมาแล้ว

 

เจ้า AI ตัวใหม่นี้เป็น ระบบที่ได้รับการพัฒนามาจาก AI ที่ออกแบบมาเพื่อการเรียนรู้ภาษาอย่าง GPT-3 ซึ่งแม้จะมีการทำงานที่น่าสนใจแต่ก็ประสบปัญหามักใช้คำพูดที่ไม่ดีอยู่บ่อยๆ

โดยทาง OpenAI ได้ตรวจสอบ GPT-3 อย่างละเอียดดูและพบว่า ต้นตอของปัญหานี้อาจจะมาจากเอกสารที่นักวิทยาศาสตร์ให้ ฝึกสอนตัว AI เอง ซึ่งแม้จะเยอะถึง 175,000 ล้านชิ้น แต่หลายๆ ชิ้นกลับไม่ค่อยมีคุณภาพนัก

ในการสร้าง AI ตัวใหม่อย่าง InstructGPT พวกเขาจึงทดลองลดจำนวนแหล่งข้อมูลที่ใช้ฝึกสอน AI ลงเหลือ 1,300 ล้านชิ้น แต่มีการคัดกรองที่ถูกต้องแม่นยำขึ้น ด้วยความช่วยเหลือของมนุษย์ดู

 

พวกเขาพบว่าไม่เพียงแต่ InstructGPT จะตอบคำถามในเชิง “เป็นพิษ” น้อยลงเท่านั้น แต่ข้อมูลที่มันให้มายังมักจะมีความเที่ยงตรงขึ้นด้วย แสดงให้เห็นได้เป็นอย่างดีว่า “คุณภาพ” ของแหล่งข้อมูลมีความสำคัญมากๆ

แต่มันตามมันก็ไม่ได้หมายความว่า AI ตัวใหม่นี้จะ ออกมาสมบูรณ์แบบไร้ที่ติ เพราะนานๆ ครั้ง มันก็ยังอาจมีการนำเสนอผลลัพธ์ที่ลำเอียง หรือเนื้อหาเกี่ยวกับเรื่องเพศและความรุนแรง ทั้งๆ ที่ผู้ใช้ไม่ได้ร้องขออยู่

ถึงอย่างนั้นก็นี่ก็นับว่าเป็นความสำเร็จที่น่าสนใจไม่ใช่น้อย ดังนั้นทีม OpenAI จึงหวังที่จะใช้แนวทางที่พวกเขาพบในการพัฒนา AI รุ่นใหม่ต่อไป

 

และมันก็ไม่แน่เหมือนกัน ว่าในอนาคตเราอาจจะได้เห็น AI ภาษา ที่ยังคงสามารถสมบูรณ์แบบไร้ที่ติได้ แม้ต้องพบกับแง่มุมที่เลวร้ายที่สุดของมนุษยชาติก็ตาม

 

 

ที่มา

www.technologyreview.com/2022/01/27/1044398/new-gpt3-openai-chatbot-language-model-ai-toxic-misinformation/

www.pcgamer.com/human-reinforced-learning-could-mean-more-truthful-and-less-toxic-ai/

analyticsindiamag.com/openai-dumps-its-own-gpt-3-for-something-called-instructgpt-and-for-right-reason/

www.protocol.com/enterprise/openai-gptinstruct

Share post:

Subscribe

spot_imgspot_img

Popular

More like this
Related

พี่สเตฟาน โชว์เต้นแซมบ้า-มินิฮาร์ท พร้อมประกาศวันหยุดให้พนักงาน หลังเกาหลีใต้ แพ้ตกรอบฟุตบอลโลก

หากให้พูดถึงยูทูบเบอร์ที่กำลังฮ็อตสุดๆ ในช่วงฟุตบอลโลกนี้ หนึ่งในนั้นก็คือพี่สเตฟาน จากช่อง Antihero Thailand อย่างแน่นอนครับ ที่มักจะมาไลฟ์พูดคุยกับผู้ติดตามหลังเกมการแข่งขันฟุตบอลจบเสมอ และล่าสุดครับ ด้วยการที่พี่สเตฟาน แกเป็นกองแช่งทีมชาติเกาหลีใต้...

ร้านกาแฟเวียดนาม ในมาเลเซีย กลายเป็นไวรัลในโซเชียลไทย เพราะอะไร ลองอ่านชื่อเอาละกัน…

ในช่วงหลายวันที่ผ่านมา ได้มีแบรนด์ร้านกาแฟจากประเทศมาเลเซีย ได้กลายเป็นไวรัลขึ้นมาบนโซเชียลไทยครับ ร้านกาแฟดังกล่าวมีชื่อว่า "KEE NGUYEN" อ่านเป็นไทยว่า "คี เหงียน" เป็นกาแฟจากประเทศเวียดนามครับ ส่วนเหตุผลที่ทำไมแบรนด์นี้ถึงเป็นไวรัลขึ้นมาในไทย...

พลตรีเหรียญทองตอบโต้ สื่อต่างประเทศ บอกไม่ให้ค่า เผยตรูมี ๔ ชื่อโว้ย

จากกรณีที่สื่อของออสเตรเลีย Sydney Morning Herald รายงานข่าวของ "พลตรี เหรียญทอง แน่นหนา" ลงในหนังสือพิมพ์...

แฟนคลับ Gun N’ Rose ไปดูคอนเสิร์ต โดนไมค์ที่ Axel Rose โยนลงมากระแทกหน้า ถึงกับดั้งหัก

ตามงานคอนเสิร์ตต่าง ๆ มักจะมีเหตุการณ์ที่นักร้อง มือกีตาร์ หรือมือกลอง โยนสิ่งของลงมาให้คนดู เช่น ขวดน้ำ, ไม้กลอง,...