OpenAI ก่อตั้งคณะกรรมการด้านความปลอดภัยเพราะเริ่มฝึก AI รุ่นล่าสุด

กล่าวว่ากำลังจัดตั้งคณะกรรมการด้านความปลอดภัยและการรักษาความปลอดภัย และได้เริ่มฝึกอบรมโมเดล ใหม่เพื่อแทนที่ระบบ ที่รองรับแชทบอท

(SeaPRwire) –   บริษัทสตาร์ทอัปในเมืองซานฟรานซิสโกกล่าวในโพสต์บล็อกในวันอังคารว่าคณะกรรมการจะให้คำแนะนำแก่คณะกรรมการบริหารเกี่ยวกับ “การตัดสินใจด้านความปลอดภัยและการรักษาความปลอดภัยที่สำคัญ” สำหรับโครงการและการปฏิบัติงาน

คณะกรรมการด้านความปลอดภัยเข้ามามีบทบาทในขณะที่มีการถกเถียงกันอย่างดุเดือดเกี่ยวกับความปลอดภัยของ ที่บริษัทซึ่งถูกจับตามองหลังจากนักวิจัย Jan Leike ลาออกและปรับระดับองค์กรเพื่อให้ความปลอดภัย “ต้องมาเป็นอันดับสองรองจากผลิตภัณฑ์ที่ดูดี” Ilya Sutskever ผู้ร่วมก่อตั้งและหัวหน้านักวิทยาศาสตร์ของ ก็ได้ลาออกเช่นกัน และบริษัทได้ยุบทีม “superalignment” ที่มุ่งเน้นความเสี่ยงของ ซึ่งนำร่วมกัน

Leike กล่าวในวันอังคารว่าเขากำลังเข้าร่วมบริษัท คู่แข่งที่ก่อตั้งโดยอดีตผู้นำของ เพื่อ “สานต่อภารกิจ superalignment” ที่นั่น

กล่าวว่าได้ “เพิ่งเริ่มฝึกอบรมโมเดลแนวหน้าต่อไป” และโมเดล นำหน้าอุตสาหกรรมด้านความสามารถและความปลอดภัย แม้ว่าจะไม่ได้กล่าวถึงข้อโต้เถียงก็ตาม บริษัทกล่าวว่า “เรายินดีต้อนรับการถกเถียงที่มีสาระสำคัญในช่วงเวลาสำคัญนี้”

โมเดล เป็นระบบการคาดการณ์ที่ได้รับการฝึกอบรมจากชุดข้อมูลขนาดใหญ่เพื่อสร้างข้อความ รูปภาพ วิดีโอ และการสนทนาที่เหมือนมนุษย์ตามความต้องการ โมเดลแนวหน้าเป็นระบบ ที่ทรงพลังและล้ำหน้าที่สุด

คณะกรรมการด้านความปลอดภัยประกอบด้วยบุคคลภายในบริษัท รวมถึง CEO Sam Altman และประธาน Bret Taylor และผู้เชี่ยวชาญด้านเทคนิคและนโยบาย สี่คน นอกจากนี้ยังรวมถึง Adam D’Angelo สมาชิกคณะกรรมการบริษัท ซึ่งเป็นซีอีโอของ และ Nicole Seligman อดีตที่ปรึกษาทั่วไปของ Sony

งานแรกของคณะกรรมการคือการประเมินและพัฒนากระบวนการและมาตรการป้องกันของ ต่อไป และนำเสนอคำแนะนำต่อคณะกรรมการภายใน 90 วัน บริษัทกล่าวว่าจะเผยแพร่คำแนะนำที่ใช้ต่อสาธารณชน “ในลักษณะที่สอดคล้องกับความปลอดภัยและการรักษาความปลอดภัย”