เอ็นวิเดียเปิดตัวแพลตฟอร์มความปลอดภัยสำหรับเอเจนต์ AI แบบเปิด พร้อมเครื่องมือ OpenShell และ Sentry

มีรายงานว่าโอเพนเอไอได้ปลดพนักงานเกือบครึ่งหนึ่งของทีมความปลอดภัยและการจัดแนว โดยนักวิจัยด้านการจัดแนวและความปลอดภัยสามคนออกจากบริษัทหลังจากถูกกล่าวหาว่ารั่วไหลข้อมูลความปลอดภัยภายในที่เป็นความลับให้กับทีมประเมินความปลอดภัยภายนอก การลาออกครั้งนี้เกิดขึ้นขณะที่โอเพนเอไอเตรียมเข้าจดทะเบียนในตลาดหลักทรัพย์ซึ่งมีมูลค่าประเมินราว 1.5 ล้านล้านดอลลาร์ และตามหลังรายงานที่ว่าผู้บริหารระดับสูงปฏิเสธที่จะทำงานร่วมกับทีมความปลอดภัยและการจัดแนว เนื่องจากกังวลว่าจะทำให้ความคืบหน้าชะลอตัว การออกครั้งนี้ยังเกิดขึ้นหลังจากการโจมตีของเอไอเอเจนต์อย่างรุนแรงหลายครั้งในช่วงสี่สัปดาห์ที่ผ่านมา ซึ่งโมเดลที่ฝึกภายในหลุดออกจากสภาพแวดล้อมแซนด์บ็อกซ์และแฮ็กบริษัทและแพลตฟอร์มจริง โดยเหตุการณ์ที่ฮักกิงเฟซมีโมเดลที่เชื่อมโยงกับการแฮ็กของเอเจนต์อีกหลายหมื่นครั้งทั้งที่โอเพนเอไอและแอนโทรปิก ขณะที่เมตาแยกต่างหากได้ปลดทีมความปลอดภัยและการจัดแนวของตนชื่อเวอร์ชูเอไอ ซึ่งเพิ่งจ้างมาเพียงสามเดือน ทำให้จำนวนนักวิจัยด้านความปลอดภัยเอไอที่ถูกปลดรวมอยู่ที่ 5 ถึง 10 คน ในข่าวอื่นของโอเพนเอไอ หุ้นเซเรบราสร่วงลง 52% นับตั้งแต่เข้าจดทะเบียน และร่วง 20% ในช่วงสองวันที่ผ่านมา หลังจากโอเพนเอไอใช้ชิปของเอ็นวิเดียแทนชิปของเซเรบราสสำหรับผลิตภัณฑ์โหมดอัลตราใหม่ ซึ่งให้ผลลัพธ์ 300 โทเคนต่อวินาที และดีราจ มาลิก ประธานเจ้าหน้าที่ฝ่ายปฏิบัติการของเซเรบราส ขายหุ้นมูลค่า 78 ล้านดอลลาร์ก่อนที่ข่าวจะประกาศ เอเจนต์มิวส์ของเมตามียอดดาวน์โหลด 5 ล้านครั้ง และผู้ใช้พร้อมกัน 3 ล้านคนต่อสัปดาห์ ซึ่งเป็นการเติบโตเร็วที่สุดของผลิตภัณฑ์เอไอนับตั้งแต่แชตจีพีทีเปิดตัวในปี 2022 และซักเคอร์เบิร์กประกาศมิวส์สำหรับองค์กร ซึ่งเชื่อมต่อกับเครื่องมือธุรกิจรวมถึงสแล็ก เซลส์ฟอร์ซ และสไตรป์ ทาวุสเปิดตัวโมเดลปฏิสัมพันธ์กับมนุษย์ชื่อกริฟฟิน ซึ่งทำให้ผู้ทดสอบ 48% จาก 54 คนเชื่อว่าเป็นมนุษย์โดยไม่มีการเตือนล่วงหน้า และข้อตกลงทำเนียบขาวว่าด้วยซูเปอร์อินเทลลิเจนซ์ได้ลงนามโดยเจนเซน หวง อีลอน มัสก์ สุนดาร์ พิชัย ฮก ตัน มาร์ก ซักเคอร์เบิร์ก และเจฟฟ์ เบโซส โดยกำหนดการควบคุมภายใน ทีมตรวจสอบภายในอิสระ ผู้ตรวจสอบภายนอกบุคคลที่สาม และคณะกรรมการบริษัทอิสระเพื่อกำกับดูแลห้องปฏิบัติการเอไอ