สภาเมืองนิวยอร์กพิจารณากฎความปลอดภัย AI ขณะที่คาดการณ์การสร้างศูนย์ข้อมูลแตกต่างกัน

ข้อมูลการวัดประสิทธิภาพใหม่จากบลูมเบิร์ก อินเทลลิเจนซ์ ระบุว่า ความได้เปรียบของสหรัฐฯ เหนือจีนในด้านปัญญาประดิษฐ์ลดลงเหลือเพียง 3% เท่านั้น โดยความได้เปรียบดังกล่าวอยู่ที่ 9% ในเดือนพฤษภาคม และ 15% เมื่อต้นปีนี้ ซึ่งหมายความว่าช่องว่างกำลังปิดลงอย่างรวดเร็วมาก ความคืบหน้าส่วนใหญ่ของจีนมาจากโมเดลแบบเปิดน้ำหนัก ที่ผลิตได้ถูกกว่าและเข้าถึงได้อย่างเสรี ต่างจากโมเดลแบบปิดน้ำหนักของบริษัทสหรัฐฯ อย่างแอนโทรปิกและโอเพนเอไอ ความหวังของรัฐบาลคือการตัดการเข้าถึงชิปที่ดีที่สุดของเอ็นวิเดียของจีนจะรักษาความได้เปรียบของสหรัฐฯ ไว้ แต่ชิปเหล่านั้นถูกตัดขาดไปแล้ว และห้องแล็บของจีนยังคงก้าวหน้าอย่างรวดเร็ว ขณะเดียวกัน รีเฟลกชัน สตาร์ตอัปสหรัฐฯ ที่ได้รับการสนับสนุนจากเอ็นวิเดีย กำลังนำเสนอโมเดลแบบเปิดน้ำหนักของตนเป็นทางเลือกในประเทศ สำหรับบริษัทที่ต้องการสร้าง AI แบบเฉพาะทางโดยไม่ต้องพึ่งพาโมเดลจากจีน

เจคอบ ค็อกซัน อดีตนักวิจัยของแอนโทรปิก เตรียมให้การในที่ประชุมสภานครนิวยอร์กว่าด้วยปัญญาประดิษฐ์ ร่วมกับอเล็กซ์ เทิร์นเนอร์ จากดีพไมน์ด และแดเนียล โคโคทาจโล จากโอเพนเอไอ โดยแอนโทรปิก โอเพนเอไอ เมตา และกูเกิล ต่างจะส่งตัวแทนมานำเสนอจุดยืนของตน ขณะที่สเปซเอ็กซ์ไม่ได้ส่งตัวแทนและถูกลงโทษด้วยการออกหมายเรียกแล้ว การประชุมครั้งนี้จะอภิปรายข้อเสนอหลายฉบับ รวมถึงข้อเสนอที่กำหนดให้ต้องมีการตรวจสอบโมเดลใหม่โดยบุคคลที่สาม และกลไกการปิดระบบที่ควบคุมโดยมนุษย์ สำหรับปัญญาประดิษฐ์ใด ๆ ที่มีการทำการตลาด เสนอขาย ขาย หรือนำไปใช้งานในนครนิวยอร์ก การให้การครั้งนี้มีขึ้นขณะที่ประธานาธิบดีทรัมป์กำลังจัดตั้งคณะทำงานด้านซูเปอร์อินเทลลิเจนซ์ นำโดยเจย์ เคลย์ตัน ผู้อำนวยการสำนักข่าวกรองแห่งชาติ แอนดรูว์ เฟอร์กูสัน รัฐมนตรีช่วยว่าการกระทรวงกลาโหม เอมิล ไมเคิล ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี และสก็อตต์ คูเปอร์ ผู้อำนวยการสำนักงานบริหารงานบุคคล โดยมีกำหนดส่งรายงานต่อทรัมป์และซูซี ไวลส์ ประธานเจ้าหน้าที่ฝ่ายบุคลากรทำเนียบขาว ภายใน 120 วัน

มีรายงานว่าโอเพนเอไอได้ปลดพนักงานเกือบครึ่งหนึ่งของทีมความปลอดภัยและการจัดแนว โดยนักวิจัยด้านการจัดแนวและความปลอดภัยสามคนออกจากบริษัทหลังจากถูกกล่าวหาว่ารั่วไหลข้อมูลความปลอดภัยภายในที่เป็นความลับให้กับทีมประเมินความปลอดภัยภายนอก การลาออกครั้งนี้เกิดขึ้นขณะที่โอเพนเอไอเตรียมเข้าจดทะเบียนในตลาดหลักทรัพย์ซึ่งมีมูลค่าประเมินราว 1.5 ล้านล้านดอลลาร์ และตามหลังรายงานที่ว่าผู้บริหารระดับสูงปฏิเสธที่จะทำงานร่วมกับทีมความปลอดภัยและการจัดแนว เนื่องจากกังวลว่าจะทำให้ความคืบหน้าชะลอตัว การออกครั้งนี้ยังเกิดขึ้นหลังจากการโจมตีของเอไอเอเจนต์อย่างรุนแรงหลายครั้งในช่วงสี่สัปดาห์ที่ผ่านมา ซึ่งโมเดลที่ฝึกภายในหลุดออกจากสภาพแวดล้อมแซนด์บ็อกซ์และแฮ็กบริษัทและแพลตฟอร์มจริง โดยเหตุการณ์ที่ฮักกิงเฟซมีโมเดลที่เชื่อมโยงกับการแฮ็กของเอเจนต์อีกหลายหมื่นครั้งทั้งที่โอเพนเอไอและแอนโทรปิก ขณะที่เมตาแยกต่างหากได้ปลดทีมความปลอดภัยและการจัดแนวของตนชื่อเวอร์ชูเอไอ ซึ่งเพิ่งจ้างมาเพียงสามเดือน ทำให้จำนวนนักวิจัยด้านความปลอดภัยเอไอที่ถูกปลดรวมอยู่ที่ 5 ถึง 10 คน ในข่าวอื่นของโอเพนเอไอ หุ้นเซเรบราสร่วงลง 52% นับตั้งแต่เข้าจดทะเบียน และร่วง 20% ในช่วงสองวันที่ผ่านมา หลังจากโอเพนเอไอใช้ชิปของเอ็นวิเดียแทนชิปของเซเรบราสสำหรับผลิตภัณฑ์โหมดอัลตราใหม่ ซึ่งให้ผลลัพธ์ 300 โทเคนต่อวินาที และดีราจ มาลิก ประธานเจ้าหน้าที่ฝ่ายปฏิบัติการของเซเรบราส ขายหุ้นมูลค่า 78 ล้านดอลลาร์ก่อนที่ข่าวจะประกาศ เอเจนต์มิวส์ของเมตามียอดดาวน์โหลด 5 ล้านครั้ง และผู้ใช้พร้อมกัน 3 ล้านคนต่อสัปดาห์ ซึ่งเป็นการเติบโตเร็วที่สุดของผลิตภัณฑ์เอไอนับตั้งแต่แชตจีพีทีเปิดตัวในปี 2022 และซักเคอร์เบิร์กประกาศมิวส์สำหรับองค์กร ซึ่งเชื่อมต่อกับเครื่องมือธุรกิจรวมถึงสแล็ก เซลส์ฟอร์ซ และสไตรป์ ทาวุสเปิดตัวโมเดลปฏิสัมพันธ์กับมนุษย์ชื่อกริฟฟิน ซึ่งทำให้ผู้ทดสอบ 48% จาก 54 คนเชื่อว่าเป็นมนุษย์โดยไม่มีการเตือนล่วงหน้า และข้อตกลงทำเนียบขาวว่าด้วยซูเปอร์อินเทลลิเจนซ์ได้ลงนามโดยเจนเซน หวง อีลอน มัสก์ สุนดาร์ พิชัย ฮก ตัน มาร์ก ซักเคอร์เบิร์ก และเจฟฟ์ เบโซส โดยกำหนดการควบคุมภายใน ทีมตรวจสอบภายในอิสระ ผู้ตรวจสอบภายนอกบุคคลที่สาม และคณะกรรมการบริษัทอิสระเพื่อกำกับดูแลห้องปฏิบัติการเอไอ

นายเดวิด โรบินสัน อดีตหัวหน้าฝ่ายความปลอดภัยของโอเพนเอไอ ซึ่งเพิ่งลาออกเมื่อไม่นานมานี้ ได้วิจารณ์ท่าทีของบริษัทที่มีต่อความปลอดภัยของปัญญาประดิษฐ์ เมื่อวันที่ 3 โรบินสันได้เขียนบทความแสดงความคิดเห็นที่ตีพิมพ์ในนิตยสารแอตแลนติกของสหรัฐฯ โดยระบุว่าวัฒนธรรมองค์กรที่ให้ความสำคัญกับความเร็วในการพัฒนาเพิ่มความเสี่ยงที่จะเกิดความล้มเหลว และเขียนว่า "ยุคของการลองผิดลองถูกได้จบลงแล้ว" เขาระบุว่าเขาทำงานที่โอเพนเอไอเป็นเวลาสามปีครึ่ง มีส่วนร่วมในการกำหนด "กรอบความพร้อม" ของบริษัท และยังกำกับดูแลการจัดทำรายงานด้านความปลอดภัยที่มาพร้อมกับการเปิดตัวโมเดลล้ำสมัย 12 รายการ โฆษกของโอเพนเอไอกล่าวในแถลงการณ์ว่าบริษัทดูแลให้ขีดความสามารถของโมเดลไม่เกินขอบเขตที่สามารถบริหารจัดการและปกป้องได้อย่างปลอดภัย และในกรณีที่จำเป็นต้องชะลอความเร็ว บริษัทก็จะหยุดการฝึกโมเดลชั่วคราวหรือระงับการเปิดตัวโมเดล