Advanced Micro Devices IncBlackfuel's multi-megawatt AI inference deployment is built on AMD GPUs, a concrete product adoption win.
Digital Realty ประกาศว่า Blackfuel ได้เลือกศูนย์ข้อมูล BCN1 ของบริษัทในบาร์เซโลนาเป็นรากฐานสำหรับการติดตั้งและขยายแพลตฟอร์ม AI inference การติดตั้งขนาดหลายเมกะวัตต์นี้สร้างบนโครงสร้างพื้นฐาน Dell Technologies AI Factory แบบระบายความร้อนด้วยของเหลวและ GPU ของ AMD และผสานแพลตฟอร์ม inference ของ Blackfuel เข้ากับ ServiceFabric ซึ่งเป็นแพลตฟอร์ม interconnection แบบ software-defined ของ Digital Realty โดยส่งมอบผ่านการเชื่อมต่อแบบ private connectivity ServiceFabric มอบเส้นทางเครือข่ายที่มี latency ต่ำและ jitter ต่ำ ซึ่งสามารถลด Time-to-First-Token ได้ 50 มิลลิวินาที และย่นระยะเวลาการทำงานโดยรวมให้สั้นลง 1 ถึง 2.5 วินาที สำหรับ agentic workflows ที่ต้องเรียกใช้ inference API ต่อเนื่องกัน 20 ถึง 50 ครั้ง เมื่อเทียบกับการเชื่อมต่อผ่านอินเทอร์เน็ตสาธารณะ ServiceFabric ครอบคลุมศูนย์ข้อมูลของ Digital Realty และของบุคคลที่สามมากกว่า 800 แห่งทั่วโลก มอบโครงข่ายการเชื่อมต่อระดับโลกให้ Blackfuel ขยายบริการ AI ได้ไกลเกินกว่าบาร์เซโลนา Chris Sharp ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีของ Digital Realty กล่าวว่า ระยะต่อไปของ AI จะวัดกันที่จำนวน useful tokens ต่อเมกะวัตต์ และบาร์เซโลนาเป็นจุดพิสูจน์แห่งแรก
Advanced Micro Devices IncBlackfuel's multi-megawatt AI inference deployment is built on AMD GPUs, a concrete product adoption win.
Dell Technologies IncThe deployment is built on liquid-cooled Dell Technologies AI Factory infrastructure, a concrete product adoption win.
Digital Realty Trust IncBlackfuel selected Digital Realty's BCN1 data center and ServiceFabric to deploy and scale its AI inference platform.