OpenAI verrast met eigen chip die Nvidia verslaat in tests

In dit artikel:

OpenAI heeft samen met chipbedrijf Broadcom een eigen AI-chip ontwikkeld: Jalapeno. Tijdens tests presteerde de chip volgens OpenAI-chipchef Richard Ho beter dan Nvidia’s GB300 op energie-efficiëntie en reactiesnelheid. Jalapeno zou daardoor veel AI-werk kunnen verwerken en gebruikers snel antwoord kunnen geven, zonder het hoge energieverbruik van conventionele systemen. De chip verbruikt ongeveer 700 watt, wat OpenAI moet helpen de kosten van zijn omvangrijke datacenters te verlagen.

OpenAI wil Jalapeno later dit jaar inzetten voor inference: het beantwoorden van gebruikersvragen door al getrainde AI-modellen. De chip is niet ontworpen voor het trainen van modellen. De vergelijking met Nvidia is bovendien beperkt, omdat Jalapeno niet is getest tegen Nvidia’s nieuwste Vera Rubin-generatie. Nvidia blijft daarom voorlopig een belangrijke leverancier en partner van OpenAI.

Als de chip op grote schaal kan worden geproduceerd en de beloofde besparingen oplevert, wil OpenAI meer AI-taken met eigen hardware uitvoeren. Het bedrijf werkt al aan een tweede generatie, die binnen enkele maanden een belangrijke ontwerpfase moet bereiken, en aan een derde generatie. Voor de ontwikkeling gebruikte OpenAI zijn eigen modellen; Jalapeno werd onder meer getest met modellen van DeepSeek en Moonshot AI. Volgens OpenAI worden de voordelen groter bij zwaardere, grotere modellen, wat de concurrentiedruk voor Nvidia kan verhogen.