OpenAI und der Halbleiterhersteller Broadcom haben gemeinsam einen neuen Chip mit dem Namen Jalapeño vorgestellt, der speziell für die Verarbeitung großer Sprachmodelle (LLM) in Rechenzentren optimiert ist.

Der Chip soll effizienter arbeiten als bisherige Lösungen und dabei weniger Energie verbrauchen. Entwickelt wurde er als sogenannter ASIC – ein Chip, der für eine bestimmte Aufgabe maßgeschneidert ist. Erste Tests deuten darauf hin, dass Jalapeño eine höhere Leistung pro Watt erzielt als vergleichbare Chips.

Beide Unternehmen betonen, dass es sich um die erste Generation einer langfristigen Zusammenarbeit handelt, die weitere Verbesserungen bringen soll.

Die wichtigsten Fakten im Überblick:

• Der Chip Jalapeño ist für die sogenannte Inferenz großer Sprachmodelle konzipiert, also die Anwendung bereits trainierter KI-Modelle in der Praxis.
• Erste Tests zeigen eine bessere Energieeffizienz als bisherige Chips, genaue Leistungsdaten stehen jedoch noch aus.
• Die Entwicklung des Chips dauerte neun Monate und basiert auf Erkenntnissen von OpenAI-Forschern.

Quelle: Ars Technica

Neuer KI-Chip für effizientere Sprachmodelle

Die Ankündigung von OpenAI und Broadcom unterstreicht den wachsenden Bedarf an spezialisierter Hardware für KI-Anwendungen. Große Sprachmodelle wie die von OpenAI benötigen enorme Rechenleistung, was sowohl Kosten als auch Energieverbrauch in die Höhe treibt.

Bisher setzen viele Rechenzentren auf Grafikchips (GPUs), die zwar flexibel einsetzbar sind, aber nicht optimal für KI-Aufgaben wie die Inferenz ausgelegt sind. Mit Jalapeño setzen die Unternehmen auf einen Ansatz, der gezielt auf die Anforderungen von Sprachmodellen zugeschnitten ist – ähnlich wie Google mit seinen Tensor Processing Units (TPUs) oder Amazon mit den Inferentia-Chips.

Die Entwicklung zeigt, wie stark die KI-Branche auf maßgeschneiderte Hardware setzt, um die Effizienz zu steigern. Gleichzeitig wirft sie Fragen nach der Abhängigkeit von wenigen großen Anbietern auf.

Sollte sich der Chip bewähren, könnte er den Betrieb von KI-Systemen kostengünstiger und umweltfreundlicher machen. Allerdings bleibt abzuwarten, ob OpenAI den Chip auch externen Partnern zugänglich machen wird oder ihn ausschließlich für eigene Dienste nutzt.