Ein frisch gegründetes Silicon Valley Startup stellt die KI-Welt auf den Kopf.
Inflection AI, ein junges Startup aus dem Herzen des Silicon Valleys, ist schnell zu einem leuchtenden Stern am KI-Himmel aufgestiegen. Gegründet erst im Jahr 2022, hat das Unternehmen bereits ein beeindruckendes Risikokapital von 1,3 Milliarden US-Dollar angezogen. Ihr ambitioniertes Projekt: der Aufbau eines KI-Supercomputers mit nicht weniger als 22.000 Nvidia H100 (Hopper) Rechenbeschleunigern. Dieses technologische Meisterwerk soll unter anderem den Chatbot „Pi“ trainieren, der schon jetzt auf heypi.com in einer Beta-Version getestet werden kann.
Der Supercomputer von Inflection AI wird nicht nur in der KI-Forschung neue Maßstäbe setzen. Mit einer prognostizierten Rechenleistung von 22 Exaflops bei der Verarbeitung von FP16-Gleitkommazahlen könnte er auf der Top-500-Liste der Supercomputer weltweit den zweiten Platz einnehmen. Bereits jetzt verfügt das Unternehmen über einen Cluster von über 3000 H100-Beschleunigern, mit dem kürzlich Rekordergebnisse im KI-Benchmark „MLPerf“ erzielt wurden. Diese technologische Kraftanstrengung ist das Ergebnis einer engen Zusammenarbeit mit Branchenriesen wie Microsoft (MS Azure), Nvidia und CoreWeave, einem US-Clouddienstleister, der ebenfalls Partner von Nvidia und Microsoft ist. Laut einem MLPerf-Bericht nutzt Inflection AI Nvidias HGX H100 in Kombination mit Intels Xeon Platinum 8462Y+ CPUs. Für den Aufbau des Supercomputers wären insgesamt 688 Schränke erforderlich, mit einer maximalen Leistungsaufnahme von 31 MW. Der geschätzte Listenpreis für diese High-Tech-Ausrüstung übersteigt die Marke von 1 Milliarde US-Dollar.