IT-Ebenen: Gerät · Token

Gerät: „Öffnen Sie es. Was steckt drin, und wer hängt davon ab?“

Was Sie sehen: Status, Fehler und LEDs an jedem Gerät. Gehen Sie zu einem Rack, öffnen Sie einen Server und zerlegen Sie ihn in seine Teile (Netzteile, Lüfter, DIMMs, Laufwerke, GPUs), mit Werten je Komponente, wo eine Quelle sie liefert.

Was-wäre-wenn: Ein Fehler an einem Bauteil listet das Gerät, seine Workloads (Spalte runs) und seine Mandanten. Eine Garantie, die innerhalb von 12 Monaten endet, wird beim Import markiert.

Aus der Tabelle: Devices (rack, u, model, name, role, height_u, power_cords, serial, owner, warranty_end, runs). Der Modelltext wird mit dem Gerätekatalog abgeglichen (exakt, Aliasse, Modellcodes, dann unscharf: „PE R740XD“ findet den richtigen Server). Unbekannte Modelle werden zu einfachen Quadern, die später identifiziert werden.

Der Katalog: Server, GPU-Knoten, Switches, Storage, PDUs, USVs, Kühlgeräte und CDUs mit Abmessungen, Gewicht, Leistungsaufnahme, Luftstrom, Kühlung und Bauteilbaum, aufgebaut aus öffentlichen Datenblättern und Handbüchern, mit einer offenen Gerätetyp-Bibliothek als Grundstock. Performance-Felder (Kerne und TDP, GPU-Durchsatz, Storage-IOPS, Netzwerkbandbreite) werden derzeit ergänzt, damit der Design-Modus damit dimensionieren kann.

Token: „Welcher Server hat die meisten Token produziert, und zu welchen Energiekosten?“

Was Sie sehen: Säulen für Token pro Sekunde auf GPU-Knoten, Token pro kWh als Farbe über den ganzen Raum, die stärksten Produzenten im Monitor, Token nach Workload, Mandant, Modell und Server im Report.

Die Kennzahl: Token pro kWh = erzeugte Token ÷ vom Server verbrauchte Energie (oder vom Rack, mit seinem Anteil an der Gesamtanlage). Es ist die eine Zahl, die den Output eines KI-Raums mit seiner Stromrechnung verbindet: je Server, je Rack, je Mandant. Wo die Energieseite eine Modellschätzung statt eines gemessenen Werts ist, ist sie als geschätzt gekennzeichnet.

Was-wäre-wenn: Jedes Szenario meldet verlorene Token. Lassen Sie eine Einspeisung ausfallen, stoppen Sie ein Kühlgerät, lösen Sie eine Leckage aus, und die Ebene Token zeigt, welche Serving-Kapazität wegfällt.

Daten heute: Die Demo-Räume enthalten Token-Zähler, und Sie können Token- und Leistungsverläufe über das Blatt Readings importieren. Live-Daten aus Serving-Stack-Metriken und GPU-Telemetrie kommen über die Collectors des Agenten, die entwickelt, aber noch nicht an Live-Systemen getestet sind (Roadmap).

In den meisten KI-Räumen ist Token pro kWh noch eine Tabellenkennzahl: Watt aus dem einen Dashboard, Token aus dem anderen. Bringen Sie beides aufs Rack, und der Vergleich zwischen zwei Servern, zwei Racks oder zwei Mandanten wird zu einer Farbe. Probieren Sie den Token-pro-kWh-Rechner (Englisch) aus oder lesen Sie Token pro kWh: die eine Kennzahl für einen KI-Raum (Englisch).

Kostenverrechnung und Kapazität

Der Report-Modus liefert Token nach Workload, Mandant, Modell und Server, Energie und Kosten zu Ihrem Tarif sowie Token pro kWh nebeneinander. So wird die Kostenverrechnung (Chargeback) zum Bericht statt zur Tabelle. Geschätzte Werte sind gekennzeichnet.