Das Training mehr oder weniger fortgeschrittener Modelle der künstlichen Intelligenz erfordert häufig erhebliche Ressourcen. Komplexe Modelle bedeuten Millionen von Dollar an Infrastruktur. IBM hat Technologien entwickelt, um die Kosten und die Zeit für Schulungen zu reduzieren. Und natürlich Geld sparen.
Das Unternehmen präsentierte einen Prototyp eines neuen energieeffizienten 7-nm-AI-Coprozessors. Die Verwendung des Chips kann die Effizienz von Trainingssystemen um mehr als das Siebenfache steigern . Selbstfahrende Autos, Text-to-Speech, Bildverarbeitung, Arzneimittelentwicklung, Lieferdrohnen - die Anwendungen der KI sind heute endlos. Um diese Großprojekte umzusetzen, werden solche Technologien benötigt.
In den meisten Rechenkernen, Prozessoren und SoCs, die für maschinelles Lernen geschärft wurden, werden am häufigsten die Low-Bit-Modi verwendet: FP16 und INT8. 8-Bit-Genauigkeit ist in diesem Fall einfach redundant. IBM hat einen Prototyp eines neuen AI-Chips für diese Peripheriesysteme entwickelt.
Was ist am Coprozessor interessant?
4-Kern-Chip. Der Source
- Chip ist entworfen , eine 7 nm Prozesstechnologie verwendet wird . Verschiedene Szenarien für die Verwendung des Chips sind möglich:
- Im 4-Bit-Modus für allgemeine Aufgaben. Mit dieser Technologie können Sie Ergebnisse erzielen, die mit dem 8-Bit-Modus vergleichbar sind.
- Im 2-Bit-Modus für Inferenzaufgaben. In diesem Fall sinkt die Genauigkeit manchmal um einige Prozent, aber die Leistung ist im Vergleich zum 8-Bit-Modus viermal höher.
- Hybridmodus für verschiedene Arten von Aufgaben.
Hauptmerkmale des Chips:
- 7nm Prozesstechnologie basierend auf EUV;
- Verwendung des Hybridformats FP8 mit HFP8;
- AI Power Management für Hardwarebeschleuniger;
- Anpassung an dauerhaft hohe Lasten, die eine hohe Leistung der Anwendungen gewährleisten.
Quelle
Anwendungsbereich der Neuheit:
- Training von Großmodellen in der Cloud;
- Verbesserung der Sicherheit und des Datenschutzes;
- Erhöhen Sie die Rechenleistung in Hybridumgebungen, ohne zu viel Energie zu verbrauchen.
IBM geht davon aus, dass der Coprozessor für Bildverarbeitung, Spracherkennungssysteme und die Verarbeitung natürlicher Sprache für verschiedene Cloud-Anwendungen zur Erkennung betrügerischer Finanztransaktionen eingesetzt werden kann. Darüber hinaus können Entwickler von autonomen Fahrzeugen, Videoüberwachungssystemen und Mobiltelefonen von der Verwendung des Chips profitieren.
