Google hat kürzlich die Veröffentlichung seiner neuen Modelle für künstliche Intelligenz bekannt gegeben, die als Gemini bekannt sind und diese mit der Veröffentlichung der neuesten Version seines Flaggschiff -Tensor -Prozessors (TPU) zum Unterrichten und Rückzug künstlicher Intelligenz (AI) begleiten. Google sieht diesen Schritt als strategischer Versuch an, mit Grafikprozessoren, insbesondere den Marktführern - Grafikprozessoren (GPU) aus NVIDIA zu konkurrieren.
Der TPU V5P, der leistungsstärkste Beschleuniger von AI von Google, war an der Arbeit an AI Hypercomputer, einer Supercomputerarchitektur, die speziell für Aufgaben künstlicher Intelligenz ausgelegt ist. Dies unterscheidet sich von gewöhnlichen Supercomputern, die traditionell für wissenschaftliche Berechnungen verwendet werden.
Die neueste Version von TPU enthält 8,960 Chips pro System des Systems, was im Vergleich zu 4,096 in der vorherigen Version von V4 eine signifikante Erhöhung darstellt. Es ist auch viermal größer als der Flops auf dem Knoten. Neue Knoten bieten eine auffällige Bandbreite in 4,800 Gbit / s und 95 GB Hochgeschwindigkeitsspeicher (HBM) im Vergleich zu 32 GB HBM RAM in TPU V4.
Ein wichtiger Unterschied zwischen NVIDIA H100 und Google TPU V5P besteht darin, dass Google seine TPUs nicht an andere Unternehmen zum Verkauf anbietet. Sie werden ausschließlich innerhalb des Unternehmens für ihre eigenen Produkte und Dienstleistungen verwendet. Google TPUs wird seit langem verwendet, um eine Vielzahl von Diensten wie Google Mail, YouTube und Android zu unterstützen. Die neue Version wurde auch verwendet, um das Gemini -Modell zu unterrichten.
Google V5P TPU unterrichtet größere Sprachmodelle 2,8 -mal schneller als TPU V4 und bietet ein 2,1 -facheres Preis -Leistungs -Verhältnis als Geld. Im Vergleich zur Zwischenversion von TPU V5E, die Anfang dieses Jahres veröffentlicht wurde, ist TPU V5P die leistungsstärkste Option, auch wenn die V5E -Version den höchsten Wert bietet, der 1,9 -mal schneller wird als TPU V4.
Interessanterweise hat sich der TPU V5P für den Wettbewerb mit einem weit verbreiteten H100 -Grafikprozessor aus NVIDIA als leistungsstark erwiesen, das laut dem Unternehmen viermal schneller als die Workloads als die GPU A100 von NVIDIA ist.
TPU V4 von Google ist laut einer im April veröffentlichten Studie jedoch 1,2-1,7-mal schneller als A100. Frühere Berechnungen zeigen, dass TPU V5P ungefähr 3,4 bis 4,8-mal schneller ist als A100, was es auf oder sogar höher als H100 platziert. Die endgültigen Schlussfolgerungen erfordern jedoch detailliertere Tests.
