{"id":41566,"date":"2024-10-11T10:32:49","date_gmt":"2024-10-11T08:32:49","guid":{"rendered":"https:\/\/www.boston-it.com\/intel-gaudi-3\/"},"modified":"2024-10-17T08:32:18","modified_gmt":"2024-10-17T06:32:18","slug":"intel-gaudi-3-boston-verfuegbar","status":"publish","type":"post","link":"https:\/\/www.boston-it.com\/at\/intel-gaudi-3-boston-verfuegbar\/","title":{"rendered":"Intel Gaudi 3 – bei Boston verf\u00fcgbar"},"content":{"rendered":"\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t
<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Hohe Leistung mit P-Cores<\/h3>\n

Intels KI-Beschleuniger Gaudi 3 ist bei Boston erh\u00e4ltlich. Der Beschleuniger bietet fortschrittliche KI-Funktionen f\u00fcr Unternehmen und KI-Entwickler. <\/p>\n

Mit dieser Version positioniert sich Gaudi 3 als wettbewerbsf\u00e4hige Alternative zu NVIDIA-GPUs, die sich bei Deep Learning, generativer KI <\/strong>und High-Performance-Computing (HPC)-Workloads<\/strong> auszeichnet.<\/p>\n

Die Gaudi 3-Plattform wurde entwickelt, um eine h\u00f6here Effizienz, Leistung und Skalierbarkeit zu bieten, damit sie den st\u00e4ndig wachsenden Anforderungen von KI- und Rechenzentrums-Workloads gerecht wird.<\/p>\n

Hauptmerkmale von Gaudi 3<\/h3>\n

Der Intel Gaudi 3 Beschleuniger bietet im Vergleich zu seinem Vorg\u00e4nger Gaudi 2 bemerkenswerte Leistungssteigerungen:<\/p>\n

    \n
  • 4x BF16 Rechenleistung,<\/li>\n
  • 2x Netzwerkbandbreite und<\/li>\n
  • 1,5x Speicherbandbreite.<\/li>\n<\/ul>\n

    Diese Verbesserungen f\u00fchren zu schnelleren Trainingszeiten und erh\u00f6htem Inferenzdurchsatz bei verschiedenen Modellen, einschlie\u00dflich Llama 2 und GPT-3. Gaudi 3 soll bei diesen Modellen im Vergleich zu NVIDIAs H100 eine um bis zu 50 % k\u00fcrzere Trainingszeit (TTT) erm\u00f6glichen.<\/p>\n

    Gaudi 3 zeichnet sich durch seine offene Architektur<\/strong> aus, die die propriet\u00e4ren Systeme der Wettbewerber vermeidet. Dies gibt Unternehmen die Flexibilit\u00e4t, Standard-Ethernet-Netzwerkger\u00e4te<\/strong> zu integrieren und zu skalieren, anstatt sich auf propriet\u00e4re Fabrics zu beschr\u00e4nken. <\/p>\n

    Die skalierbare Architektur<\/strong> von Gaudi 3 erm\u00f6glicht eine Leistung von einem einzelnen Knoten bis hin zu Clustern mit 1.000 Knoten oder mehr. Jeder Accelerator ist mit 24×200 GbE-Ports ausgestattet und bietet umfangreiche Scale-up- und Scale-out-Funktionen. <\/p>\n

    Leistung und Skalierbarkeit<\/h3>\n

    Gaudi 3 bietet erhebliche Leistungsverbesserungen, darunter ein durchschnittlich 50% schnelleres Training bei GPT-3 (175B)-Modellen und eine doppelt so schnelle Inferenz bei Llama-2-Modellen im Vergleich zu NVIDIA’s H100. Diese Beschleunigung bietet einen erheblichen Vorteil<\/strong> bei KI-Workloads<\/strong> wie gro\u00dfen Sprachmodellen (LLMs)<\/strong>, bei denen Geschwindigkeit und Effizienz entscheidend sind. <\/p>\n

    Neben der \u00fcberragenden Leistung ist die Kosteneffizienz<\/strong> von Gaudi 3 ein weiteres starkes Verkaufsargument. Unternehmen k\u00f6nnen im Vergleich zur NVIDIA H100 eine bis zu 2,3-fach bessere Leistung pro Dollar beim Inferenzdurchsatz und einen 1,9-fach besseren Trainingsdurchsatz<\/strong> erwarten. Die Effizienz der Gaudi 3 schl\u00e4gt sich auch in niedrigeren Energiekosten nieder, mit einer 40-prozentigen Verbesserung der Energieeffizienz<\/strong> bei der Inferenzierung von Llama- und Falcon-Modellen. <\/p>\n

    Buchen Sie noch heute einen Test Drive!<\/p>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

    \n\t\t\t\t\t\t
    \n\t\t\t\t\t
    \n\t\t\t
    \n\t\t\t\t\t\t
    \n\t\t\t\t
    \n\t\t\t\t\t\t\t
    \n\t\t\t\n\t\t\t\t\t\t\t
    \n\t\t\t\t\t<\/i><\/div>\n\t\t\t\t\t\t<\/span>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
    \n\t\t\t\t\t\t
    \n\t\t\t\t\t
    \n\t\t\t
    \n\t\t\t\t\t\t
    \n\t\t\t\t
    \n\t\t\t\t\t\t\t
    \n\t\t\t
    <\/div>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
    \n\t\t\t\t\t\t
    \n\t\t\t\t\t
    \n\t\t\t
    \n\t\t\t\t\t\t
    \n\t\t\t\t
    \n\t\t\t\t\t

    Kontakt aufnehmen<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
    \n\t\t\t\t\t\t
    \n\t\t\t\t\t
    \n\t\t\t
    \n\t\t\t\t\t\t
    \n\t\t\t\t
    \n\t\t\t\t\t