SHENZHEN, Kiina-Rohkeassa askeleena kohti seuraavan AI-pohjaisen infrastruktuurin sukupolven, Telefly tarjoaa ylpeänä NVIDIA H800 80 Gt: n PCIe OEM: n, räätälöityjen GPU: n räätälöityjen GPU: n kanssa Kiinan markkinoille. H800 on suunniteltu tyydyttämään laajamittaisen AI-mallin koulutuksen ja päätelmien kasvavan kysynnän.
Kiinan markkinoille rakennettu tarkoitus
Yhdysvaltain vientirajoituksista johtuen H800 toimii A100/H100: n paikallisina vastineina, ja se säilyttää ylimmän tason suorituskyvyn optimoidun sääntelyrajojen sisällä. Sen yhdistämisen kaistanleveys on enintään 400 Gt/s, mutta siinä on silti:
80 Gt korkean kaistanleveys HBM2E-muistia
Enintään 20 tfloppia FP32 -laskenta suorituskykyä
PCIE Gen4 -liittymä saumattomalle palvelinintegraatiolle
Moni-instance GPU (MIG) -tuki työmäärän osioon
Verrattuna valtavirran GPU: iin, H800 PCIe OEM tarjoaa jopa 5x suorituskykyä tehostamaan muuntajan mallin päätelmätehtäviä, kuten Bert, mikä tekee siitä olennaisen komponentin NLP: lle, suositusjärjestelmille ja autonomiselle AI -infrastruktuurille.
📊 reaalimaailman suorituskykytiedot
Paikallisen pilvi -AI -palveluntarjoajien vertailuarvot osoittavat:
3.2x SpeedUp ResNet-50-koulutuksessa edellisen A30-sukupolven aikana
Jopa 7,5 -kertainen parannus suuressa kielimallissa (LLM) päättelyssä
22% korkeampi suorituskyky Hybrid Cloud Server -klustereissa verrattuna vanhempiin PCIe -kortteihin
Nämä voitot tekevät H800: sta vahvan sopivuuden hyperscale-tietokeskuksiin, Edge AI-käyttöönoton ja yksityisten suurten mallin koulutusympäristöihin Kiinassa.
