Shenzhen, Kiina - heinäkuu 2025 - AI: n läpimurto ja suuret kielimallilaskennat, NVIDIA on käynnistänytH100 141 GtNVL Original, seuraavan sukupolven ratkaisu, joka on suunniteltu työntämään AI-suorituskyvyn, muistin kapasiteetin ja energiatehokkuuden rajat. H100 NVL 141 Gt: n moduuli on räätälöity yritystoiminnan mittakaavan AI-työmäärällä, joka on räätälöity vastaamaan nykypäivän huippuluokan tietokeskusten, kielimallikoulutuksen ja päätelmien vaatimuksia ennennäkemättömällä nopeudella ja mittakaavassa.
3x nopeampi LLM -päätelmät - Powered by NVL -arkkitehtuuri
Toisin kuin tavallinen SXM tai PCIE GPUS, H100 NVL on ainutlaatuinen muotokerroin, joka sisältää kaksi H100 GPU: ta, joka on kytketty NVLinkin kautta ja pakattu kaksois-GPU-liuokseksi 141 Gt: n jaettua HBM3-muistia ja muistin kaistanleveyttä yli 7TB/s. Tämä tekee siitä ihanteellisen GPU: n:
GPT-3, GPT-4 ja LLAMA 3 -harjoittelu
Suuren mittakaavan muuntajan päätelmän työmäärät
Multimodaaliset AI-tehtävät (visio-kielet, puhe jne.)
NVIDIA: n sisäisen testauksen mukaan H100 NVL tarjoaa jopa 12x nopeamman päätelmän suurille kielimalleille verrattuna A100 80 Gt: iin.
