Con Shakti Cloud, Yotta crea la prima infrastruttura di IA sovrana in India

Sfruttando lo stack avanzato e completo di NVIDIA per l’infrastruttura di IA, Yotta potrebbe competere in modo aggressivo con i fornitori esistenti, soprattutto sulle offerte localizzate e sovrane. L’azienda ha identificato che le GPU NVIDIA H100 Tensor Core e le GPU NVIDIA A100 Tensor Core, insieme alla leadership globale di NVIDIA nel settore dell’IA e all’ecosistema full-stack, che include hardware, software e kit di sviluppo software, potrebbero fornire la scalabilità e le prestazioni necessarie per realizzare Shakti Cloud.

Nel complesso, Shakti Cloud dispone di oltre 16.000 GPU H100, con altre in arrivo, tra cui le GPU NVIDIA B200 Tensor Core. L’integrazione dell’architettura di riferimento NVIDIA si è tradotta in interconnessioni ad alta velocità come NVIDIA NVLink™ e NVIDIA Quantum-X800 InfiniBand per eliminare efficacemente gli intoppi critici nel trasferimento dei dati nei carichi di lavoro IA e HPC di Yotta. Le tecnologie di rete di NVIDIA hanno notevolmente ridotto i tempi di formazione e migliorato la latenza di inferenza, migliorando l’efficienza complessiva della pipeline.

Yotta sfrutta inoltre l’ampio stack di software di NVIDIA. NVIDIA AI Enterprise ha ulteriormente accelerato lo sviluppo della piattaforma di Yotta per i suoi clienti, fornendo contenitori ottimizzati e modelli pre-addestrati che fungono da solida base per diverse implementazioni di IA.

Inoltre, NVIDIA Cloud Functions (NVCF), un’API serverless per distribuire e gestire i carichi di lavoro di IA, ha abilitato servizi di inferenza scalabili a bassa latenza, consentendo ai clienti di Yotta di scalare in modo efficiente le loro applicazioni basate sull’IA. Nel complesso, queste funzionalità sono state determinanti per fornire un’infrastruttura IA differenziata e ad alte prestazioni.