Feed Comunitate
TH
Timo Holub
@medvedabyk · 19 oct.

Amazon simplifică trecerea la cipurile AI Trainium proprii cu TorchNeuron

O singură setare în locul rescrierii codului. Un detaliu aparent minor poate schimba mai mult decât pare pe piața cipurilor AI.

Amazon $AMZN a prezentat astăzi TorchNeuron, un software care permite rularea codului PyTorch existent pe propriile cipuri AI Trainium. Potrivit Amazon, este suficientă schimbarea unei singure setări, fără a fi nevoie să rescrii întregul cod.

De ce a fost atât de greu până acum să concurezi cu Nvidia?

Unul dintre cele mai mari avantaje competitive ale Nvidia $NVDA nu constă doar în cipuri, ci și în ecosistemul său software CUDA. Dezvoltatorii își construiesc și își optimizează de ani de zile modelele AI pe această platformă. Prin urmare, trecerea la hardware-ul altui producător presupunea adesea muncă suplimentară, costuri și timp. Chiar dacă rivalii ofereau cipuri mai ieftine, migrarea putea să nu merite. Iar tocmai această barieră încearcă Amazon să o elimine.

Potrivit companiei, aproximativ 85% dintre cercetătorii și dezvoltatorii din domeniul AI folosesc PyTorch. TorchNeuron le permite să utilizeze Trainium fără modificări majore ale codului existent. În plus, software-ul va fi gratuit și disponibil ca open source.

De asemenea, potrivit Reuters, TorchNeuron este deja folosit de peste 30 de clienți timpurii din domenii precum robotica, AI vocală și dezvoltarea de modele care simulează lumea reală. Unii dintre ei raportează economii semnificative.

O oportunitate pentru Amazon, un risc pentru Nvidia

Pentru Amazon, aceasta este o șansă de a aduce Trainium în atenția unui grup mult mai larg de clienți AWS. Cipurile proprii îi oferă, totodată, un control mai mare asupra costurilor și posibilitatea de a propune prețuri mai competitive pentru calculele AI.

Pentru Nvidia, este un alt semnal că rivalii nu mai încearcă doar să recupereze decalajul față de performanța GPU-urilor sale, ci și să reducă avantajul pe care și l-a construit de-a lungul anilor prin software.

Desigur, TorchNeuron nu înseamnă că dominația CUDA se va încheia imediat... Nvidia are în continuare un avans uriaș în ceea ce privește optimizarea, instrumentele și asistența pentru dezvoltatori. Așadar, decisiv va fi dacă Trainium poate oferi performanțe comparabile la sarcini reale, dar cu costuri totale mai mici.

Dacă trecerea la cipuri concurente devine mult mai simplă, clienții vor avea mai multă libertate să aleagă în funcție de preț și performanță, nu de hardware-ul pe care și-au construit deja modelele.

Apropo, Morgan Stanley a majorat astăzi prețul-țintă pentru Amazon de la $335 la $350 și a desemnat compania drept una dintre acțiunile sale preferate. Acțiunile au crescut astăzi cu aproximativ 5%, în principal datorită optimismului legat de AWS.

Credeți că Amazon va putea, în timp, să concureze mai puternic cu Nvidia sau avantajul software al acesteia rămâne uriaș? 👇

Părerea personală a unui membru al comunității, nu o recomandare de investiții. Regulile comunității

VS

Nvidia $NVDA nu își va pierde monopolul peste noapte, dar Amazon i-a lovit cel mai mare punct slab. Pentru companii, problema nu era să treacă la alt hardware, ci să rescrie codul din CUDA. Dacă TorchNeuron va permite într-adevăr rularea pe Trainium fără luni de muncă din partea inginerilor, Amazon va începe să erodeze marjele Nvidia, mai ales în inferență. Codul scris în PyTorch are, de fapt, 85 % din piață.

KJ

Nvidia are încă un avantaj considerabil în acest domeniu software. Oricum, am Amazon $AMZN în portofoliu și păstrez acțiunile. Îmi place afacerea lor.

Folosim cookie-uri esențiale pentru funcționarea site-ului și cookie-uri analitice opționale pentru a măsura utilizarea.