Amazon intenționează să devolte un supercomputer, alimentat de propriile cipuri AI/ În 2025 Amazon vrea să devină independent de Nvidia

Amazon Web Services (AWS) a anunțat că va construi un „Ultracluster” de cipuri numit Project Rainier, care va fi alimentat de propriile cipuri de inteligență artificială. Astfel, compania vrea să ofere o alternativă la cipurile create de rivalul Nvidia.

Acest cluster va fi finalizat în anul 2025 și „va fi una dintre cele mai mari din lume pentru instruirea modelelor de inteligență artificială”, potrivit lui Dave Brown, vicepreședintele Amazon Web Services pentru servicii de calcul și rețele, relatează The Wall Street Journal.

Măsurile și demersurile realiate de Amazon

„Astăzi, există într-adevăr o sigură alegere pe partea de GPU, și este doar Nvidia”, a declarat Matt Garman, director executiv al Amazon Web Services. „Credem că clienții ar aprecia să aibă mai multe opțiuni”, a declarat Matt Garman, director executiv al Amazon Web Services.

Analize Economedia

ANALIZĂ. România în balanță: Anii 2025-2031 sau despre cum să faci exerciții de levitație deasupra prăpastiei

ANALIZĂ. Efervescență în industria veterinară din România. Numeroase tranzacții și investiții anunțate în ultimele luni

ANALIZĂ. 2025, momentul adevărului pentru marii constructori din România. UMB va lucra pe 270 de kilometri de autostradă, Mapa și WeBuild încep tunelurile în zona de munte pe A1, iar Makyol pe toate cele patru loturi de pe A13

ANALIZĂ. Cum ar putea fi afectată România de victoria lui Trump / Ce înseamnă pentru economia americană și globală

ANALIZĂ. Împrumuturile statului au ajuns la o sumă record. Guvernul nu a terminat: deficitul în creștere presupune împrumuturi și mai mari, la dobânzi astronomice / Dobânzile au crescut deja

EXCLUSIV Întârzieri de un an de zile la decontul investițiilor prin Start-up Nation 2022 / Antreprenorii reclamă că trebuie să plătească dobânzi și se gândesc chiar să vândă: „Mai bine făceam un credit de nevoi personale”

Ce nu spune premierul Marcel Ciolacu atunci când încearcă să dea explicații despre afacerile nepotului său, Mihai Cristian. Legăturile politică – business care se pot regăsi în diverse etape din activitatea tânărului Ciolacu, implicat în piața Farma, Energie și Imobiliare

ANALIZĂ Încrederea mediului de afaceri în economia României a crescut în luna octombrie

Topul celor mai puternici antreprenori în construcții: Compania Construcții Erbașu a urcat pe primul loc în clasament și e urmată de Strabag și PORR

Cum a ajuns partenerul de afaceri al lui Mihai Ciolacu, nepotul premierului Ciolacu, să dețină un imperiu farmaceutic în jumătate din țară sub brandul Evofarm: achiziții pe bandă rulantă și zeci de contracte cu statul

EXCLUSIV Scrisoarea Comisiei Europene. De ce a suspendat Bruxelles-ul banii pentru Transporturi din a treia cerere de plată: Legături ierarhice la selecția șefilor pentru companiile de stat, licitații feroviare cu probleme / Detalii: cum a pierdut metroul de Cluj finanțarea

EXCLUSIV Scrisoarea Comisiei Europene: Lanțul de influențe politice prin care au fost numiți șefii companiilor de stat din Energie / Comisia suspendă o plată de 300 de milioane de euro pentru acest jalon

Corespondență de la EIT InnoEnergy, din Barcelona. Cum ar putea răspunde Europa, dependentă de importuri, la amenințarea chineză pe piața energiei sustenabile? Investiții în cercetare, inovație viabilă economic și “morcovi”- stimulente pentru tehnologia curată

ANALIZĂ Economedia. Val de concedieri și restructurări la multinaționalele din industrie, cu activitate și pe plan local. Piața din România, afectată de presiunile economice de la nivel mondial, de creșterea costurilor cu materia primă, cu forța de muncă și de scăderea consumului

ANALIZĂ Economedia: O administrație Trump 2.0 va avea de dat o luptă infernală cu piețele financiare / Mesajul lui Stanley Druckenmiller, legendă în lumea investițiilor: „Lui Soroș i-ar fi rușine cu mine că nu pariez mai mult”

EXCLUSIV România pierde temporar 1,1 miliarde de euro din cererea de plată numărul 3 din PNRR, în valoare totală netă de 2 miliarde de euro / Guvernul are 6 luni să îndeplinească jaloanele restante

ANALIZĂ Economedia: Băncile continuă să stea pe un munte de bani / Muntele se va mări pe final de an

ANALIZĂ Economedia: A căzut BNR în propria capcană? / Cât de mult va fi stimulată inflația de ajustarea fiscală a Guvernului și cât va afecta economia

Surse: Acționarii elvețieni ai Azomureș iau în calcul vânzarea combinatului de îngrășăminte / Omul de afaceri Ștefan Vuza ar fi interesat de achiziție / Romgaz, indicat de asemenea ca potențial cumpărător, nu a comentat

ANALIZĂ Economedia: Ce se fac că nu înțeleg bancherii centrali când vine vorba despre inflație și impactul ei asupra consumatorilor

VIDEO Cât costă să joci golf în România, un sport promovat de președintele Iohannis/ De la un joc sportiv asociat cu imobiliarele până la o activitate care „face bine națiunilor”

Analiză Economedia: Încă două scăderi de dobândă de la BNR, după care pauză? / Unde ar urma să se așeze dobânzile într-un 2025 cu riscuri în creștere

ANALIZĂ Economedia. Piața muncii pentru studenți la început de an universitar. Care sunt job-urile pentru tineri fără experiență și ce salarii se pot câștiga?

ANALIZĂ Economedia: Toți marii bancheri centrali din lume pun mână de la mână ca să umfle piețele financiale, cu o lună înaintea alegerilor din SUA/ S&P 500 va bate pragul de 6.000 de puncte până la final de an, dacă nu se prăbușește din cauza „lebedei negre” a grevei portuare

ANALIZĂ Economedia: Cu un deficit bugetar scăpat de sub control, Guvernul Ciolacu a ajuns la împrumuturi de aproape 200 miliarde de lei în 2024, un nivel record. Statul a împrumutat aproape 32 miliarde de lei în septembrie / Dobânzile suverane au crescut

OFICIAL Cine sunt noii directori de la Transelectrica fără experiență în energie: Șeful companiei strategice, Ștefăniță Munteanu, fost consilier județean susținut de Ciolacu/ Ce probleme de integritate ridică alți membri controversați, ca Victor Moraru

ANALIZĂ Economedia: Încrederea în economia românească scade ușor în debutul toamnei / Activitatea de business va continua să crească pe final de an

EXCLUSIV Victor Moraru de la AMEPIP și Ștefăniță Munteanu, susținut de Ciolacu, pe lista finală în noul Directorat al Transelectrica. Conducerea companiei va fi numită luni / Lista completă

EXCLUSIV Ford va asambla baterii pentru mașini electrice la Craiova

EXCLUSIV Schaeffler din Brașov a trimis angajații în șomaj tehnic

Amazon face demersurile acestea cu scopul de a reduce costurile și a asigura mai mult control asupra lanțului său de aprovizionare în domeniul inteligenței artificiale. Obiectivul principal este de a face platforma AWS independentă de partenerul ei Nvidia și de a se confrunta cu concurența altor companii care își dezvoltă propriile cipuri AI. Amazon a lucrat la propriul hardware pentru clienți cu mult înainte de 2018, când a lansat o unitate centrală de procesare numită Graviton, bazată pe arhitectura procesorului de la producătorul britanic de cipuri Arm.

Amazon dorește să evidențieze că Graviton este o opțiune mai ieftină, dar la fel de capabilă ca liderul pieței. În același timp, Microsoft și Google își construiesc, de asemenea, propriile cipuri pentru AI și urmăresc să-și reducă dependența de Nvidia.

Unele companii doresc să echivaleze o parte din veniturile obținute de Nvidia din cipuri, inclusiv startup-urile cu cipuri de inteligență artificială precum Groq, Cerebras Systems și SambaNova Systems.

Sediul AWS se află în Austin, Texas, unde se află un laborator de cipuri AI condus de Annapurna Labs, o companie israeliană de microelectronică pe care Amazon a achiziționat-o pentru aproximativ 350 de milioane de dolari în 2015.

Astfel, în interiorul laboratorului, inginerii ar putea fi la asamblare într-o zi și la lipit în următoarea, a susținut Rami Sinno, directorul de inginerie al laboratorului. Ei fac tot ceea ce trebuie făcut, imediat – un tip de mentalitate mai des întâlnită la startup-uri decât la companii de miliarde de dolari precum Amazon.

Sinno a spus că acest lucru este intenționat, deoarece Annapurna nu caută specialiști ca restul sectorului. De exemplu, caută un proiectant de plăci care să se priceapă și la integritatea semnalului și la furnizarea de energie și care să poată scrie cod.

„Noi proiectăm cipul, nucleul, serverul complet și rack-ul în același timp. Nu așteptăm ca cipul să fie gata pentru a putea proiecta placa în jurul său”, a declarat Sinno. „Aceasta permite echipei să meargă foarte, foarte repede”, a adăugat acesta.

AWS a anunțat proiectul „Inferentia” în anul 2018, un cip de învățare automată dedicat inferenței, care este procesul de trecere a datelor printr-un model AI, astfel încât acesta să genereze un rezultat. „Echipa a urmărit mai întâi inferența, deoarece este o sarcină puțin mai puțin solicitantă decât formarea ”, a declarat James Hamilton, un vicepreședinte senior al Amazon și inginer distins.

Până în anul 2020, Annapurna a fost pregătită să funcționeze cu Trainium, primul său cip pe care clienții pot antrena modele AI. Anul trecut, Amazon și-a anunțat cipul Trainium2, despre care compania a spus că este acum disponibil pentru a fi utilizat de toți clienții. AWS a mai spus că lucrează acum la serverele Trainium3 și Trainium3-based, care vor fi de patru ori mai puternice decât serverele sale Trainium2-based

Uzina de cipuri

Pe măsură ce modelele de inteligență artificială și seturile de date au devenit mai mari, la fel au devenit și cipurile și grupurile de cipuri care le alimentează. Giganții tehnologici nu cumpără doar mai multe cipuri de la Nvidia sau își proiectează propriile cipuri, aceștia încearcă acum să adune cât mai multe într-un singur loc.

Acesta a fost construit ca o colaborare între Annapurna și Anthropic: pentru ca startup-ul AI să utilizeze clusterul pentru a-și antrena și rula viitoarele modele AI. Acesta este de cinci ori mai mare, prin exaflops, decât clusterul actual de formare al Anthropic, a declarat AWS. Prin comparație, xAI a lui Elon Musk a construit recent un supercomputer pe care îl numește Colossus cu 100 000 de cipuri Nvidia Hopper.

„Cu cât scalați mai mult un server, cu atât mai puțin aveți nevoie pentru a rezolva o anumită problemă și cu atât mai eficient funcționează întregul cluster de formare”, a declarat Hamilton. „De îndată ce vă dați seama de acest lucru, începeți să munciți din greu pentru ca fiecare server să fie cât mai mare și mai capabil posibil.”

Circa 64 de cipuri asamblate într-un singur pachet

Amazon dezvăluie că noul său Ultraserver reprezină o combinație 64 de cipuri într-un singur pachet, permitând serverului să atingă puterea de calcul de 83,2 petaflops. În plus, Amazon a dezvoltat o tehnologie numită NeuronLink, care permite comunicarea între cele patru servere.

Eiso Kant, co-fondator și director tehnologic al start-up-ului de codare AI Poolside, a declarat că obține economii de preț de aproximativ 40% în comparație cu rularea modelelor sale AI pe GPU-urile Nvidia. Dar, un dezavantaj este că startup-ul trebuie să cheltuiască mai mult din timpul inginerilor săi pentru a face software-ul cipului asociat Amazon să funcționeze.

Detalii referitoare la fabrică

Cu toate cestea, Amazon își fabrică siliciul direct prin Taiwan Semiconductor Manufacturing Co și îl pune în propriile centre de date, ceea ce îl face un „pariu sigur” pentru startup-ul AI, a spus Kant. Unde își plasează pariurile este cheia, deoarece chiar și o întârziere hardware de șase luni ar putea însemna sfârșitul afacerii sale, a spus el.

Benoit Dupin, un director senior de învățare automată și inteligență artificială la Apple, a declarat marți pe scenă că gigantul smartphone-urilor testează cipurile Trainium2 și se așteaptă să vadă economii de aproximativ 50%.

Un calcul invizibil

Pentru majoritatea întreprinderilor, alegerea dintre Nvidia și Amazon nu este o întrebare presantă, spun analiștii. Acest lucru se datorează faptului că marile companii sunt preocupate în principal de modul în care pot obține valoare din rularea modelelor de inteligență artificială, mai degrabă decât să se ocupe de detaliile de bază ale formării acestora.

Tendința pieței este un lucru bun pentru Amazon, deoarece nu are nevoie ca clienții să se uite sub capotă. Poate lucra cu companii precum Databricks, o companie de date în cloud, pentru a pune Trainium sub capac, iar majoritatea întreprinderilor nu vor observa nicio diferență, deoarece calculul ar trebui doar să funcționeze – și, în mod ideal, la costuri din ce în ce mai mici.

„De fapt, cred că cele mai multe vor fi probabil Nvidia pentru o lungă perioadă de timp, deoarece acestea reprezintă 99% din volumele de lucru de astăzi și, prin urmare, probabil că acest lucru nu se va schimba”, a declarat Garman, CEO al AWS. „Dar, cu puțin noroc, Trainium își poate croi o nișă bună în care chiar cred că va fi o opțiune excelentă pentru multe sarcini de lucru – nu pentru toate sarcinile de lucru.” , a  adăugat el.

Cu toate acestea, liderii companiei sunt realiști cu privire la acest nou procedeu și analzează obiectiv piață.