Un cercetător englez spune că lumea ar putea să nu aibă timp sa să pregătească pentru riscurile inteligenței artificiale

Lumea „s-ar putea să nu aibă timp” să se pregătească pentru riscurile de siguranță prezentate de sistemele AI de ultimă generație, spune David Dalrymple, director de program și expert în siguranța AI la agenția de cercetare științitifică a guvernului britanic Aria pentru The Guardian.

Acesta menționează că oamenii ar trebui să fie îngrijorați de capacitatea tot mai mare a acestei tehnologii.

„Vom fi depășiți competitiv în toate domeniile în care trebuie să fim dominanți pentru a menține controlul asupra civilizației, societății și planetei noastre”, spune el.

Dalrymple a spus că există un decalaj de înțelegere între sectorul public și companiile de AI în ceea ce privește puterea descoperirilor majore iminente din domeniul tehnologiei.

Analize Economedia

ANALIZĂ Hidroelectrica a ajuns să vândă energia către clienții en-gros la un preț mai mare decât către clienții finali / O anomalie economică ce ridică semne de întrebare pentru investitori

ANALIZĂ Achizițiile majore de armament făcute sau planificate de România după invadarea Ucrainei de către Rusia în 2022: MLI-uri, sute de tancuri, nave și avioane „stealth” F-35

ANALIZĂ Sectorul utilităților de la bursa românească a performat mai bine decât indicii sectoriali din SUA, Germania și Franța, dar rămâne dependent de reglementări și volatilitate legislativă / „Sectorul utilităților din România nu mai este unul pur defensiv”

ANALIZĂ Ce companii din România caută angajați, în plin „sezon” de concedieri și strâns cureaua. Care sunt domeniile care oferă cele mai multe oportunități?

ANALIZĂ Fondurile de pensii private plasează aproape 70% din economiile românilor pentru bătrânețe în datoria publică, prin achiziția de titluri de stat la dobânzi care nu acoperă rata inflației

GRAFICE Analiză Roland Berger: Care este rolul României în tranziția Europei la o industrie a apărării pregătită să înfrunte provocările actuale și viitoare?

ANALIZĂ | 14 analiști locali și străini văd acțiunile Hidroelectrica la 113,88 de lei în următorul an, sub prețul din piață de 121,6 lei / Compania de stat este percepută ca ușor supraevaluată la nivelul actual

ANALIZĂ | Foarte mulți români angajați în București și Ilfov locuiesc de fapt în acte în alte județe

ANALIZĂ Investitorii plătesc mai mult pentru profiturile Petrom și Romgaz decât în cazul altor companii similare precum MOL, KMG, OMV sau Orlen / Romgaz ar putea oferi dividende mai mici investitorilor, având în vedere investițiile care necesită mult cash

ANALIZĂ Acțiuni vs. cifre: Cum au evoluat acțiunile marilor companii de la Bursa de Valori București față de rezultatele lor financiare în ultimii ani

ANALIZĂ. Ce ar putea însemna majorarea capitalului social pentru firme: Măsură necesară, dar creșterea e prea bruscă. Noile înregistrări de firme s-ar putea reduce/ Cristian Bărcan, fondator REGnet: „Impactul ar fi resimțit mai ales de firmele mici, motorul economiei, care reprezintă peste 95% din totalul companiilor din România”

România bogată, România săracă: Hărțile țării, colorate în funcție de PIB și investiții străine/ Care sunt județele cele mai atractive și cine rămâne în urmă?

ANALIZĂ | „Singura variantă ca eu să pot sta în București este să împart chiria” / Cum își gestionează tinerii bugetele în fața scumpirilor și noilor taxe

ANALIZĂ. Ce acțiuni de la Bursa de Valori București au „bătut” constant piața în ultimii cinci ani / Două companii din eșalonul doi se fac remarcate

ANALIZĂ Ce companii de la bursa românească au oferit în ultimii cinci ani cele mai consistente randamente ale dividendelor / Cum se schimbă topul dacă luăm în calcul și evoluția acțiunilor

Piața imobiliară din Dubai atrage românii, dar rămâne una de nișă / Este un recul pe piața din România, dar aceasta rămâne încă atractivă pentru investitori, spun agenții imobiliari/ Care este profilul investitorului român în imobiliarele din Dubai

ANALIZĂ Expansiunea discretă a Ungariei în România: companii și afaceriști apropiați de Viktor Orban cumpără business-uri românești

ANALIZĂ. Cei mai importanți angajatori IT din România au renunțat la sute de salariați într-un an. Compania care conducea topul din 2023 a rămas fără 1.000 de angajați în 2024

Imperiul Pavăl: de la un magazin modest în Bacău în 1992 la un gigant cu investiții de peste 20 de miliarde de lei în 2025 / De la bricolaj, imobiliare și construcții, la energie, agricultură, pharma și turism – ANALIZĂ Economedia

ANALIZĂ Economedia. Unde se va situa România în clasamentul european al taxării, după majorările anunțate de Guvern / Avertisment: Pierdem principalele avantaje și competitivitate, ce punem în loc?

ANALIZĂ Tablou în piața muncii: Rata șomajului a ajuns în primul trimestru al anului la cel mai ridicat nivel din 2020 încoace/ Numărul de persoane ocupate a scăzut cu aproximativ 323.000 în interval de un an. Ce urmează?

ANALIZĂ Bursa de la București, printre cele mai ieftine din regiune și cu dividende generoase / Ungaria ne-a depășit la randamentul dividendului și este chiar mai ieftină decât România

ANALIZĂ Băncile românești listate la bursă sunt mai ieftine în termeni de profitabilitate comparativ cu cele din regiune. La ce multipli se tranzacționează acțiunile BRD și Banca Transilvania comparativ cu bănci din Austria, Cehia, Croația, Grecia, Ungaria, Polonia și Slovacia

ANALIZĂ Ce industrie de apărare are România. De la scandaluri, politizare și subfinanțare, la noul context european, care aduce finanțări uriașe de Apărare pentru țările UE

ANALIZĂ Economedia: Tot mai multe mașini chinezești, și noi și rulate, pe șosele românești

Analiză. Turbulențele din industria auto se văd din plin în România: Sute de concedieri anunțate în interval de numai câteva săptămâni de către companii active în acest sector în țara noastră

Analiză. Transportatorii români iau locul celor polonezi pe piețele europene, cu flote mari și șoferi gata să călătorească în întreaga UE / Provocări din cauza stagnării economice și a crizei fiscale, care crește taxe și reduce avantajul de cost

ANALIZĂ Se pregătește sezonul de admiteri. Ce taxe de studii percep universitățile și cât costă cazarea la cămine în marile centre din țară?

ANALIZĂ Cum se schimbă topul companiilor de curierat din România după ce Sameday a cumpărat Cargus / Primele 10 firme au afaceri de peste 5 miliarde de lei

ANALIZĂ Produse românești în supermarketuri: Marile lanțuri de retail spun că au sute de parteneri locali. Care sunt produsele cu cea mai mare acoperire locală?

„Aș sfătui că lucrurile se mișcă foarte repede și s-ar putea să nu avem timp să o luăm înainte din perspectiva siguranței. Și nu este science-fiction să proiectăm că, în termen de cinci ani, majoritatea sarcinilor cu valoare economică vor fi îndeplinite de mașini la un nivel mai ridicat de calitate și la un cost mai scăzut decât de oameni”, a spus el.

Dalrymple a spus că guvernele nu ar trebui să presupună că sistemele avansate sunt realizabile. Aria este finanțată public, dar este independentă de guvern și direcționează finanțarea pentru cercetare. Dalrymple dezvoltă sisteme pentru a proteja utilizarea AI în infrastructuri critice, precum rețelele energetice.

„Știința necesară pentru a face acest lucru pur și simplu nu este probabil să se materializeze la timp, având în vedere presiunea economică. Așadar, următorul cel mai bun lucru pe care îl putem face, și pe care s-ar putea să îl putem face la timp, este să controlăm și să atenuăm dezavantajele”, a spus el.

Descriind consecințele progresului tehnologic care o ia înaintea siguranței drept o „destabilizare a securității și a economiei”, Dalrymple a spus că este nevoie de mai multă muncă tehnică pentru a înțelege și a controla comportamentele sistemelor AI avansate.

„Progresul poate fi încadrat ca destabilizator și ar putea fi de fapt bun, ceea ce speră mulți oameni entuziasmați. Lucrez pentru a încerca să fac ca lucrurile să meargă mai bine, dar este un risc foarte mare, iar civilizația umană, în ansamblu, pășește somnambulic în această tranziție”, continuă el.

Luna aceasta, Institutul pentru Securitatea AI al guvernului britanic (AISI) a declarat că abilitățile modelelor AI avansate se „îmbunătățesc rapid” în toate domeniile, iar performanța în unele arii se dublează la fiecare opt luni.

Potrivit institutului, modelele de top pot finaliza acum sarcini de nivel de ucenic în proporție de 50% din timp, în medie, față de aproximativ 10% din timp anul trecut. AISI a mai constatat că cele mai avansate sisteme pot finaliza autonom sarcini care i-ar lua unui expert uman peste o oră.

Institutul a testat, de asemenea, modele avansate pentru auto-replicare, o preocupare majoră de siguranță deoarece presupune ca un sistem să își răspândească copii pe alte dispozitive și să devină mai greu de controlat. Testele au arătat că două modele de ultimă generație au obținut rate de succes de peste 60%.

Cu toate acestea, AISI a subliniat că un scenariu de tipul celui mai rău caz este puțin probabil într-un mediu cotidian, afirmând că orice tentativă de auto-replicare este „puțin probabil să reușească în condiții reale”.

Dalrymple crede că sistemele AI vor fi capabile să automatizeze echivalentul unei zile întregi de muncă în cercetare și dezvoltare până la sfârșitul anului 2026, ceea ce va „duce la o accelerare suplimentară a capacităților”, deoarece tehnologia va putea să se auto-îmbunătățească în elementele de matematică și informatică ale dezvoltării AI.