TOVARNA UI

Ozadje projekta

Projekt SLAIF (Slovenian Artificial Inteligence Factory) – Slovenska tovarna umetne inteligence (UI) – in vložek v nabavo novega superračunalnika temelji na uspešni izvedbi projekta HPC RIVR, ki je bil podlaga za nabavo najzmogljivejšega superračunalnika HPC Vega v Sloveniji.

Obstoječi superračunalnik HPC Vega in SLING

HPC Vega je operativen vse od leta 2021, pričakuje pa se, da bo v uporabi vse do nabave novega superračunalnika v letu 2027. Vzdrževanje in upravljanje HPC Vega ter uporabniško podporo izvaja IZUM v sodelovanju s partnerji SLING (Slovensko nacionalno superračunalniško omrežje), predvsem z Institutom Jožef Stefan (IJS). SLING, v katerega so vse od leta 2018 naprej vključene vse večje organizacije, ki se ukvarjajo s področjem visokozmogljivega računalništva (HPC), bo prevzel podporo uporabnikom pri uporabi novega superračunalnika, ki bo namenjen razvoju rešitev in storitvam UI.

Zaradi izrednega uspeha in visoke izkoriščenosti superračunalnika HPC Vega tako s strani slovenskih raziskovalcev, kot tudi raziskovalcev iz Evrope, je Slovenija zaradi strokovne usposobljenosti in ekpertize vseh vpletenih pri razvoju, vzdrževanju in upravljanju superračunalnika pridobila zaupanje skupnega podjetja EuroHPC JU, ki je ustanovljeno in financirano neposredno s strani Evropske komisije, da IZUM ostane gostitelj novega superračunalnika in da poskrbi za prijavo slovenske tovarne UI.

Partnerji

Kompetence in sinergija desetih partnerjev projekta v konzorciju SLAIF so bile ključne pri ocenjevanju prijave na projekt. Konzorcij SLAIF bodo sestavljali IZUM, IJS, Arnes, Univerze v Ljubljani, Mariboru, Novi Gorici in na Primorskem, Fakulteta za informacijske študije iz Novega Mesta, Tehnološki park Ljubljana ter Gospodarska zbornica Slovenije.

Finančna podpora

Pri tem je ključnega pomena izredna podpora Ministrstva za visoko šolstvo, znanost in inovacije, ki financira IZUM in pokriva operativne stroške HPC Vega, kot tudi zagotovitev izdatnega dela finančnega vložka v projekt SLAIF, ki ga zagotavlja Ministrstvo za digitalno preobrazbo.

NOVI SUPERRAČUNALNIK

Novi superračunalnik bo nasledil obstoječi superračunalnik HPC Vega, ki pa bo vse do njegove umestitve uporabljen za izvedbo aktivnosti v okviru Slovenske tovarne UI. Predvideno je podaljšanje vzdrževanja HPC Vega vse do aprila leta 2026. Diskovni sistemi in strežniki za storitve HPC Vega se bodo vzdrževali še nekaj let, primerni pa bodo za shranjevanje velike količine znanstvenih podatkov in arhive.

Umestitev v novi podatkovni center

Novi superračunalnik bo umeščen v nov podatkovni center Arnesa na območju hidroelektrarne Mariborski otok. Projekt se je začel že v letu 2023, leto kasneje se je pridobila vsa dokumentacija, v letu 2025 pa se je začela gradnja, ki se bo predvidoma zaključila v drugi polovici leta 2026. Sredstva v višini okoli 14 milijonov EUR so zagotovljena iz Načrta za okrevanje in odpornost.

Časovnica in finančni okvir

Razpis za nabavo novega superračunalnika se bo pričel že v letu 2025, konec leta 2026 pa se bo pričela umestitev opreme iz nabave v prvi fazi v vrednosti okoli 44M EUR. Oprema v drugi fazi nabave v vrednosti okoli 32M EUR bo umeščena v letu 2029.

Upravljanje in razvoj na področju infrastrukture

Upravljanje, vzdrževanje in administracijo novega superračunalnika bo prevzel IZUM v sodelovanju za IJS in Arnesom v okviru konzorcija SLING, v katerem se bo izvajal tudi skupni tehnični in ekspertni razvoj na področju infrastrukture, ki bo optimizirana za podporo rešitvam UI in nudenje storitev tovarni UI.

Zmogljivost novega superračunalnika bo okoli 100 peta FLOPS, kar je okoli 16-krat več od zmogljivosti HPC Vega. Za potrebe UI bo zmogljivost okoli 10 eksa FLOPS v mešani preciznosti. Vseboval bo izredno zmogljiv diskovni sistem za aplikacije z intenzivnim branjem in shranjevanje podatkov s kapaciteto 10 PB, kar je 10-krat več kot na HPC Vega. Obenem bo imel zmogljivo shrambo kapacitete 100 PB, kar je 5-krat več kot na HPC Vega.

Novi superračunalnik bo vseboval naslednje elemente:

  • Računska particija s klasičnimi procesorji bo namenjena za obstoječe izračune HPC in pripravo podatkov za aplikacije za UI ter postprocesiranje podatkov.
  • Particija za intenzivno računanje na osnovi grafičnih pospeševalnikov (teh bo okoli 2000), ki bo namenjena predvsem intenzivnim obremenitvam aplikacij UI.
  • Zmogljiv diskovni sistem z dovolj kapacitete z nizko zakasnitvijo pri prenosu podatkov za najzahtevnejše aplikacije UI, kot so veliki jezikovni modeli.
  • Shramba večje kapacitete, ki temelji na tehnologiji Ceph, zagotavlja skupni datotečni sistem, shranjevanje blokov in objektov ter je opremljena s storitvami za izmenjavo podatkov z nacionalnimi in mednarodnimi podatkovnimi centri.
  • Particija za storitve in virtualizacijo je namenjena za upravljanje, spremljanje in povezovanje vseh elementov in omrežnih storitev superračunalnika.
  • Vozlišča za prijavo uporabnikov, ki so podobna vozliščem obeh particij.

Particija za storitve v oblaku, ki je primerna za poganjanje (sklepanje, inferenco) aplikacij UI in za katere koli druge dolgotrajne storitve za uporabnike

Skupna najvišja moč za vse elemente skupaj v obeh fazah je ocenjena na 4,4 MW, pričakovana povprečna moč pa je 3,1 MW pri 65 % konične zmogljivosti. Predviden strošek za električno energijo v sedmih letih je okoli 32 milijonov EUR, skupni operativni stroški pa so ocenjeni na 38 milijonov EUR za sedem let.

Sistem bo po možnosti uporabljal odprtokodno programsko opremo in rešitve, saj jih je mogoče zlahka prilagoditi posebnim zahtevam sistema. Za izpolnjevanje zahtev skupnosti UI in HPC mora biti sistemska arhitektura prilagodljiva in agilna. Viri za storitve v oblaku bodo dopolnili tradicionalno arhitekturo HPC z drugimi možnostmi platform kot storitev z namenom, da bi učinkovito obdelali podatkovno intenzivne naloge in inferenco oz. sklepanje aplikacij UI. Viri optimizirani za UI se bodo uporabljali za učenje in simulacijo modelov UI, pri čemer se bodo klasični procesorji za izpolnjevanje računskih zahtev dopolnjevali z grafičnimi procesorji ali drugimi pospeševalniki. Poleg tega bodo številni uporabniki potrebovali sistem za orkestracijo vsebnikov, kot je Kubernetes, da bi zagotovili skalabilne in upravljive namestitve aplikacij.

Namestitve in konfiguracije Kubernetes vključujejo vire v oblaku ali na infrastrukturi HPC, odvisno od potreb uporabnika in so zato vsestranske. Tehnologijo na osnovi vsebnikov Kubernetes bo uporabna za izvajanje uporabniških opravil na virih HPC in upravljanje storitev v oblaku, možno pa je izvajanje vsebnikov tudi na virtualnih instancah v oblaku. Namestitev neposredno na fizičnih strežnikih je primerna za neposredne dostope do strojnih virov, tako da praktično ni vpliva na zmogljivost. Poleg tega je Kubernetes mogoče uporabiti za uvajanje vsebniške nadzorne ravni oblaka, kar povečuje zapletenost vzdrževanja, vendar prinaša veliko prilagodljivosti pri uvajanju različnih nastavitev.

Delovne obremenitve aplikacij z UI običajno zahtevajo programabilen dostop do virov prek vmesnikov za programiranje aplikacij (API), kar olajša nemoteno integracijo in avtomatizacijo. Ta arhitektura bo podpirala vse večjo kompleksnost in razširjenost aplikacij UI ter zagotavljala fleksibilnost in učinkovitost pri uporabi virov.

Slovenska tovarna umetne inteligence – SLAIF

Razlog za lastno, slovensko tovarno UI je predvsem v tem, da ima Slovenija dolgo tradicijo na področju razvoja UI in superračunalništva. Slovenija že ima dobro raziskovalno bazo na področju UI, ki jo podpirajo institucije, kot so IJS, Univerza v Ljubljani in Univerza v Mariboru. Napredna javna raziskovalna in omrežna infrastruktura vključno s superračunalnikom Vega in omrežjem ARNES ter združenje v konzorciju SLING zagotavljajo trdne temelje, na katerih bo gradil SLAIF.

Jedro projekta je načrt in realizacija vključevanja podjetij in industrije za zagotavljanje konkurenčnosti slovenskih podjetij v hitro razvijajočem se digitalnem okolju in za spodbujanje sodelovanja med panogami, raziskovalnimi ustanovami in javnim sektorjem. Pri tem gre za popolno usklajenost s slovensko strategijo za zagonska podjetja.

Projekt je ovrednoten na 11,37 milijona EUR za tri leta s pričetkom v tretjem četrtletju leta 2025.

Ekosistem in faze projekta

Slovenija pa kljub svoji razvitosti na tem področju potrebuje namensko superračunalniško zmogljivost, optimizirano za UI, ki bi lahko izpolnila naraščajoče računske zahteve raziskav umetne inteligence, podprla industrijske aplikacije UI in omogočila razvoj modelov UI za splošne namene. SLAIF bo z uskladitvijo s pobudo EuroHPC AI Factories zagotovil, da bodo slovenska zagonska podjetja, mala in srednja podjetja ter raziskovalci na področju UI lahko izkoristila vrhunsko superračunalniško infrastrukturo in hkrati prispevala k širšemu evropskemu ekosistemu UI.

shema ekosistema Slaif

V središču ekosistema je novi superračunalnik, ki bo imel povezave do obstoječe infrastrukture in podatkovnih prostorov. Ključne bodo tudi povezave z ostalimi partnerju v drugih državah, s katerimi je predvideno tesno sodelovanje. 

Faze projekta

slika projektnih faz

Projektni pristop

Projektna shema

Ključni izzivi pri razvoju veščin

Grafikon ključni izzivi

Program usposabljanja Slovenske AI tovarne bo v prihodnosti usklajen s slovenskimi nacionalnimi strateškimi potrebami na področju umetne inteligence (UI) in bo naslavljal ključne izzive. Med ključnimi izzivi so vrzel v digitalnih spretnostih, nezadostna zastopanost na področju IKT, razlike med spoloma in nezadostno sodelovanje z gospodarstvom. Za naslavljanje teh izzivov bodo uvedeni celostni izobraževalni programi, pobude za izpopolnjevanje in prekvalifikacijo na področju UI ter spodbujanje poklicev na področju STEM in IKT. Slovenski program usposabljanja tovarne UI bo vključeval razvoj cevovodov nadarjenosti za UI, pobude za vseživljenjsko učenje na področju UI ter uporabo regionalnega pristopa k usposabljanju na področju UI.

Program usposabljanja Slovenske AI tovarne bo v prihodnosti ponujal celovit nabor pobud za razvoj veščin na področju umetne inteligence (UI). Vključeval bo razvoj nadarjenosti za UI z razširitvijo univerzitetnih učnih načrtov, integracijo izobraževanja o UI na različnih ravneh, praktičnim usposabljanjem in certifikacijo delovne sile. Pobuda za opolnomočenje MSP bo vključevala demistifikacijo UI za MSP, usposabljanje osredotočeno na MSP, individualno uvajanje in spremljanje potreb. Program bo izkoristil regionalno podporno mrežo z decentraliziranim središčem za usposabljanje o UI, sodelovanjem s tehnološkimi parki in inkubatorji ter čezmejnim sodelovanjem. Večstopenjski okvir za usposabljanje bo ponujal osnovno, napredno in sektorsko specifično usposabljanje ter vseživljenjsko učenje in prekvalifikacijo. Specifični programi usposabljanja bodo vključevali usposabljanje administratorjev, delavnice za MSP, programe za učitelje, sodelovanje javne uprave ter sodelovanje raziskovalcev, akademikov in študentov.

Grafikon vrste uporabnikov

Program usposabljanja Slovenske AI tovarne bo v prihodnosti ponujal celovit nabor pobud za različne tipe uporabnikov na začetni, srednji in napredni ravni. Vključeval bo razvoj nadarjenosti za UI z razširitvijo univerzitetnih učnih načrtov, praktičnim usposabljanjem in certifikacijo delovne sile, opolnomočenje MSP z usposabljanjem osredotočenim na MSP, individualnim uvajanjem in spremljanjem potreb, ter regionalno podporo z decentraliziranim usposabljanjem, sodelovanjem s tehnološkimi parki in čezmejnim sodelovanjem. Večstopenjski okvir za usposabljanje bo ponujal osnovno, napredno in sektorsko specifično usposabljanje ter vseživljenjsko učenje in prekvalifikacijo, specifični programi pa bodo vključevali usposabljanje administratorjev, delavnice za MSP, vrstniško učenje ter sodelovanje javne uprave, raziskovalcev, akademikov in študentov.

Sodelovanje in podpora podjetij

Tovarna UI predvideva tesno sodelovanje z Nacionalnim kompetenčnim centrom EuroCC SLING in centri odličnosti EuroHPC ter čezmejno sodelovanje. Na državni ravni se bo Slovenija povezovala z Avstrijo (Advanced Computing Austria ACA GMBH), Hrvaško (Ministrstvo za pravosodje, javno upravo in digitalno preobrazbo), Italijo (CINECA), Srbijo (Urad za informacijske tehnologije in e-upravo), Bosno in Hercegovino (Raziskovalni inštitut Verlab za biomedicinsko inženirstvo, medicinske naprave in umetno inteligenco v imenu NCC BIH).

SLAIF si je zagotovil močno podporo vodstvenega kadra industrije v ključnih sektorjih, kar kaže na razširjeno povpraševanje po preobrazbi UI v Sloveniji. Tako smo pridobili podporo podjetij Telekom Slovenije, Mikrografija, Špica, Novartis, Siemens, DOMEL, IGEA, Medius, SRC, SRC Infonet, ELES, Operato, TPV Automotive, Alcad, Cosylab, Genialis, Sensum, Better. Vključenost SLAIF v evropska omrežja HPC in UI se bo okrepilo s partnerstvi z evropskimi podatkovnimi prostori in pobudami, kot so ALT-EDIC, ELIXIR SI, CLARIN ERIC, Slovenska skupnost odprte znanosti, DIH Agrifood in SRIP PMIS.