A mesterséges intelligencia demokratizálása: Hogyan építi fel az IO.NET technológiai igazgatója a „GPU-k Airbnb-jét”

A mesterséges intelligencia fellendülése példátlan keresletet teremtett a GPU számítási teljesítménye iránt, de a hozzáférés továbbra is néhány nagyobb felhőszolgáltatónál koncentrálódik. Az IO.NET, egy decentralizált GPU-infrastruktúrára összpontosító startup célja, hogy megváltoztassa ezt a dinamikát azáltal, hogy létrehozza azt, amit vezetői "GPU-k Airbnb-jének" neveznek. Ebben az exkluzív interjúban Gaurav, az IO.NET technológiai igazgatója és a Binance korábbi műszaki vezetője megvitatja, hogyan épít a vállalat egy olyan platformot, amely demokratizálhatja az AI számítási erőforrásokhoz való hozzáférést, miközben a költségeket akár 75%-kal is csökkentheti a hagyományos szolgáltatókhoz képest.

Ishan : Üdvözöljük a Behind the Startup sorozatunkban. Kérlek, mesélj magadról, az utazásodról, és arról, hogy mi inspirált az IO.NET- hez való csatlakozásra?

Gaurav : Az utam meglehetősen egyszerű volt, szoftvermérnökként kezdtem Pune-ban. Több startupnál dolgoztam ott, mielőtt Bangalore-ba költöztem, ahol csatlakoztam a HP R&D-hez, és segítettem a nulláról felépíteni a hálózati fájlrendszerüket. Az Amazonnál dolgoztam az Android-alkalmazások, e-könyvek és Audible könyvek kiadói csatornáján. Ezután az eBay-re költöztem, majd egy nagy thaiföldi OTA-céget követtem, amely piacvezető volt Vietnamban, Szingapúrban és Malajziában a szálloda- és repülőjegy-foglalások terén.

Körülbelül 5-6 évet töltöttem a vezetői csapatukban, mielőtt csatlakoztam volna a Binance-hez, ahol egy méretezhető platform létrehozását vezettem a KYC-megfelelőség és a csalások felderítésére több mint félmilliárd felhasználó számára. Pályafutásom során különféle formákban dolgoztam a mesterséges intelligencia segítségével, és első kézből tapasztaltam, hogyan küzdenek az emberek a szükséges számítási erőforrásokhoz való hozzáféréssel.

Ishan : Meséljen az IO.NET- nél betöltött szerepéről, és milyen jövőt lát a decentralizált számítástechnikában a központosított architektúrához képest?

Gaurav : Technikai igazgatóként a fő szerepem egy méretezhető platform létrehozása, amely megkönnyíti a beszállítók számára a csatlakoztatást és a fogyasztók számára ezen erőforrások használatát. GPU-kkal kezdtük, de elképzelésünk ezen túlmutat.

Decentralizált megközelítésünk legfőbb előnye a skálázhatóság. A hagyományos adatközpontoknak jelentős kihívásokkal kell szembenézniük, amikor új régiókra terjeszkednek – helyet kell bérelniük, csapatokat kell bérelniük, berendezéseket rendelniük és karbantartást kell végezniük. Ez magas előzetes költségeket eredményez, amelyek végül a felhasználókra hárulnak. Decentralizált modellünk lehetővé teszi, hogy a meglévő infrastruktúra kihasználásával sokkal hatékonyabban skálázzuk.

Ishan : Hogyan működik az Ön üzleti modellje a központosított szállítókhoz, például az Azure-hoz képest, amelyek jelentős összegeket számítanak fel az AI-modell tárolásáért?

Gaurav : Az Uberhez hasonló modellt követünk – bár bárki készíthet hasonló szoftvert, előnyünk a kínálati oldali kapcsolatainkban rejlik. Csapatunk mély kapcsolatokat épített ki infrastruktúra-szolgáltatókkal világszerte, lehetővé téve számunkra, hogy versenyképes áron szerezzünk be GPU-kat. Áraink jellemzően 75%-kal alacsonyabbak, mint az Amazon és a Google.

Óradíjat és hosszabb távú, 6-9 hónapos vállalást egyaránt kínálunk. Felügyelt szolgáltatásokat is nyújtunk azon induló vállalkozások számára, amelyek az infrastruktúra kezelése helyett az alaptevékenységükre szeretnének összpontosítani.

Ishan : Milyen volt a húzás eddig?

Gaurav : A válasz erős volt. Nemrég teljesítettünk egy 1500 4090-es rendelést, és közel állunk ahhoz, hogy szerződést írjunk alá két ázsiai Web2-céggel, amelyek mindegyike több mint 200 millió felhasználóval rendelkezik. Míg kezdetben a kriptográfiai cégekre összpontosítottunk a hálózatunk miatt, egyre nagyobb érdeklődést tapasztalunk a hagyományos technológiai cégek részéről, amelyek költségmegtakarításra törekednek.

Ishan : El tudná magyarázni, hogyan működne egy decentralizált képzési architektúra? A decentralizáció akár a méretezhetőséget, akár a biztonságot érintheti, hogyan tudjuk ezt összeegyeztetni.

Gaurav : Attól függ, hogyan határozza meg a méretezhetőséget. Hadd illusztráljam egy példával az adatközponti üzletágból. Ha Ön adatközpont-szolgáltató Észak-Amerikában, és 1000 H100-ra van szükségem Szingapúrban, a hagyományos eljárás rendkívül nagy kihívást jelent. Helyet kell bérelnie, csapatot kell bérelnie, GPU-kat kell rendelnie, kezelnie kell a szállítást, a karbantartást és a beállítást. Ez jelentős előzetes költségeket és lassú piacra kerülési időt eredményez, ami végül a felhasználókra hárul.

Decentralizált modellünkben, mivel a készlet elosztott, nem nézünk szembe ezekkel a kihívásokkal. A kapacitás növelése olyan egyszerű, mint új szolgáltatók csatlakoztatása platformunkhoz. Ez hasonló ahhoz, ahogyan a szállodák elérhetősége működik – csak azért, mert a nagyobb láncok tele vannak, még nem jelenti azt, hogy nincsenek szobák a városban. Valójában jelentős GPU-kapacitás áll rendelkezésre, de senki sem épített „Airbnb-t GPU-khoz”, hogy hatékonyan összesítse ezt a készletet.

Ishan : Hogy helyesen értsem: ha van egy diák vagy játékos Bangalore-ban és egy amerikai cég tétlen GPU-kkal, akkor csatlakozhatnak az Ön platformján keresztül?

Gaurav : Pontosan. Valaki Thaiföldről vagy Indiából, aki egy adott modellt szeretne betanítani – legyen az LSTM vagy bármilyen más típus – használhatja ezeket a GPU-kat. Mivel ez egy bérleti alapú modell, gazdaságosabb, mint a hagyományos szolgáltatók.

Ishan : Mi a véleményed a mostani határmodellek közötti versenyről – a Llamától az OpenAI-n át az Anthropicig?

Gaurav : Ez jelenleg nagyrészt spekuláció. Az elmúlt néhány évben jelentős előrelépést tettünk az AI-képességek terén. Bár nem világos, hogy végül melyik cég vezeti majd a teret – akár egy Web3-lejátszó is lehet –, az azonban biztos, hogy a következő három évben óriási innovációval fogunk találkozni.

Ishan : Hogyan épül fel jelenleg az IO.NET irányítási modellje?

Gaurav : Jelenleg félig decentralizáltak vagyunk. Aktívan hallgatjuk közösségünket a heti AMA-kon keresztül, és megvalósítjuk visszajelzéseiket. Belső csapatunk hetente felülvizsgálja az összes felhasználói jegyet és kérést, hogy irányítsa fejlesztési prioritásainkat. Közösségi szerepvállalásunk elsősorban az X-en (korábban Twitteren), a Discordon és az AMA-n keresztül történik, több mint félmillió követővel a platformokon.

Ishan : Milyen technikai kihívásokkal kellett szembenéznie ennek a platformnak a fejlesztése során, mivel ez egy új koncepció, a meglévő decentralizált AI architektúrák nélkül?

Gaurav : Gyors skálázásunk lehetőségeket és kihívásokat is jelentett. Amikor csatlakoztam, a platformot 100 000 GPU-ra tervezték, de gyorsan milliókat kellett kezelnünk. Ez jelentős építészeti változtatásokat igényelt a biztonság, a stabilitás és a méretezhetőség érdekében. Az alapító felismerte, hogy tapasztalt vezetésre van szükség a skálázható platformok építésében, aminek köszönhetően felvettem, és lehetővé tette számomra, hogy tapasztalt szakemberekből álló csapatot hozzak létre olyan cégektől, mint az Amazon, a VMware és a legjobb AI-kutatók.

A kulcs az volt, hogy olyan emberek legyenek, akik korábban építettek hasonló méretezhető rendszereket. Összeállítottunk egy csapatot, amelyben gépi tanulással foglalkozó PhD-k és nagy technológiai cégek veteránjai vannak, akik mind ezen összetett technikai kihívások megoldására összpontosítottak, miközben megőrizték a platform decentralizált jellegét.

Ishan : Mesélj többet a csapat hátteréről, hogyan indult az út, mi volt az első ötlet, milyen fordulatok voltak a modellhez való eljutás előtt, és milyen jövőt lát az IO.NET számára a következő 1-2 évben.

Gaurav : Körülbelül hét hónapja csatlakoztam, nagyjából három-négy hónappal a cég alapítása után. Az első naptól kezdve a vízió az volt, hogy a DeFi és az AI platformok hibridjét hozzuk létre, hogy az építők modelleket készíthessenek. Amikor csatlakoztam, az alapítókkal egy kulcsfontosságú stratégiát követtünk el – olyasmit kellett kínálnunk, amit a versenytársak számára rendkívül nehéz lenne összehozni. A GPU versenyképes áron történő beszerzését azonosítottuk kulcsfontosságú megkülönböztető tényezőként.

Míg más kriptoplatformok hasonló árat kínálhatnak, küzdenek a méretekkel. Ha 1500 GPU-t kérsz tőlük, gyakran nem tudnak szállítani, mert üzleti modelljük nem igazán decentralizált. Még ha intelligens szerződéseket is kötnek, ha saját adatközpontjaik vannak, a méretezés rendkívüli kihívást jelent. Ugyanaz a probléma, amellyel az Azure is szembesül – nem állíthatja, hogy decentralizált csak azáltal, hogy intelligens szerződéseket ad hozzá a központosított infrastruktúrához.

Ishan : A szoftverfejlesztés mindig kihívást jelent. Milyen technikai problémákkal találkozott a platform fejlesztése során, amely valóban újszerű, mivel jelenleg nincsenek decentralizált AI architektúrák a GPU-tárhelyhez?

Gaurav : Érdekes kihívással kellett szembenéznünk a vártnál sokkal gyorsabb méretezéssel – ez üzleti szempontból jó probléma, de mérnöki szempontból bonyolult. Képzeld el, hogy 100 000 GPU számára építesz platformot, és hirtelen félmilliót vagy még többet kell kezelned. Az airdrops során a felhasználók tömeges beáramlásával és a potenciális Sybil-támadásokkal szembesültünk, miközben gyorsan bővültünk.

Biztonságos, stabil platform létrehozása, amely egyidejűleg 50-100 klasztert tudott kezelni szűk keresztmetszetek nélkül, miközben lehetővé tette a gyors, percenkénti 1000 GPU-val történő kiegészítést – ezek jelentős kihívások voltak. Az alapító felismerte, hogy bár fel tudja építeni a céget egy bizonyos szintre, ennek továbbviteléhez skálázható platformok és vállalkozások építésében tapasztalt emberekre van szükség.

Ezt tisztelem benne – elismerte ezt az igényt, és felhatalmazást adott a megfelelő csapat felépítésére. Tehetségeket hoztunk az Amazontól, a VMware-től és számos más vezető cégtől. Doktori fokozataink vannak gépi tanulásból, termékszakértőink a nagy technológiai cégektől – ezeket a háttereket webhelyünkön ellenőrizheti.

Az alapítók támogatták ezt a megközelítést, megértve, hogy a termék valódi vállalkozássá alakításához olyan emberekre van szükség, akik ezt korábban megtették. Az ő támogatásuk ebben az átalakulásban kulcsfontosságú volt sikerünk szempontjából.

Ne felejtsd el like-olni és megosztani a történetet!