Unustage haip massiivsest pilve-tehisintellektist — IBM soovib, et teie andmed jääksid koju

Tehnoloogiatööstus kulutab suurema osa ajast teie veenmisele, et tehisintellekt nõuab massiivseid, nähtamatuid superarvuteid, mis asuvad kauges kõrbes. See narratiiv viitab sellele, et kui soovite masinat mõtlema panna, peate rentima aega triljoni dollari suuruse korporatsiooni serveris. Selline ülesehitus sunnib iga päringu ja iga tundliku dokumendi rändama üle interneti, kus see asub kellegi teise riistvaral. IBM valib oma Granite 4.2 perekonna väljalaskmisega teise tee. Need mudelid ei ela kohustuslikus pilves; nad elavad teie riistvaral.

Granite 4.2 tähistab nihet kohaliku ja prognoositava arvutustöö suunas ettevõtetele ja arendajatele, kes on väsinud kõikuvatest API-kuludest ja privaatsusriskidest. Väljastades need avatud kaaludega (open-weight) mudelitena, võimaldab IBM kasutajatel alla laadida kogu paketi ja käitada seda oma serverites või isegi tipptasemel tööjaamades. See lähenemine kohtleb tehisintellekti vähem kui salapärast oraaklit ja rohkem kui väsimatut praktikanti, kes töötab eranditult teie kontori seinte vahel.

Tutvuge Granite 4.2 perekonnaga

Uus väljalase sisaldab kolme erinevat suurust: 3B, 8B ja 30B parameetrit. Suurte keelemudelite maailmas näitab parameetrite arv üldiselt digitaalse aju keerukust. 3B mudel on piisavalt väike, et töötada kaasaegses sülearvutis korraliku kiirusega. 8B mudel on praegune "magus punkt" enamiku arendajate jaoks, pakkudes tasakaalu intelligentsuse ja riistvaranõuete vahel. 30B mudel on raskekaallane, mis on mõeldud ettevõtte serveritele, mis peavad lahendama keerukaid ülesandeid suure täpsusega.

Kõik selle seeria mudelid kasutavad ainult dekoodriga (decoder-only) arhitektuuri. See on standardne disainivalik, mis keskendub mudeli võimele ennustada jada järgmist osa, mis ongi viis, kuidas need süsteemid teksti genereerivad. Oluline täiendus versioonis 4.2 on 128 000 märgi (token) suurune kontekstiaken. Võrdluseks: tavaline romaan on umbes 60 000 kuni 90 000 märki. Sellise suurusega kontekstiaken võimaldab mudelil lugeda ja meelde jätta terve tehnilise juhendi või massiivse koodibaasi ühe sessiooni jooksul.

Funktsionaalse päättlemise reaalsus

IBM kirjeldab Granite 4.2 mudelit kui päättlemisele (reasoning) keskendunud väljalaset. Tehnoloogiasektoris on päättlemine spetsiifiline termin, mis kirjeldab mudeli võimet kasutada mõtteahela (chain-of-thought) protsessi. See ei ole teadvus ega tõeline mõistmine. Selle asemel jagab mudel keerulise probleemi vaheetappideks ja kannab nende etappide tulemused edasi järgmisesse. See protsess imiteerib seda, kuidas inimene võib lahendada matemaatikaülesannet, näidates oma töökäiku paberil.

Tavakasutaja jaoks tähendab see keskendumine päättlemisele suuremat täpsust loogikamahukates ülesannetes. Kui palute tavalisel mudelil planeerida reisikava viie vastuolulise piiranguga, võib see ignoreerida neist kahte, et anda teile kiire vastus. Päättlemisele keskendunud mudel nagu Granite 4.2 kontrollib tõenäolisemalt iga piirangut teiste suhtes enne lõpliku vastuse andmist. Vastutasuks on kiirus. Need mudelid võtavad vastuse genereerimiseks sageli kauem aega, sest nad teevad kulisside taga rohkem matemaatilist rasket tööd. Päättlemismudeli kasutamine on nagu pedantse audiitori palkamine kiiresti rääkiva müügimehe asemel.

Agendi võimekused ja tööriistade kasutus

8B ja 30B variandid on läbinud spetsiaalse koolituse, et muutuda agentseks (agentic). See termin viitab tehisintellekti võimele tegutseda agendina, kes sooritab ülesandeid reaalmaailmas. Selle asemel, et lihtsalt teksti kirjutada, saavad need mudelid suhelda väliste tööriistadega. Nad saavad kasutada arvutiterminali, otsida veebist värsket teavet või käivitada koodijuppe vastuse kontrollimiseks.

IBM kasutas spetsiaalset tugevdusõppe plokki, et õpetada neile mudelitele, kuidas tööriistu tõhusalt kasutada. Kuigi väikseim 3B mudel saab tehniliselt tööriistu kasutada, puudub sellel spetsialiseeritud väljaõpe, mis on olemas selle suurematel õdedel-vendadel. See muudab 8B ja 30B mudelid eriti murranguliseks arendajatele, kes soovivad automatiseerida korduvaid digitaalseid ülesandeid. Agentne mudel saab vaadata tabelarvutusfaili, tuvastada puuduva andmepunkti, otsida veebist need andmed ja seejärel uuendada faili ilma inimese sekkumiseta. See muutus viib tehisintellekti passiivsest vestlusliidesest aktiivseks osalejaks töövoos.

Miks kohalik majutus on teie eelarvele oluline

Üks põhjapanevamaid põhjusi kohalike mudelite vaatamiseks on pilve hind. Ettevõtted nagu OpenAI ja Anthropic küsivad tasu märgi (token) kohta, mis on sisuliselt maks iga sõna eest, mida tehisintellekt loeb või kirjutab. Väikeettevõtte jaoks on need kulud kõikuvad ja raskesti prognoositavad. Kui konkreetne projekt nõuab äkki tehisintellektilt tuhandete dokumentide analüüsimist, võib kuuarve hüpata sadadelt tuhandetele dollaritele ilma hoiatamata.

Kohalikud mudelid muudavad finantsmatemaatikat. Kui olete riistvara omanik ja mudeli alla laadinud, on miljoni sõna genereerimise kulu vaid serveri käitamiseks kuluva elektri hind. See prognoositavus on peamine põhjus, miks IBM sihib ettevõtete turgu. Suured organisatsioonid eelistavad stabiilseid, fikseeritud kulusid eesliini pilveteenuse pakkujate kõikuvate hinnakujundusmudelite asemel. Kuu lõpus ei ole üllatustasusid, kui mudel töötab teie enda räni peal.

Mudeliruuteri esiletõus

Kuna mudelid nagu Granite 4.2 muutuvad kättesaadavamaks, kasutavad arendajad üha enam mudeliruutereid. Ruuter toimib nagu digitaalne liikluspolitseinik. Kui kasutaja esitab päringu, analüüsib ruuter, kui keeruline ülesanne on. Kui kasutaja küsib lihtsat kokkuvõtet, saadab ruuter ülesande pisikesele 3B mudelile, et säästa energiat ja aega. Kui kasutaja küsib keerukat arhitektuurilist ülevaadet, saadab ruuter selle 30B mudelile.

See kihiline lähenemine võimaldab organisatsioonidel tasakaalustada jõudlust ja tõhusust. See hoiab ära ressursi raiskamise, kus massiivset ja energiat näljast mudelit kasutatakse ülesande jaoks, millega väiksem mudel saaks hakkama poole ajaga. Kasutades Granite'i perekonda, saab arendaja luua sujuvama süsteemi, kus õige tööriist vastab alati tööle. See mudelite omavahel seotud ökosüsteem on muutumas professionaalsete tehisintellekti rakenduste standardiks.

Privaatsus ja tööstuse nähtamatu selgroog

Paljude tööstusharude jaoks on pilv regulatiivsete nõuete tõttu välistatud. Tervishoiuteenuse osutajad, advokaadibürood ja valitsuse lepingupartnerid käitlevad sageli andmeid, mis seaduslikult ei tohi nende turvatud võrkudest lahkuda. Nendes keskkondades on kohalikud suurkeelemudelid (LLM) ainus elujõuline tee edasi. Granite 4.2 pakub neile sektoritele võimalust kasutada kaasaegset tehisintellekti ilma privaatsusseadusi rikkumata või ärisaladusi paljastamata.

IBM on positsioneerinud end nende tööstusharude nähtamatu selgroo pakkujana. Nad ei aja taga kõige säravamaid pealkirju ega püüa luua vestlusrobotit, mis kirjutab luulet. Nende fookus on prognoositavatel, skaleeritavatel rakendustel, mis töötavad usaldusväärselt ettevõtte andmekeskuses. See pragmatism on vastus kasvavale skeptitsismile eesliini mudelite ümber käiva haibi suhtes, mis on sageli tõsiseks tööstuslikuks kasutamiseks liiga kallid või liiga läbipaistmatud.

Mida see teie jaoks tähendab

Kui olete üksikarendaja või tehnoloogiahuviline, on Granite 4.2 väljalaskmine signaal investeerida kohalikku riistvarasse. Tipptasemel tavakasutaja GPU-ga arvuti suudab nüüd käitada mudeleid, mis olid kunagi ainult uurimislaborite pärusmaa. Saate eksperimenteerida agentsete töövoogude ja suuremahulise andmeanalüüsiga, muretsemata märgi-põhiste API-tasude või andmete privaatsuse pärast.

Ettevõtte omaniku jaoks on see väljalase võimalus eemalduda pilvetellimuste aeglasest lekkest. See võimaldab teil luua sisemisi tööriistu, mis on vastupidavad interneti katkestustele ja välistele hinnatõusudele. Selle asemel, et oodata pilveteenuse pakkuja teenusetingimuste uuendamist, saate säilitada kontrolli oma digitaalse infrastruktuuri üle. Lõpptulemus on see, et tehisintellekt on muutumas kohalikuks kommunaalteenuseks, mitte kaugel asuvaks teenuseks. Oma digitaalsete harjumuste jälgimine täna võib paljastada, et paljusid ülesandeid, mida saadate pilve, saaks odavamalt ja turvalisemalt lahendada mudeliga, mis asub otse teie kõrval.

Allikad: IBM Research, Granite Model Documentation, IBM Newsroom.