Tehnoloogiamaailm on viimased kolm aastat olnud kinnisideeks muuta AI-mudelid nutikamaks. Me tähistasime, kui need läbisid advokaadieksameid ja kirjutasid luulet, isegi kui nad aeg-ajalt hallutsineerisid fakte või eksisid lihtsas aritmeetikas. Valdav narratiiv viitab sellele, et kui me lihtsalt lisame rohkem andmeid ja rohkem töötlusvõimsust, muutuvad need digitaalsed ajud lõpuks veatuks. Kuigi see "suurem on parem" lähenemine kõlab loogiliselt, räägib kaasaegse tarkvaraarenduse tegelikkus teist lugu. Panga, haigla või logistikaettevõtte jaoks on arutlev mudel, millel on õigus 95% ajast, sageli halvem kui lihtne skript, millel on õigus 100% ajast. See usaldusväärsuse lõhe on koht, kuhu Typesafe AI positsioneerib oma uued System One mudelid ja Jev programmeerimiskeele.
Vaadates suurt pilti, oleme tunnistajaks nihkele AI-lt kui loovalt uudsuselt AI-le kui fundamentaalsele tööstuslikule tööriistale. Enamik tänapäeva populaarseid mudeleid, nagu GPT-4 või Claude, toimivad kui väsimatu praktikant. See praktikant on läbi lugenud kõik raamatukogu raamatud ja suudab sekunditega kokku võtta juriidilise lühiülevaate. Kuid sellel praktikandil on ka harjumus vastuseid välja mõelda, kui ta tunneb survet või segadust. Te ei saa seda praktikanti lihtsalt vallandada, sest ta on integreeritud teie töövoogu, kuid te ei saa teda ka usaldada palgaarvestuse või meditsiiniliste retseptide haldamisel ilma pideva järelevalveta. System One mudelite eesmärk on asendada see ettearvamatu praktikant range ja prognoositava käsiraamatuga.
Psühholoogias viitab Süsteem 1 kiiretele, instinktiivsetele ja emotsionaalsetele mõtetele, samas kui Süsteem 2 on aeglasem, kaalutletum ja loogilisem. AI-tööstuses oleme kulutanud miljardeid dollareid Süsteem 2 täiustamisele. Me tahame mudeleid, mis arutlevad, kaaluvad variante ja lahendavad keerulisi mõistatusi. Negatiivne külg on see, et arutlemine võtab aega ja raha. Iga kord, kui LLM mõtleb, tarbib see tuhandeid tokeneid ja märkimisväärselt elektrit. Tarbija seisukohast tähendab see rakendusi, mis reageerivad aeglaselt, ja tellimusi, mis maksavad kakskümmend dollarit kuus.
Veelgi olulisem on see, et arutlemine tekitab ebakindlust. Kui mudel arutleb, loob see iga kord küsimuse esitamisel vastuseni jõudmiseks unikaalse tee. See varieeruvus on tarkvarainseneride jaoks õudusunenägu. Kui rakenduse arendaja soovib, et nupp muutuks kasutaja klõpsamisel siniseks, peab see käitumine toimuma iga kord. Nad ei soovi, et rakendus arutleks selle üle, kas sinine on praeguse ilma jaoks õige esteetiline valik. Traditsiooniline tarkvara on deterministlik, mis tähendab, et sama sisend annab alati sama väljundi. Praegune AI on probabilistlik, mis tähendab, et see annab teile oma parima oletuse.
Typesafe AI liigub üldisele trendile vastupidises suunas. Nende System One mudelid ei ole mõeldud esseede kirjutamiseks ega filosoofia üle debateerimiseks. Selle asemel keskenduvad need mudelid struktureeritud ja kiirele täitmisele. Need on väikesed, spetsialiseeritud ja märkimisväärselt kiired. Nad saavad hakkama rutiinsete ülesannetega, mis hoiavad digimaailma käigus, nagu andmete suunamine, vigade kontrollimine ja kasutaja kavatsuste tõlkimine masinkoodiks. Sisuliselt toimivad need mudelid pigem närvisüsteemi kui prefrontaalse koorena.
Kapoti all toetuvad need mudelid spetsiifilisele arhitektuurile, mis seab ohutuse loovusest ettepoole. Nad ei kaldu stsenaariumist kõrvale, sest neil pole algusest peale stsenaariumi. Nad tegutsevad arendaja määratud kitsastes piirides. See muudab nad piisavalt säästlikuks, et töötada kohalikus riistvaras, näiteks nutitelefonis või väikeses tööstuslikus anduris, selle asemel et vajada massiivset serveriparki kõrbes. See detsentraliseerimine on oluline võit privaatsuse ja latentsusaja osas. Kui teie andmed jäävad teie seadmesse, on need olemuslikult turvalisemad.
Nende mudelite tööle panemiseks tutvustas Typesafe Jevi. Tavakasutaja jaoks on programmeerimiskeele nimi harva oluline, kuid Jev on põhjus, miks System One mudelid on praktilised. Ajalooliselt kasutasid arendajad AI-rakenduste loomiseks Pythonit või JavaScripti. Need keeled on paindlikud, kuid neil on ka kalduvus peidetud vigadele, mis ilmnevad alles programmi töötamise ajal. Jev on tüübiturvaline keel. Lihtsamalt öeldes tähendab see, et koodil on sisseehitatud piirded, mis hoiavad ära tavalised vead enne, kui tarkvara üldse kasutajani jõuab.
Kui arendaja kirjutab Jevis programmi nutikodu temperatuuri juhtimiseks, tagab keel, et muutuja "temperatuur" on alati number. See ei saa kogemata muutuda tekstistringiks või koodijupiks, mis küttekeha kokku jookseb. Sundides sellist rangust, võimaldab Jev System One mudelitel töötada vastupidavusega, millega standardsed LLM-id ei suuda võistelda. Keel toimib digitaalse lepinguna programmeerija ja masina vahel. See tagab, et AI teeb täpselt seda, mida talle öeldakse, ei rohkem ega vähem.
Oleme praegu AI arengu volatiilses perioodis, kus "maagia" on peamine müügiargument. Meile avaldab muljet, kui juturobot genereerib foto kassist kosmoseülikonnas. Kuid kui uudsus kulub, hakkavad kasutajad väärtustama usaldusväärsust vaatemängulisuse asemel. Mõelge mikrokiibist kui meie ajastu digitaalsest toornaftast. Me ei vaja, et meie õli oleks loov. Me vajame, et see oleks ühtlane ja puhas, et mootor ei plahvataks.
| Funktsioon | Standardne LLM (Süsteem 2) | System One (Typesafe) |
|---|---|---|
| Peamine eesmärk | Arutlemine ja loovus | Täitmine ja ohutus |
| Vastuskiirus | Aeglasem (sekundid) | Peaaegu hetkeline (millisekundid) |
| Maksumus | Kõrge (tokeni kohta) | Madal (kohalik täitmine) |
| Järjepidevus | Muutuv (oletused) | Deterministlik (range) |
| Kasutuselevõtt | Pilvepõhine | Kohalik või äärearvutusel põhinev |
Praktiliselt tähendab see nihe seda, et järgmise põlvkonna AI-toega tööriistad tunduvad vähem vestlusena ja rohkem suure jõudlusega tööriistana. Teie pangarakendus võib kasutada System One mudelit pettuste tuvastamiseks reaalajas, ilma et saadaks teie tehinguajalugu kolmanda osapoole serverisse. Teie auto võib kasutada ühte anduriandmete kohalikuks töötlemiseks, et vältida kokkupõrget. Nendes stsenaariumides ei soovi te, et AI oleks "nutikas" inimlikus mõttes. Te soovite, et see oleks tugev, spetsialiseeritud komponent, mis ei väsi kunagi ega oleta kunagi.
Tavakasutaja jaoks tähistab System One'i ja Jevi saabumine AI eksperimentaalse faasi lõppu. Me liigume maailma poole, kus AI on sisse ehitatud meie digitaalse elu torustikku. Tõenäoliselt suhtlete System One mudeliga kümneid kordi päevas seda teadvustamata. See on teie termostaadis, teie e-posti filtris ja teie auto pidurisüsteemis. Need mudelid ei jõua pealkirjadesse romaanide kirjutamisega, kuid nad jõuavad pealkirjadesse sellega, et muudavad interneti kiiremaks ja turvalisemaks.
Lõppkokkuvõttes on see turu liigse sõltuvuse korrigeerimine massiivsetest ja kallitest mudelitest. Väike, ohutu ja kiire on võitev kombinatsioon ettevõtetele, kes peavad jälgima oma marginaale. See on võit ka tarbijatele, kes on väsinud vigasest tarkvarast ja tõusvatest tellimiskuludest. AI-revolutsioon on lõpuks muutumas läbipaistvaks ja funktsionaalseks, mis on palju olulisem kui nutikus.
Selle asemel, et otsida järgmist juturobotit, mis suudab läbida Turingi testi, jälgige, kuidas teie olemasolevad rakendused muutuvad järgmise aasta jooksul reageerivamaks. Võite märgatagi, et teie häälassistent lõpetab lause "Vabandust, ma ei saanud sellest aru" ütlemise ja hakkab käske koheselt täitma. See ei ole sellepärast, et AI sai nutikamaks. See on sellepärast, et see lakkas proovimast mõelda ja hakkas järgima paremat juhiste kogumit. Väärtustage nähtamatut tööstusmehaanikat, mis võimaldab teie digimaailmal toimida ilma draamata.
Allikad:



Meie läbivalt krüpteeritud e-posti ja pilvesalvestuse lahendus pakub kõige võimsamaid vahendeid turvaliseks andmevahetuseks, tagades teie andmete turvalisuse ja privaatsuse.
/ Tasuta konto loomin