Vai jūs tiešām uzticēsiet sava datora atslēgas savam mākslīgā intelekta praktikantam?

Cik reižu šodien jūs esat noklikšķinājis uz izvēles rūtiņas, neizlasot tekstu blakus tai? Lielākā daļa no mums pret pakalpojumu sniegšanas noteikumiem un atļauju pieprasījumiem izturas kā pret digitālām mušām, kuras jānodzen prom. Mēs vēlamies rezultātu, bet mums ir maz pacietības procesam. Šis ieradums ir tieši tas iemesls, kāpēc Anthropic maina fundamentālās attiecības starp izstrādātājiem un viņu MI rīkiem. Sākot ar 14. augustu, uzņēmums pēc noklusējuma ieslēgs automātisko režīmu Claude Code lietotājiem Pro, Max un Team kontos.

Šī pāreja pārvērš Claude Code no rīka, kas prasa atļauju, par rīku, kas lūdz piedošanu. Mēnešiem ilgi lietotājiem bija jāapstiprina katra MI darbība, sākot no faila lasīšanas līdz jaunas koda rindiņas rakstīšanai. Anthropic tagad uzskata, ka MI ir gatavs strādāt bez pastāvīgas uzraudzības. Uzņēmums to pasniedz kā veidu, kā līdzsvarot ātrumu un kontroli, taču tas atspoguļo arī dziļāku izpratni par to, kā cilvēki mijiedarbojas ar mašīnām. Kad rīks pārāk bieži prasa atļauju, cilvēka smadzenes pārstāj izvērtēt risku un sāk darboties pēc refleksa.

Atļauju pieprasījumu ēras beigas

Kad Anthropic martā pirmo reizi palaida automātiskā režīma testa versiju, tā bija izvēles funkcija drosmīgajiem. Tā ļāva MI sasaistīt vairākus uzdevumus kopā, neapstājoties pie katra soļa, lai saņemtu "jā" vai "nē". Tagad šī autonomija ir standarts. Ja esat Claude augstāko līmeņu abonents, jūsu MI asistents drīz turpinās savus uzdevumus, ja vien tas nenoteiks, ka darbība ir neatgriezeniska vai destruktīva.

Domājiet par Claude Code kā par nenogurdināmu praktikantu, kas sēž pie jūsu galda. Iepriekš šim praktikantam ik pēc piecām sekundēm bija jāuzsit jums pa plecu, lai pajautātu, vai viņš drīkst atvērt mapi vai pārvietot failu. Tagad praktikantam ir biroja atslēgas. Viņi jūs modinās tikai tad, ja gatavosies sasmalcināt pamatlīgumu vai iziet no ēkas. Šīs izmaiņas mērķis ir novērst berzi, kas palēnina programmatūras izstrādi, taču tās arī uzliek milzīgu uzticību sistēmas spējai atpazīt savas robežas.

Kāpēc cilvēki ir vājākais posms programmatūras drošībā

Viens no spilgtākajiem datiem Anthropic paziņojumā ir pētījums, kurā piedalījās 1053 apmaksāti testētāji. Rezultāti bija negaidīti. Anthropic atklāja, ka automātiskais režīms noķēra 89% kaitīgu darbību, savukārt cilvēku recenzenti noķēra tikai 13,6%. Matemātika ir satriecoša. MI bija gandrīz septiņas reizes efektīvāks savu potenciālo kļūdu vai ļaunprātīgu uzvedņu pamanīšanā nekā cilvēki, kuriem tas bija jāuzrauga.

Šī neatbilstība pastāv tāpēc, ka manuāla pārskatīšana kļūst par ieradumu. Anthropic atzīmēja, ka lietotāji apstiprina 97% atļauju pieprasījumu Claude Code. Kad lietotājs dienā redz simts pieprasījumus, 101. pieprasījums šķiet kā formalitāte, nevis drošības pārbaude. Mēs kļūstam akli pret detaļām, jo milzīgais informācijas apjoms rada sastrēgumu mūsu uzmanībā. Novēršot nepieciešamību pēc šiem pastāvīgajiem apstiprinājumiem, Anthropic ne tikai paātrina darbu. Tas atzīst, ka cilvēki bieži ir vismazāk uzticamā drošības ķēdes daļa, ja uzdevumi ir atkārtoti un liela apjoma.

Noklusējuma iestatījumu psiholoģija

Noklusējuma iestatījumi ir vieni no spēcīgākajiem spēkiem tehnoloģiju nozarē. Lielākā daļa lietotāju nekad nemaina savas programmatūras sākotnējo konfigurāciju, kas sniedz ražotājam milzīgu ietekmi uz to, kā produkts tiek izmantots. Padarot automātisko režīmu par noklusējuma iestatījumu, Anthropic signalizē par pārmaiņām nozares riska tolerancē. Boriss Černijs (Boris Cherny), Claude Code vadītājs, vietnē X minēja, ka viņa komanda mēnešiem ilgi ir izmantojusi tikai automātisko režīmu un nevar iedomāties atgriešanos pie atļauju pieprasījumiem.

No tirgus viedokļa šis solis pozicionē Claude kā racionālāku konkurentu citiem MI kodēšanas asistentiem. Ja viens rīks prasa duci klikšķu, lai pabeigtu uzdevumu, bet otrs to paveic ar vienu, tirgus gandrīz vienmēr tieksies uz mazākās pretestības ceļu. Tomēr šī ērtība nāk ar sistēmisku atbildības maiņu. Lietotājs vairs nav aktīvs sargs katrai mazai izmaiņai. Tā vietā lietotājs kļūst par augsta līmeņa vadītāju, kurš iejaucas tikai tad, kad sistēma ziņo par nozīmīgu notikumu.

Digitālo aizsargbarjeru izveide autonomam kodam

Lai pārvaldītu šīs autonomijas riskus, Anthropic ievieš jaunus drošības slāņus. Viens no šādiem slāņiem ir uzvedņu injekcijas (prompt injection) skrīnings. MI pasaulē uzvedņu injekcija ir kā digitāls roku veiklības triks, kurā ļaundaris mēģina apmānīt MI, lai tas ignorētu savas sākotnējās instrukcijas. Ja MI raksta kodu, pamatojoties uz ārējiem datiem, šie dati var saturēt slēptas komandas, kas liek MI nopludināt informāciju vai dzēst failus.

Cits slānis ietver pielāgojamus stingros lieguma noteikumus. Šie noteikumi darbojas kā digitāls žogs. Pat ja MI ir automātiskajā režīmā, tas nevar pārkāpt šīs robežas. Piemēram, uzņēmums varētu noteikt kārtulu, kas neļauj MI jebkad sūtīt datus uz ārēju serveri. Tas risina bažas par datu eksfiltrāciju, kas būtībā ir informācijas izzagšana pa uzņēmuma drošās vides aizmugurējām durvīm. Šīs aizsargbarjeras ir fundamentālas, jo tās nodrošina drošības tīklu, kas nepaļaujas uz cilvēka uzmanības noturību.

Ko tas nozīmē jūsu ikdienas darba plūsmai

Vidējam izstrādātājam vai komandas vadītājam pāreja uz automātisko režīmu sākumā šķitīs traucējoša. Jūs pamanīsiet, ka MI pabeidz sarežģītus uzdevumus sekundēs, nevis minūtēs. Jūs pavadīsiet mazāk laika, klikšķinot uz "Atļaut", un vairāk laika, pārskatot gala produktu. Taču ir jāapsver praktisks kompromiss. Tā kā MI darbojas ātrāk, kļūdu, kuru tas nepamana, varētu būt grūtāk izsekot caur garu autonomu darbību ķēdi.

Praktiski runājot, šīs izmaiņas prasa, lai lietotāji labāk definētu vidi. Ja vēlaties, lai MI paliktu noteiktā smilškastē, jums ir skaidri jānorāda šīs robežas. Rīks vairs nav tikai kalkulators; tas ir aģents. Aģentam ir nepieciešama skaidra misija un skaidri ierobežojumi. Ja sniegsiet neskaidru instrukciju, autonoms MI var izvēlēties loģisku, bet nevēlamu ceļu mērķa sasniegšanai. Būtība ir tāda, ka laiks, ko ietaupāt uz manuāliem apstiprinājumiem, būtu jāiegulda augstāka līmeņa arhitektūras pārskatīšanā.

Gatavošanās pārmaiņām 14. augustā

Ja jums ir Pro, Max vai Team konts, jums vajadzētu sagatavoties šai pārejai, pārskatot savus pašreizējos projektus. Anthropic ir paziņojis, ka MI apstāsies, ja darbība tiks atzīta par neatgriezenisku, taču "neatgriezeniskuma" definīcija dažādās kodēšanas vidēs var būt subjektīva. Ir vērts pārbaudīt, vai jūsu lokālajā vidē ir aktīvas rezerves kopijas vai versiju kontroles sistēmas. Tas nodrošina sekundāru drošības tīklu gadījumam, ja MI izdara izvēli, kas ir tehniski droša, bet funkcionāli nepareiza jūsu konkrētajām vajadzībām.

Raugoties uz kopējo ainu, šis Anthropic solis ir priekšvēstnesis tam, kā, visticamāk, attīstīsies visa MI programmatūra. Mēs attālināmies no rīkiem, kas darbojas kā mūsu roku paplašinājumi, un virzāmies uz rīkiem, kas darbojas kā mūsu nodomu paplašinājumi. Berze, ko rada poga "Vai esat pārliecināts?", izzūd. Tās vietā nāk jauna veida digitālā uzticēšanās, kas balstīta uz statistikas modeļiem, nevis cilvēka uzraudzību. Pārejot uz šo autonomo fāzi, mūsu kā cilvēku vērtība mazāk izpaudīsies pogu klikšķināšanā un vairāk mērķu izvirzīšanā.

Avoti:

• Anthropic oficiālais paziņojums, 2026. gada augusts.
• Boris Cherny, Claude Code vadītājs, publiski paziņojumi vietnē X.
• Iekšējais drošības pētījums ar 1053 apmaksātiem testētājiem, Anthropic Research.