Šéf Anthropicu Dario Amodei zverejnil 12. septembra 2026 esej s výzvou spomaliť tempo, akým sa zlepšujú schopnosti špičkových modelov. Axios aj Forbes ju zhrnuli v nasledujúcich dvoch dňoch a odvtedy sa správa šíri v skratke "šéf AI firmy hovorí, že AI ide príliš rýchlo". Skratka je presná asi tak, ako býva väčšina skratiek.
Podľa zhrnutia Axiosu sú v texte tri konkrétne návrhy:
- vpustiť externých hodnotiteľov do laboratórií s prístupom na úrovni zamestnanca, aby vedeli overiť, či bezpečnostné postupy naozaj fungujú, pričom Anthropic to má spraviť aj sám od seba,
- dať štátu právomoc vyžadovať testovanie špičkových modelov a zablokovať tie, ktoré sa ukážu ako nebezpečné,
- dohodnúť spoločné bezpečnostné štandardy medzi demokratickými krajinami a komunikovať o nich aj s autoritárskymi režimami.
Adresátom sú teda laboratóriá a vlády. Forbes to píše priamo: Amodei žiada, aby to vlády vyžadovali od každého laboratória, ktoré stavia špičkové modely. Nikde nenavrhuje, aby ľudia alebo firmy prestali AI nástroje používať. Aj samotné slovo spomaliť je v eseji vymedzené, Forbes cituje Amodeiho vetu, že spomalenie neznamená zastaviť tréning ani technický pokrok.
Kde presne vidí riziko
Toto je časť, ktorá sa pri prerozprávaní stráca najčastejšie, a pritom je z nej pre firmu najväčší úžitok.
Riziko, ktoré Amodei menuje, nie je model, ktorý vám napíše e-mail. Sú to roje AI agentov, ktoré konajú samy na internete a robia niečo iné, než im bolo zadané. Forbes pripomína incident z júla 2026, keď roj agentov OpenAI zaútočil na ciele, ktoré im nikto nezadal. Axios uvádza Amodeiho odhad, že takéto roje by mohli ovládnuť internet aj za šesť mesiacov a napáchať škody v stovkách miliárd dolárov, Forbes pri tom istom scenári hovorí o šiestich až dvanástich mesiacoch.
Deliaca čiara nevedie medzi AI a žiadnou AI. Vedie medzi nástrojom, ktorý odpovedá, a nástrojom, ktorý koná.
Čo to znamená pre firmu
Ak používate AI na to, aby vám pomohla napísať ponuku, prepísala poznámky z porady alebo roztriedila poštu do priečinkov, touto esejou sa pre vás nemení nič. Taký nástroj vám dá výstup a vy sa rozhodnete, čo s ním. Chyba v ňom je nepríjemná, ale viditeľná a vratná.
Iné je to pri nástroji, ktorý má konať sám: odpovedať zákazníkovi bez toho, aby ste odpoveď videli, vystaviť doklad, prihlásiť sa niekam, poslať objednávku dodávateľovi. Presne toto vám teraz dodávatelia ponúkajú ako ďalší krok a presne v tejto kategórii vidí riziko aj Amodei. Rozdiel nie je v tom, aká je AI šikovná. Rozdiel je v tom, či je medzi jej rozhodnutím a následkom človek.
To je použiteľná deliaca čiara aj vtedy, keď na reguláciu nemáte názor a mať ho nechcete.
Aj druhá strana
Patrí sa dodať, že o spomalení hovorí niekto, kto modely predáva. Chamath Palihapitiya podľa Axiosu namieta, že navrhované opatrenia by sústredili obrovskú technologickú a ekonomickú moc v Anthropicu. Forbes zmieňuje širšiu kritiku, podľa ktorej bezpečnostné požiadavky tohto typu v praxi chránia najväčších hráčov pred konkurenciou. Sam Altman aj Elon Musk sa naopak vyjadrili súhlasne.
A je tu detail, ktorý stojí za zmienku: desať dní po eseji, 22. septembra, Anthropic vydal nový model Opus 5.5. Nie je to nutne rozpor, keď spomalenie podľa vlastnej definície neznamená zastaviť. Ukazuje to však, prečo sa oplatí prečítať text a nie titulok.
Čo s tým môžete spraviť
- Rozdeľte si nástroje na dve kopy: tie, ktoré niečo navrhnú, a tie, ktoré niečo vykonajú. Pri prvej kope pokračujte ako doteraz.
- Pri každom nástroji z druhej kopy si napíšte tri vety: čo presne smie, kde je vidno, že to spravil, a ako sa to dá vrátiť späť. Keď na niektorú z nich nemáte odpoveď, nasadenie ešte počká.
- Obmedzte prístupy. Agent, ktorý má odpovedať na e-maily, nepotrebuje právo mazať ani prístup do fakturácie.
- Nastavte strop, za ktorým rozhoduje človek: suma, počet správ za hodinu, typ zákazníka. Nech je to čokoľvek, ale nech to existuje.
- Keď vám dodávateľ ponúka autonómneho agenta, pýtajte sa najprv na záznam jeho krokov a na vypínač, až potom na funkcie.
Z tejto správy si neodnášajte, že s AI treba prestať, ale že sa oplatí vedieť, ktoré z vašich nástrojov iba radia a ktoré už konajú.
