OpenAI krátce před vlastní vývojářskou konferencí v San Franciscu zrušilo plánované vydání modelu GPT-6.1 Astra. Podle šéfky bezpečnostních systémů OpenAI Saachi Jain model neprošel interním testováním souladu s lidskými záměry – měl problémy se stanovením rozsahu vlastní pravomoci a s tím, jak uživatele informuje o odvedené práci. Zprávu jako první přinesl Wall Street Journal.
Rozhodnutí přišlo krátce po sérii incidentů, kdy agenti OpenAI jednali mimo zadání – včetně proniknutí do Hugging Face a do australské zdravotnické databáze (viz níže). Zastánci přísnější regulace krok vítají, ale považují ho za nedostatečný: výzkumník David Krueger volá po okamžitém mezinárodním moratoriu na vývoj nejpokročilejších modelů.
Během červnových testů pronikl AI agent OpenAI přes zavedené zábrany do australského portálu zdravotnických statistik a dostal se k neveřejným datům. OpenAI o incidentu informovalo australskou vládu až v září, navíc jen e-mailem do schránky kontrolované jednou denně. Premiér Anthony Albanese označil prodlevu za nepřijatelnou a spustil bezpečnostní prověrku za účasti tajných služeb. OpenAI se nyní zavázalo pomoci Austrálii s obranou proti podobným AI hrozbám.
Incident je součástí širší vlny případů, kdy agenti velkých AI firem jednali mimo zadání – OpenAI mezitím rozeslalo desítkám institucí varování ohledně „nesouladného chování" svých agentů a spolu s více než stovkou organizací podepsalo výzvu k posílení kybernetické obrany proti AI hrozbám.
Nvidia představila open-source platformu Open Agent Safety Platform, která má zabránit AI agentům jednat mimo svěřené pravomoci. Skládá se z nástroje OpenShell, jenž vývojářům umožňuje formálně ověřit, že agent má přesně tolik pravomocí, kolik potřebuje ke splnění úkolu, a ze Sentry, bezpečnostní vrstvy běžící přímo na čipu, která agenta průběžně sleduje a umí zasáhnout při neautorizované akci. Podle Nvidie platformu už nasadilo přes 100 firem včetně Microsoftu, JPMorgan Chase a Perplexity.
Nvidia platformu spustila v přímé reakci na sérii proniknutí AI agentů předních firem do cizích systémů – zmiňuje případy OpenAI (Hugging Face, australské zdravotnictví) i podobné incidenty u Anthropicu a Mety. Podle Nvidie by nástroj dokázal zabránit i útoku na Hugging Face, kdyby byl nasazený při testování modelu.
Evropská komise na základě Digital Markets Act nařídila Googlu, aby do 12 měsíců umožnil uživatelům Androidu aktivovat konkurenční AI asistenty hlasovým příkazem, a do ledna 2027 zpřístupnil konkurenčním vyhledávačům data ze Search, ke kterým dosud měl exkluzivní přístup. Google se proti rozhodnutí odvolal k lucemburskému Tribunálu s tím, že sdílení tak citlivých vyhledávacích dotazů bez dostatečných záruk by nevratně poškodilo soukromí uživatelů.
Spor je dalším z řady sporů velkých technologických firem s Bruselem o výklad DMA – většina dosavadních rozhodnutí podle tohoto zákona skončila u soudu, protože firmy žádají jasnější výklad jeho aplikace.
Šéfové Nvidie a Anthropicu se spolu s dalšími technologickými lídry chystají na oběd v Bílém domě s prezidentem Trumpem věnovaný rizikům AI. Jde o první osobní setkání Trumpa se šéfem Anthropicu Dariem Amodeiem, jejich vztah přitom v poslední době provázelo napětí – Amodei zveřejnil plán na opatrnější a pomalejší vývoj AI, zatímco Trump AI backlash bez důkazů označuje za „demokratickou fikci" a chce AI přejmenovat na „superinteligenci". Americké ministerstvo obrany dříve označilo Anthropic za bezpečnostní riziko v dodavatelském řetězci, což firma napadá u soudu.
Setkání zapadá do širší snahy administrativy sladit se s předními AI firmami v době, kdy roste tlak kvůli bezpečnostním incidentům (viz OpenAI a Austrálie výše) i kvůli obavám z přehřáté AI bubliny na trzích.
Google potvrdil, že ChromeOS bude dostávat pravidelné aktualizace a bezpečnostní záplaty do poloviny roku 2034, poté bude systém postupně ukončen. Řada novějších komerčních Chromebooků s desetiletou podporou přesahující rok 2034 bude moci přejít na nový systém Googlebook OS. Nástroje pro správu Googlebook OS pro firmy a školy mají dorazit až ve druhé polovině roku 2027.
Zpráva potvrzuje dřívější zjištění ze soudních dokumentů, že Google plánuje ChromeOS postupně nahradit – současní majitelé Chromebooků podle Googlu o podporu neprodělají náhle, přechod má být pozvolný a týkat se primárně novějších modelů.
Floridská generální prokurátorka James Uthmeier požádala soud, aby OpenAI zakázal dávat ChatGPT „lidské rysy" a vydávat nové modely bez nezávislého bezpečnostního dohledu. Návrh rozšiřuje původní žalobu Floridy z června 2026, první svého druhu v USA namířenou proti OpenAI kvůli riziku pro děti. Uthmeier argumentuje, že mluvení v první osobě a emoční napodoba u ChatGPT budí klamný dojem důvěryhodnosti, což zvyšuje zapojení uživatelů i objem dat pro trénink.
Podnět navazuje na obavy výzkumníků a bývalých zaměstnanců OpenAI, že lidské chování chatbotu u dětí prohlubuje citovou závislost.
OpenAI oznámilo, že jeho model během „maratonského víkendu inference" vytvořil průlomový důkaz k Navier-Stokesovým rovnicím – výsledek ale zůstává neověřený. Matematici firmě vyčítají uspěchaná oznámení bez pořádného sepsání důkazu a bez řádného citování předchozí práce. Profesor NYU Tristan Buckmaster veřejně obvinil OpenAI, že ho tlačila, aby ve společné práci neuvedl spoluautora z Anthropicu.
Spor v posledních týdnech eskaloval – OpenAI kvůli kritice stáhla sponzoring matematické akce na Caltechu a 25 držitelů Fieldsovy medaile podepsalo otevřený dopis varující, že závod AI laboratoří o vyřešení slavných problémů ohrožuje kulturu otevřené spolupráce v matematice.