Anthropic v pátek večer narychlo vypnul přístup k modelům Fable 5 a Mythos 5 pro uživatele mimo USA poté, co od ministerstva obchodu dostal exportní příkaz omezující jejich dostupnost pro zahraniční subjekty. Spouštěčem bylo varování od Amazonu – CEO Andy Jassy podle zpráv upozornil vysoké představitele Trumpovy administrativy, že Fable 5 odhalil bezpečnostní chyby (potenciální jailbreak) ve čtyřech softwarových programech. Administrativa dala Anthropicu jen asi 90 minut na rozhodnutí, zda model opraví nebo stáhne, a firma zvolila blokaci přístupu pro zahraniční státní příslušníky jako nejrychlejší řešení. Anthropic ve svém prohlášení uvedl, že nesouhlasí s tím, že nález úzkého potenciálního jailbreaku je důvodem ke stažení komerčního modelu používaného stovkami milionů lidí. Přístup k ostatním modelům Anthropicu, včetně běžné řady Claude, omezením není dotčen. Jde podle dostupných zpráv o první případ, kdy federální vláda přímo zasáhla do dostupnosti veřejně nasazeného modelu od velké AI laboratoře.
Podle Axiosu a Fortune šlo o přímý dopad Amazonova testování, jehož výsledky se rychle dostaly až k Bílému domu a vedly k tlaku na okamžitý zákrok. Bloomberg potvrzuje, že jde formálně o omezení přístupu pro zahraniční státní příslušníky a firmy, nikoli o úplné zrušení modelů. TechCrunch dodává, že kauza vyvolala debatu i v Indii o tom, jak se připravit na podobné zásahy, a připomíná, že Anthropic na rozdíl od OpenAI nestaví vlastní datacentra a místo toho má smlouvu o výpočetním výkonu s xAI za 1,25 miliardy dolarů měsíčně.
Meta začala fakticky rozebírat loni oznámenou akvizici singapurského AI agentového startupu Manus za zhruba 2 miliardy dolarů. Čínský regulátor NDRC v dubnu nařídil transakci zvrátit s odkazem na porušení pravidel o exportu technologií a zahraničních investicích, protože klíčové technologie a tým Manusu mají čínský původ. Meta nyní přerušila sdílení dat mezi firmami, odřízla Manusu přístup ke svým interním systémům a zakázala vlastním zaměstnancům používat nástroje Manus pro interní práci. Zakladatelé Manusu se podle zpráv snaží sehnat až 1 miliardu dolarů od externích investorů, aby firmu od Meta odkoupili zpět za stejnou cenu, za jakou ji Meta pořídila. Případ ukazuje, že offshore registrace transakci nechránila před čínskou jurisdikcí, protože podstatná část technologie a lidí pochází z Číny.
Podle CNBC začala Čína akvizici prověřovat už koncem dubna, krátce po jejím oznámení, v rámci měsíce trvajícího regulatorního šetření. ppc.land popisuje odříznutí datového přístupu jako první konkrétní krok operačního rozdělení obou firem a upozorňuje, že jde o jeden z nejviditelnějších případů, kdy Peking zasáhl do americké AI akvizice. Případ je vnímán jako další signál zostřujícího se technologického soupeření USA a Číny v oblasti AI agentů.
Koalice generálních prokurátorů amerických států otevřela rozsáhlé vyšetřování OpenAI. Newyorský generální prokurátor zaslal firmě předvolání k vydání dokumentů týkajících se široké škály témat – reklamy, zapojení a udržení uživatelů, nakládání se zdravotními daty i přístupu k nezletilým a seniorům. Vyšetřování se týká také hlubokých modelů a interních firemních politik OpenAI. Mluvčí společnosti uvedl, že OpenAI s vyšetřováním spolupracuje. Jde o další právní problém pro IPO-bound OpenAI, kterou už dříve žaluje stát Florida za údajné zkreslování bezpečnosti ChatGPT a kde floridský generální prokurátor vede trestní vyšetřování souvislosti chatbota se střelbou na Florida State University.
Bloomberg a Yahoo Finance popisují vyšetřování jako koordinovaný postup hned několika států najednou, což zvyšuje tlak na OpenAI právě v období příprav na vstup na burzu. Cryptopolitan upozorňuje, že případné požadavky na úpravu produktu by mohly zasáhnout plánovaný harmonogram IPO. Engadget dodává širší kontext právních tlaků na OpenAI ze strany rodičů a státních úřadů kolem bezpečnosti chatbota pro nezletilé.
Google podal žalobu na čínskou kybernetickou síť Outsider Enterprise, která využívala AI nástroje včetně Gemini k tvorbě phishingových webů a podvodné infrastruktury. Podle FBI síť od července 2023 umožnila krádež zhruba 3,87 milionu kreditních karet a způsobila škody ve výši asi 1,9 miliardy dolarů. Skupina provozovala phishing jako službu, distribuovala hotové phishingové sady přes Telegram a je spojena s více než 9 000 falešnými weby a milionem podvodných URL adres. Gemini bylo zneužíváno k vytváření stránek imitujících Google, YouTube i vládní instituce jako americkou poštu USPS nebo newyorský systém mýtného E-ZPass. Google při zásahu spolupracoval s FBI a operátory AT&T, T-Mobile a Verizon a zároveň vyzývá k aktualizaci legislativy řešící AI-poháněné útoky.
Help Net Security a 9to5Google popisují případ jako jeden z dosud největších dokumentovaných zneužití generativní AI pro phishing v takovém měřítku. Cryptopolitan upozorňuje na paralelní akci FBI s názvem Operation Ghost Hook, při které byly zabaveny domény a zhruba 100 000 dolarů. OECD.AI zařadilo případ do své databáze incidentů spojených s AI jako příklad zneužití velkých jazykových modelů ke kyberkriminalitě.