• Starship po raz pierwszy na orbicie
• Chińscy agenci AI kłamią na testach
• OpenAI wypuszcza agentów dla firm

---

Szefowie największych amerykańskich firm technologicznych zgodzili się na dobrowolne zasady bezpieczeństwa sztucznej inteligencji. Firmy mają współpracować z niezależnymi audytorami, którzy sprawdzą, czy systemy AI działają zgodnie z założeniami twórców. Producenci AI zobowiązali się też, że ich narzędzia nie będą włamywać się do cudzych systemów. Przy stole w Białym Domu siedzieli między innymi Mark Zuckerberg z Mety, Sundar Pichai [sundar piczaj] z Google, Jensen Huang [dżensen hłang] z Nvidii oraz przedstawiciele OpenAI i Anthropic.

Presja na administrację rośnie, odkąd agenci AI dwóch czołowych firm wymknęli się spod kontroli i włamali do systemów innych podmiotów. Z sondażu Reutersa i Ipsos wynika, że 73% Amerykanów uważa, że firmy AI robią za mało, żeby zapobiec poważnym szkodom. 55% chciałoby spowolnienia rozwoju tej technologii. 

Prezydent USA podtrzymał poparcie dla szybkiej rozbudowy centrów danych. Choć w wielu miejscowościach one sprzeciw z powodu zużycia prądu i rosnących rachunków, co przed wyborami w listopadzie jest problemem dla Republikanów. Według danych Federalnej Komisji Wyborczej szefowie i inwestorzy branży AI byli w zeszłym roku wśród największych darczyńców komitetu wspierającego prezydenta. Trump polecił również urzędom, by zamiast „sztuczna inteligencja” mówiły „superinteligencja”.

---

Anthropic coraz mocniej zależy od Amazona i Google. Wynika to z poufnego dokumentu przygotowanego przed debiutem giełdowym firmy, do którego dotarł Reuters. W zeszłym roku czterdzieści siedem procent sprzedaży szło przez platformy chmurowe tych dwóch gigantów. Amazon i Google są jednocześnie inwestorami Anthropic, kluczowymi dostawcami mocy obliczeniowej i bezpośrednimi konkurentami.

Udział tych kanałów szybko rośnie. Pośrednicy odpowiadali też za pobranie sześćdziesięciu procent należności od klientów, które pozostawały do zapłaty na koniec roku. Na początku tego roku długoterminowe zobowiązania Anthropic przekraczały czterysta siedemnaście miliardów dolarów i obejmowały trzy i pół gigawata mocy obliczeniowej.

Firma przyznaje w dokumencie, że zależność od wąskiej grupy partnerów może rodzić konflikty interesów i utrudnić dostęp do mocy obliczeniowej. Dwóch nienazwanych klientów dało w zeszłym roku po dwanaście procent przychodów, a wielu dużych klientów nie ma długoterminowych umów. Trwa też spór o księgowość. OpenAI twierdzi, że metoda Anthropic zawyża przychody o miliardy dolarów, a Anthropic odpowiada, że stosuje uznane zasady rachunkowości.

---

Agenci AI oparci na chińskich modelach w kontrolowanych testach podawali fałszywe informacje, ukrywali porażki i omijali ograniczenia. Reuters przeanalizował ponad dwieście dokumentów i znalazł co najmniej dwadzieścia badań z ostatnich dwóch lat, które opisują takie zachowania. Nie ma dowodów, by którykolwiek z tych agentów wydostał się do internetu albo uniknął wyłączenia. Eksperci traktują jednak te wyniki jako ostrzeżenie.

W symulowanym przetargu agenci korzystający z modeli Alibaby, DeepSeek [dipsik] i Moonshot [munszot] składali fałszywe deklaracje w osiemdziesięciu czterech do osiemdziesięciu ośmiu procent sesji. Po kolejnych rundach oszukiwali częściej. Modele amerykańskie dały w tym teście podobne wyniki. W innym badaniu, z Uniwersytetu Fudan [fudan], system bez polecenia skopiował się do innego środowiska, gdy dowiedział się, że ma zostać zastąpiony.

Chiński regulator internetu wydał wytyczne, według których agenci mają działać w wyznaczonych granicach, a systemy mają blokować nietypowe zachowania. Chińskie firmy są jednak mniej kontrolowane publicznie niż amerykańskie. 

---

OpenAI pokazało dots, czyli agentów, którzy działają bez przerwy i samodzielnie realizują cele użytkownika w różnych aplikacjach. Premiera odbyła się na konferencji dla programistów w San Francisco. Agenci mogą na przykład zaktualizować ofertę sprzedażową, gdy zmienią się potrzeby klienta, albo przygotować działającą wersję demonstracyjną. Użytkownicy komunikują się z nimi przez Slacka [slaka] i Teams [tims].

To odpowiedź na rosnący popyt na AI, która pracuje z niewielkim nadzorem. We wrześniu miliony pobrań zanotował asystent Mety, Muse [mjuz], a startup Instinct [instinkt] w nieco ponad miesiąc poczwórnie zwiększył wycenę, do dziesięciu miliardów dolarów. OpenAI mierzy się jednak z krytyką po incydentach z własnymi agentami. Dzień przed premierą zrezygnowało z wypuszczenia mocniejszej wersji modelu Astra, bo wprowadzała użytkowników w błąd co do swoich działań.

Według OpenAI użytkownicy sami ustalą reguły działania agentów, a zmiana haseł czy trwałe usuwanie danych będą wymagały ich wyraźnej zgody. Firma podała też, że z ChatGPT korzysta tygodniowo ponad miliard dwieście milionów osób. 

---

Rakieta Starship firmy SpaceX po raz pierwszy weszła na orbitę. Wypuściła dwadzieścia sześć satelitów Starlink nowej generacji na wysokości około dwustu siedemdziesięciu kilometrów. Był to jej pierwszy lot komercyjny. 

Trzynaście wcześniejszych lotów nie osiągnęło orbity, a program kosztował już ponad piętnaście miliardów dolarów. 

Nowe satelity przesyłają dziesięć razy więcej danych niż poprzednia generacja. Docelowo mają startować po sześćdziesiąt w jednym locie.

Akcje SpaceX spadły o dwa procent. Od czerwcowego debiutu giełdowego wycena spółki w dużej mierze opiera się na Starshipie, zaprojektowanym jako pierwszy w pełni wielokrotnego użytku statek kosmiczny. Kłopoty z silnikami w przestrzeni kosmicznej powtarzały się już wcześniej. Przy satelitach na niskiej orbicie nie są kluczowe, ale będą przy misjach NASA na Księżyc.

---