Google przyspiesza rozwój własnych układów TPU | Future Intelligence #35

Miniony tydzień przesunął punkt ciężkości w technologii z surowej mocy obliczeniowej na to, kto ją posiada i jak trafia do użytkownika. Wąskie gardła i presja konkurencyjna pojawiają się przy tym poza samymi akceleratorami - w optyce, danych i tym, co nosi się na twarzy. Google rozszerzył ósmą generację swoich TPU o dwa systemy dostępne w 2027 roku i zwiększył tempo rozwoju własnych układów do czterech systemów rocznie. Samsung i Google otworzyły przedsprzedaż okularów Android XR w cenie od 395 dolarów, dostępnych w 30 wariantach oprawek. Microsoft naciska na Biały Dom, by powstrzymał planowany zakaz importu chińskich transceiverów optycznych - komponentów, bez których centra danych AI nie mogą działać.

Future Intelligence to ekskluzywny raport analityczny, publikowany raz w tygodniu i dostępny wyłącznie dla członków Bulios Black. Członkowie otrzymują go automatycznie w każdą niedzielę rano na e-mail - w pełnej wersji, z konkretnymi scenariuszami i implikacjami rynkowymi. Stały dostęp do raportu uzyskasz, dołączając do Bulios Black.

TPU 8tx i 8i Max: Google przyspieszył rozwój własnych układów do czterech systemów rocznie

9 listopada Google rozszerzył ósmą generację swoich jednostek przetwarzania tensorowego o dwa systemy - TPU 8tx do obliczeń poufnych oraz TPU 8i Max do zadań z bardzo długim kontekstem. Oba będą dostępne w 2027 roku i stanowią rozwinięcie kwietniowych TPU 8t i 8i.

Decydujące jest nie to, że pojawił się jeden układ, ale tempo. „Po raz pierwszy zaprezentowaliśmy cztery systemy TPU w ciągu jednego roku”, napisał Amin Vahdat, wiceprezes i główny technolog ds. AI i infrastruktury. Dotychczas dział wypuszczał jeden nowy procesor raz na dwa lata.

Co tak naprawdę zmieniają nowe systemy

Żaden z systemów nie jest nowym układem scalonym. Google rekonfigurował istniejącą ósmą generację zgodnie z powtarzającymi się prośbami klientów. Przyspieszenie cyklu wprowadzania produktów jest więc zaletą w zakresie integracji systemów, a nie produkcji - i właśnie dlatego można je powielać szybciej niż nowy projekt układu.

TPU 8i Max łączy dwa układy 8i w jednej obudowie: dwukrotnie większą moc obliczeniową, 768 MB SRAM na układzie oraz przepustowość HBM na poziomie 17,2 TB/s, czyli dwukrotnie większą niż w 8i. Pojemność HBM wzrasta do 384 GB, o około jedną trzecią, przy zachowaniu tej samej przestrzeni w szafie rack.

Kiedy dziesiątki agentów jednocześnie czytają całą bazę kodu lub wiele godzin nagrań wideo, wąskim gardłem przestają być obliczenia, a staje się nim przesyłanie danych między pamięcią a rdzeniami. Nazywa się to ścianą pamięci, a 8i Max rozwiązuje ten problem siłą - większą ilością krzemu i większą przepustowością na tej samej powierzchni.

TPU 8tx ma inny cel: przetwarzanie danych, które nie mogą opuścić chronionego środowiska, nawet podczas obliczeń. Jest przeznaczony dla agencji rządowych i regulowanych branż, korzysta z sieci Boardfly o niskich opóźnieniach z 8i, procesorów hosta AMD EPYC Turin i oferuje nawet dwukrotnie większą wydajność w zakresie opóźnień niż 8t.

Z narzędzia wewnętrznego do produktu rynkowego

Według Google z TPU korzysta dziś prawie 100 klientów - od laboratoriów prowadzących przełomowe badania, przez firmy handlowe i detalistów, po uniwersytety. Google dostarcza również kompletne systemy do centrów danych klientów i rozszerza dystrybucję przez partnerów, w tym Oracle i Crux AI.

Najważniejsze są dwa przykłady. Od 2027 roku Anthropic będzie mieć dostęp do około 3,5 gigawata mocy obliczeniowej opartej na TPU w ramach współpracy z Google i Broadcom, a Alphabet informuje, że Apple trenuje swoje modele bazowe na najnowszej generacji.

Argumentem silniejszym niż parametry jest ekonomia. SemiAnalysis szacuje, że całkowity koszt posiadania poprzedniej generacji jest nawet o 30 % niższy niż w przypadku GB200 i o 41 % niższy niż w przypadku GB300. Lepsza obsługa PyTorch dodatkowo obniża koszty migracji dla programistów przyzwyczajonych do konkurencyjnej platformy.

Kto płaci za przyspieszenie

Przyspieszenie cyklu ma swoją cenę. W trzecim kwartale Alphabet odnotował ujemne wolne przepływy pieniężne w wysokości 9,1 miliarda dolarów, podczas gdy przychody Google Cloud wyniosły 30,7 miliarda dolarów, a sprzedaż systemów TPU znacząco się do nich przyczyniła. Oba nowe systemy trafią na rynek dopiero w przyszłym roku.

Finansowanie przenosi się na rynek długu. Alphabet rozpoczął pierwszą w historii emisję obligacji denominowanych w dolarach hongkońskich i singapurskich, aby pozyskać równowartość około 3 miliardów dolarów; w przypadku transzy hongkońskiej początkowe wskazówki cenowe wynosiły około 4,6 % dla obligacji dwuletnich, 5 % dla pięcioletnich i 5,5 % dla dziesięcioletnich.

Produkcja również odczuwa popyt. TSMC odnotowało w październiku przychody w wysokości 586,89 miliarda NT$ (około 17,88 miliarda USD), o 59,7 % wyższe niż rok wcześniej i o 14,7 % wyższe niż we wrześniu. Zarówno TPU, jak i konkurencyjne GPU powstają w tych samych zakładach, więc zwiększanie wolumenu przez Google raczej podnosi popyt na $TSM, niż go przesuwa.

Rynek stopniowo uwzględniał tę zmianę w wycenach. Akcje $GOOG zamknęły się w dniu ogłoszenia wzrostem o 0,7 % do 286,01 dolara, największy ruch nastąpił w środę, gdy wzrosły o 2,0 % do 290,63, czwartek przyniósł wzrost o 1,6 % do 295,35, a piątek spadek o 1,0 % do 292,52. W całym tygodniu cena akcji wzrosła o 3,0 %.

Dla $NVDA nie oznacza to utraty klienta - Google Cloud planuje wdrożyć generację Rubin, a jednocześnie sprzedaje konkurencyjne układy. Zmiana polega na tym, że od 2027 roku najwięksi nabywcy mocy obliczeniowej będą mieli drugą pełnoprawną opcję, na czym skorzystają również $AVGO i $AMD.

Android XR w sprzedaży: Samsung wkracza na rynek okularów za 395 dolarów

12 listopada Samsung i Google otworzyły przedsprzedaż pierwszych okularów opartych na platformie Android XR. Kolekcja Intelligent Eyewear obejmuje trzy modele Warby Parker i sześć od Gentle Monster, łącznie w 30 wariantach oprawek. Sprzedaż rozpocznie się 10 grudnia w USA i Korei Południowej.