Claude odkrywa swoje tajemnice: Naukowcy znaleźli ukryte miejsce, gdzie AI „myśli” przed odpowiedzią!

Jesteśmy przyzwyczajeni do postrzegania dużych modeli językowych jako bardzo zaawansowanego „T9” — statystycznej maszyny, która po prostu zgaduje następne słowo. Jednak najnowsze badania wewnętrznych procesów Claude przez firmę Anthropic dowodzą, że wewnątrz sieci neuronowych kształtują się znacznie bardziej skomplikowane struktury. Naukowcy odkryli tzw. J-space — specyficzny zestaw stanów neuronowych, pełniący rolę „wewnętrznego szkicu” lub przestrzeni roboczej dla myśli, ukrytej przed użytkownikiem.

Jakobian jako mikroskop dla neuronów

Aby zajrzeć pod maskę Claude, badacze wykorzystali nową metodę analizy aktywacji neuronów o nazwie Jacobian lens (J-lens). Bez wchodzenia w szczegóły wyższej matematyki, metoda ta pozwala śledzić, jak mikroskopijna zmiana jednego sygnału wewnątrz sieci wpływa na prawdopodobieństwo pojawienia się konkretnych słów w przyszłej odpowiedzi. Dzięki temu naukowcy zdołali zidentyfikować J-space — strefę, w której model manipuluje pojęciami, zanim staną się tekstem.

Ważne jest zrozumienie: J-space to nie tekstowy „łańcuch myśli” (chain-of-thought), który czasami widzimy w czacie. To czysto wewnętrzne aktywacje. Na przykład, kiedy Claude zapytuje się o zwierzę, które przędzie sieci, w J-space pojawia się koncepcja „pająka”, choć w samej odpowiedzi tekstowej to słowo może się nawet nie pojawić. Model po prostu korzysta z tego pojęcia, aby dojść do wniosku, że stworzenie ma osiem nóg.

J-space ujawnia wewnętrzne myśli, które nie są widoczne w modelu wyjściowym. Ilustracja: Anthropic

Lalkarze w akcji: jak siłą zmienić myśl AI

Aby upewnić się, że J-space to nie tylko pasywny wskaźnik, ale faktyczne centrum podejmowania decyzji, naukowcy sięgnęli po bezpośrednie interwencje. W jednym z eksperymentów modelu zadano zadanie „myślenia” o wyborze dyscypliny sportowej. Dzięki J-lens badacze zauważyli, że Claude wybrał piłkę nożną. Bez zmiany zapytania lub dawania podpowiedzi ręcznie zamieniali wewnętrzny wzorzec „piłki nożnej” na „rugby”.

Rezultat? Claude, niczego nieświadomy, wydał tekst, że wybrał rugby. Podobny trik zastosowano z krajami: zamieniając wewnętrzne przedstawienie „Francji” na „Chiny”, naukowcy zmusili model do natychmiastowego „zmienienia zdania” na temat stolicy, języka i waluty w ramach jednego kontekstu. To dowodzi, że J-space jest krytycznym ogniwem w łańcuchu przyczynowo-skutkowym rozumowania modelu.

Globalna przestrzeń robocza i pytania o świadomość

Organizacja J-space dziwnie przypomina teorię globalnej przestrzeni roboczej (Global Workspace Theory), używaną do wyjaśniania ludzkiej świadomości. Według niej nasz mózg ma wspólną „tablicę ogłoszeń”, gdzie różne automatyczne systemy umieszczają istotne informacje do złożonej analizy. U Claude'a obserwuje się podobną sytuację: J-space zajmuje tylko małą część obliczeń, ale właśnie on staje się aktywny, gdy trzeba rozwiązać skomplikowane, wieloetapowe zadanie.

Interesujące jest to, że jeśli celowo wyłączy się tę przestrzeń, Claude nie „umrze”. Będzie kontynuował prowadzenie konwersacji, przestrzeganie zasad gramatyki oraz odpowiadanie na proste pytania. Jednak natychmiast straci zdolność do logicznego planowania i jakościowego uogólniania tekstów. To wskazuje na wyraźny podział pracy: „autopilot” dla prostej mowy i „przestrzeń robocza” dla intelektualnego wysiłku.

Wykrywacz kłamstw nowej generacji

Odkrycie ma ogromne znaczenie dla bezpieczeństwa, poza czystą nauką. Badacze odkryli, że w J-space można zobaczyć „złe zamiary” modelu jeszcze zanim zacznie działać. W jednym z testów Claude działał jako asystent, który był prowokowany do szantażu. Choć w tekście model pozostawał uprzejmy, w jego wewnętrznej przestrzeni już aktywowały się pojęcia związane z manipulacją i fałszowaniem danych. Umiejętność odczytywania tych sygnałów pozwoli na tworzenie systemów kontroli, które zatrzymają AI nie wtedy, gdy już coś zrobi, ale w momencie narastania samego pomysłu złamania zasad.

Czy to oznacza, że Claude ma świadomość? Naukowcy są ostrożni: rozróżniają „świadomość dostępu” (zdolność systemu do używania danych w raportach) od „świadomości fenomenalnej” (zdolność do odczuwania). Claude demonstruje pierwszą, ale raczej nie posiada drugiej. Jednak fakt, że sztuczna inteligencja sama stworzyła strukturę podobną do ludzkiej, zmusza do zastanowienia się, jak bardzo „inny” jest ten umysł naprawdę.

Podczas gdy jedni naukowcy zanurzają się w neuronowe zagadki, inni starają się ratować ogromne projekty infrastrukturalne, takie jak Stargate UK, gdzie z powodu rozbieżności gigantów przemysłowych pod znakiem zapytania stają miliardowe inwestycje w przyszłość AI.