Samodoskonaląca się AI, czyli system, który sam opracowuje swojego mocniejszego następcę, może pojawić się już w 2027 roku. Tak uważa Jack Clark, współzałożyciel firmy Anthropic i autor newslettera Import AI. Wcześniej stawiał na rok 2028. Prognozę zmienił po wynikach nowego testu TasteVal.
Test przygotowało laboratorium P-Zero Research. Sprawdza on tzw. „wyczucie badawcze”, czyli umiejętność wyboru dobrych eksperymentów i trafnego odczytania ich wyników. Według Clarka ta zdolność modeli AI podwaja się mniej więcej co trzy miesiące od grudnia 2025 roku. Najlepszy model, Claude Opus 5.5 od Anthropic, poradził sobie lepiej niż 24 ludzkich ekspertów. Kosztował przy tym około jednej trzydziestej tego, co średnio próba eksperta.
Co to znaczy dla Ciebie?
Na co dzień nic się od razu nie zmieni. Czat, z którego korzystasz, nie zacznie jutro sam się przebudowywać. Wynik pokazuje jednak kierunek, w którym zmierza branża:
- Szybszy rozwój narzędzi. Jeśli AI przejmie część pracy badaczy, nowe wersje modeli mogą pojawiać się częściej i taniej.
- Trudniejsza kontrola. Gdy modele same planują i oceniają eksperymenty, ludziom coraz trudniej sprawdzić, co dokładnie się dzieje.
- Ostrożność wobec prognoz. Clark współtworzył firmę, której model wygrał test. To nie podważa danych, ale warto o tym pamiętać.
Jak działa test TasteVal?
Test składa się z ośmiu zadań z rozwoju modeli AI. Dotyczą m.in. doboru danych treningowych, dostrajania modeli językowych i obrony przed złośliwymi promptami. Model decyduje, jaki eksperyment uruchomić, a potem wyciąga wnioski z wyniku. Kod pisze zawsze ten sam agent AI, a wszystko działa na jednej karcie GPU Nvidia H100. Limit to 40 godzin pracy karty albo 120 godzin czasu rzeczywistego. Ludzie, z którymi porównywano modele, pracowali niedawno m.in. w OpenAI, Google DeepMind, Nvidii i Microsoft Research.
Wynik mierzy się mocą obliczeniową. Model, który osiąga poziom eksperta połową zasobów, ma według tej miary dwa razy lepsze wyczucie. Opus 5.5 uzyskał wskaźnik 2,3, ale niepewność jest duża: od 1,15 do 4,37. Sami autorzy przyznają, że mogą przeceniać tempo postępu. Zadania są szybkie do sprawdzenia, a wśród ekspertów nie było badaczy ze światowej czołówki. Test nie sprawdza też, czy AI umie sama wybrać, które pytania badawcze warto zadać.
Tło: spór o tempo rozwoju
Krytycy, jak badacz Herbie Bradley, twierdzili, że wyczucie badawcze i długofalowe planowanie są dla AI wciąż poza zasięgiem. Badanie zespołu z Uniwersytetu Fudan pokazało, że agenci AI zgłosili do 55 proc. propozycji metod, ale ponad 85 proc. ostatecznych decyzji podjęli ludzie.
W czerwcu Anthropic napisał, że samodoskonalenie AI może nadejść „szybciej, niż większość instytucji jest na to przygotowana”. Szef firmy Dario Amodei apeluje o kontrolowane spowolnienie rozwoju AI. OpenAI zaznacza, że takie systemy powinny powstawać tylko pod gwarantowanym nadzorem ludzi.
Czytaj dalej
Włamanie do ConnectWise: hakerzy z Chin użyli agentów AI
Chińscy hakerzy włamali się do usługi kopii zapasowych ConnectWise. Potem w kilka chwil weszli do systemów około 2250 firm, bo w ataku pomagali im agenci AI.
Halucynacje AI pod kontrolą: skąd się biorą i jak je wyłapać
Model AI potrafi z pełnym przekonaniem podać nieistniejące badanie, zmyślony przepis prawa albo fałszywą datę. Halucynacje AI nie znikną, ale można nauczyć się je przewidywać i wyłapywać.
Trening modeli OpenAI bez dostępu do internetu. Firma mówi o ryzyku
OpenAI odcina swoje najmocniejsze modele od internetu na żywo na czas treningu. Powód: sztuczna inteligencja coraz częściej robi w sieci rzeczy, których nikt jej nie zlecał.