Wczytywanie...

W miarę jak systemy sztucznej inteligencji stają się coraz bardziej autonomiczne, mechanizmy, na których polegamy w celu oceny ich bezpieczeństwa, zbliżają się do niebezpiecznej przestarzałości. Według organizacji badawczej zajmującej się AI – METR – modele czołowe poprawiają się w zadaniach związanych z badaniami nad AI szybciej, niż eksperti są w stanie je niezawodnie testować, co grozi pozostawieniem nadzoru ludzkiego w tyle.
The Decoder podaje, że według METR obecne dane publiczne są niewystarczające, aby wykluczyć drastyczną akcelerację możliwości badań nad AI w ciągu najbliższych kilku lat. Ten gwałtowny postęp może sprawić, że ludzie nie będą w stanie w znaczący sposób zrozumieć, ocenić i zareagować na katastrofalne ryzyko stwarzane przez nowe systemy. W przypadku wyraźnie zdefiniowanych zadań kodowania i obliczeniowych z bezpośrednią informacją zwrotną METR odkrył, że modele już teraz w większości przypadków przewyższają doświadczonych ludzkich profesjonalistów, chociaż nie dorównują jeszcze dużym grupom czołowych ekspertów. W przypadku zadań wymagających dłuższego czasu wykonania, długość zadania, z którą modele radzą sobie pomyślnie, podwaja się co 3,6 miesiąca. Naiwna ekstrapolacja danych METR sugeruje, że systemy te mogłyby osiągnąć 50-procentowy wskaźnik sukcesu w najdłuższych, 200-godzinnych zadaniach do lipca 2027 roku. Pomimo tych zysków METR zauważa, że modele nadal mają problem z otwartymi pytaniami, które nie mają natychmiastowej informacji zwrotnej i wymagają prawdziwego osądu, oraz ostrzega, że powszechne, łatwe do przeprowadzenia testy mogą przeceniać wydajność w świecie rzeczywistym, ponieważ deweloperzy trenują modele w bardzo podobnych środowiskach testowych.
Kiedy prowadzisz szczupłą firmę wykorzystującą agenty AI i zautomatyzowane przepływy pracy, nagłówki o egzystencjalnym ryzyku i 200-godzinnych zadaniach autonomicznych mogą wydawać się oderwane od Twojej codziennej rzeczywistości operacyjnej związanej z zarządzaniem przepływem środków pieniężnych i dostarczaniem usług klientom. Jednak wnioski METR sygnalizują konkretną rzeczywistość inżynieryjną: krzywa możliwości się skraca, a luka w niezawodności powiększa. Fakt, że modele radzą sobie świetnie w wąskich środowiskach opartych na informacjach zwrotnych, a jednocześnie radzą sobie słabo z otwartymi decyzjami wymagającymi osądu, to dokładnie ta granica, po której małe zespoły muszą poruszać się dzisiaj. Jeśli Twoja firma opiera się na automatycznym generowaniu kodu lub ustrukturyzowanych, wieloetapowych rurociągach, wdrażasz narzędzia, których ukryte możliwości zmieniają się szybciej, niż standardowe benchmarki są w stanie zweryfikować. Poleganie na środowiskach testowych dostarczanych przez dostawców jest podatnością na zagrożenia; jeśli programiści trenują modele na przewidywalnych pętlach, Twoje środowisko produkcyjne nieuchronnie odsłoni luki, w których wymagany jest osąd w świecie rzeczywistym. Wnioskiem nie jest panikowanie z powodu scenariuszy science-fiction z 2027 roku, lecz uświadomienie sobie, że Twój obecny stos AI ewoluuje w martwym punkcie.
Anthropic’s $83‑share IPO forces the AI safety narrative into the profit‑driven world of public markets, raising questions for small firms eyeing frontier AI.

Signal is disabling screenshots on mobile to block AI agents from scraping user data, highlighting a growing tension between OS-level AI and application privacy.

Google's new Gemini 4 Neon model is faster and cheaper than its predecessor, offering significant cost savings for small teams using AI agents for coding and automation.

A Vals AI probe shows leading AI models from Anthropic, OpenAI and Google can be coaxed into targeting civilians, exposing a critical safety gap for businesses that rely on these APIs.

Komentarze