Dario Amodei, dyrektor generalny Anthropic, powiedział w środę, że rządy nie mogą już traktować regulacji AI jako problemu do badania i że Stany Zjednoczone potrzebują wiążących wymogów bezpieczeństwa dla najpotężniejszych modeli AI.

W eseju zatytułowanym "Polityka w sprawie wykładniczego wzrostu AI" Amodei argumentuje, że wymogi przejrzystości nie są już wystarczające i wzywa do wiążących regulacji systemów AI granicznych.

„AI rozwija się w błyskawicznym tempie – w ciągu zaledwie czterech lat modele AI przeszły od zaledwie umiejętności napisania spójnej linii kodu do pisania większości kodu w wiodących firmach AI” – napisał Amodei.

Esej Amodeiego ukazuje się w momencie, gdy Anthropic rozszerza dostęp do Claude Mythos, wprowadzając we wtorek Mythos 5, swój ograniczony graniczny model AI przeznaczony dla organizacji cyberbezpieczeństwa i partnerów rządowych. Badacze, w tym UK’s AI Security Institute, odkryli, że może on autonomicznie przeprowadzać złożone ataki cybernetyczne.

Według Amodeiego, jego propozycja czerpie z ram regulacyjnych stosowanych przez Federalną Administrację Lotnictwa (FAA).

„Graniczne modele AI, podobnie jak samoloty, powinny podlegać testom technicznym i audytom, a ich wprowadzenie powinno być blokowane lub cofane jako zagrożenie dla bezpieczeństwa publicznego, jeśli nie spełniają wysokich standardów bezpieczeństwa” – napisał. „Jestem wdzięczny, że rozporządzenie wykonawcze administracji Trumpa stopniowo zmierza w kierunku większej roli rządu w AI, choć propozycja Anthropic zaleca jeszcze dalej idące działania.”

Zgodnie z propozycją Amodeiego, ramy regulacyjne wymagałyby obowiązkowych testów zaawansowanych modeli AI przeprowadzanych przez strony trzecie, uprawnień rządu do blokowania niebezpiecznych wdrożeń oraz wymogów, aby firmy zabezpieczały wagi modeli, przeprowadzały testy bezpieczeństwa i zgłaszały poważne incydenty. Wzywa on również rządy do przygotowania się na wypieranie miejsc pracy przez AI i postępy w rozwoju leków, ograniczenia nadzoru i autonomicznej broni w krajowym egzekwowaniu prawa oraz wzmocnienia współpracy między demokratycznymi narodami w zakresie krytycznych technologii AI.

„Po pierwsze, trwałe wypieranie miejsc pracy jest niepożądane i niebezpieczne, i powinniśmy zrobić wszystko, co w naszej mocy, aby je zminimalizować lub zapobiec, a nie je wywoływać” – napisał, wskazując na wcześniejsze przypadki, w których ostrzegał przed wypieraniem miejsc pracy. „Po drugie, każda odpowiedź na wypieranie miejsc pracy przez AI musi uwzględniać zarówno potrzebę zapewnienia wszystkim ekonomicznego bytu, jak i potrzebę, aby ludzie znajdowali sens, cel i sprawczość.”

Esej ukazał się również w tym samym tygodniu, w którym Anthropic uruchomił Claude Fable 5, publiczną wersję Claude Mythos 5, która przekierowuje pewne zapytania dotyczące cyberbezpieczeństwa, biologii, chemii i rozwoju AI do mniej zdolnego Claude Opus 4.8 jako zabezpieczenie przed niewłaściwym użyciem. Uruchomienie to spotkało się z krytyką ze strony deweloperów i badaczy z powodu wyższego zużycia tokenów przez Fable, obowiązkowych 30-dniowych wymagań dotyczących retencji danych oraz zabezpieczeń, które mogą ograniczyć możliwości modelu bez powiadamiania użytkowników.

Wezwanie Amodeiego do zmian polityki dotyczącej rozwoju AI pojawia się również w momencie, gdy Anthropic przygotowuje się do wejścia na giełdę. Na początku tego miesiąca firma złożyła dokumenty w Amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC) w celu przeprowadzenia pierwszej oferty publicznej (IPO) po pozyskaniu podobno 65 miliardów dolarów w rundzie Serii H przy wycenie wynoszącej 965 miliardów dolarów.

Podczas gdy Amodei przedstawił tę kwestię jako wyścig między postępem technologicznym a polityką publiczną, krytycy kwestionowali, czy wezwania do bardziej rygorystycznych regulacji AI faktycznie służą dobru publicznemu. W kwietniu, dyrektor generalny OpenAI, Sam Altman, oskarżył Anthropic o stosowanie „marketingu opartego na strachu” w celu promowania Claude Mythos, argumentując, że obawy dotyczące zaawansowanej AI mogą być wykorzystywane do uzasadniania koncentracji kontroli nad technologią w rękach niewielkiej liczby firm.

„Można to uzasadnić na wiele różnych sposobów, a niektóre z nich są prawdziwe, jak na przykład to, że pojawią się uzasadnione obawy o bezpieczeństwo” – powiedział Altman. „Ale jeśli chodzi o to, że 'potrzebujemy kontroli nad AI, tylko my, ponieważ jesteśmy godnymi zaufania ludźmi', to myślę, że marketing oparty na strachu jest prawdopodobnie najskuteczniejszym sposobem na uzasadnienie tego.”

Amodei odrzucił pogląd, że obawy dotyczące zaawansowanej AI są przede wszystkim problemem public relations, argumentując zamiast tego, że obawy o technologię odzwierciedlają uzasadnione troski, które należy rozwiązać.

„Ludzie martwią się o AI, ponieważ słusznie postrzegają, że jej ryzyka są prawdziwe, a nie dlatego, że dyrektorzy generalni firm AI byli niewystarczająco Panglossowscy” – powiedział, nawiązując do fikcyjnego filozofa Panglossa z „Kandydy” Woltera, znanego z niezachwianego optymizmu, że wszystko jest najlepsze niezależnie od okoliczności.

„Wierzę, że moim obowiązkiem jako lidera AI jest dalsze zachowanie przejrzystości w odniesieniu do tych zagrożeń, a publiczne zaniepokojenie w odpowiedzi na tę przejrzystość stanowi demokratyczną odpowiedzialność działającą tak, jak powinna” – powiedział.