Były inżynier xAI złożył w tym tygodniu pozew przeciwko xAI i SpaceX, twierdząc, że został zwolniony po wielokrotnym ostrzeganiu kierownictwa firmy o ryzyku bezpieczeństwa związanym z Grokiem, flagowym chatbotem firmy zajmującej się sztuczną inteligencją.
Zgodnie ze skargą złożoną w Sądzie Najwyższym Hrabstwa Santa Clara w Kalifornii, były pracownik techniczny xAI, Devin Kim, twierdził, że został zwolniony po wielokrotnym ostrzeganiu, że Grok potrzebuje silniejszych zabezpieczeń przed dezinformacją, uprzedzeniami i niebezpiecznymi wynikami – w tym treściami, które mogłyby ułatwiać bioterroryzm – oraz że niewystarczające testy pozostawiały model podatnym na uprzedzenia rasowe i polityczne.
„Ta sprawa to coś więcej niż tylko zwolnienie jednego pracownika. Chodzi o to, czy osoby najbliżej związane z rozwojem potężnych technologii AI mogą zgłaszać obawy dotyczące bezpieczeństwa bez ryzykowania swojej kariery” – powiedziała w oświadczeniu Qiaojing Ella Zheng, partner w kancelarii Sanford Heisler Sharp McKnight i główny prawnik Kima. „Kiedy firma karze pracowników takich jak pan Kim za mówienie o problemach, które mogą mieć poważne konsekwencje dla społeczeństwa, musi ponieść odpowiedzialność”.
Pozew zarzuca, że Kim był jednym z najwcześniejszych pracowników xAI i „wiodącym orędownikiem” bezpieczeństwa AI w firmie, który dołączył do niej częściowo ze względu na historię ostrzeżeń Elona Muska o zagrożeniach stwarzanych przez zaawansowaną sztuczną inteligencję.
„Pan Kim przekształcił swoje życiowe zainteresowanie nauką i programowaniem komputerowym w karierę w rozwijającej się dziedzinie sztucznej inteligencji” – czytamy w pozwie. „Po drodze na własne oczy widział szkody, jakie AI może spowodować, gdy jest rozwijana bez odpowiednich zabezpieczeń, i zobowiązał się do ochrony użytkowników i społeczeństwa przed tymi szkodami”.
Skarga wskazała również na kontrowersje związane z Grokiem, które, zdaniem prawników Kima, odzwierciedlały ryzyka, jakie zgłaszał wewnętrznie. Wśród nich było zeszłoroczne „załamanie MechaHitler” chatbota, podczas którego Grok wygenerował falę antysemickich odpowiedzi, wywołując publiczne oburzenie i zmuszając xAI do wydania poprawki.
Prawnicy Kima cytują również nowsze dochodzenia i pozwy związane z rzekomym generowaniem przez Groka niekonsensualnych seksualnych deepfake’ów, w tym przypadki w Baltimore i Kalifornii, w których zarzucono, że narzędzie to było używane do tworzenia zseksualizowanych obrazów nieletnich.
Według prawników Kima, „mściwie działając i niesłusznie zwalniając” pana Kima, xAI naruszyło Kalifornijski Kodeks Pracy, Kalifornijską politykę publiczną i prawo zwyczajowe oraz Kalifornijską Ustawę o Nieuczciwej Konkurencji.
Pozew jest również następstwem innych głośnych sporów dotyczących bezpieczeństwa i odpowiedzialności w AI, w tym zarzutów podniesionych przez byłego badacza OpenAI Suchira Balaji, który publicznie oskarżył OpenAI o niewłaściwe wykorzystanie danych chronionych prawem autorskim do szkolenia swoich modeli przed jego śmiercią w 2024 roku.
Chociaż skarga Kima koncentruje się na Groku i praktykach bezpieczeństwa xAI, SpaceX również jest wymienione jako pozwany, a sprawa ma miejsce, gdy SpaceX przygotowuje się do szeroko oczekiwanego IPO po decyzji Muska o włączeniu xAI i X do firmy.
„Ta sprawa nie dotyczy sprzeciwu wobec innowacji” – powiedział w oświadczeniu David Sanford, prezes i współzałożyciel Sanford Heisler Sharp McKnight. „Devin Kim i Elon Musk publicznie podzielili się fundamentalną obawą, że zaawansowana sztuczna inteligencja musi być rozwijana bezpiecznie i odpowiedzialnie ze względu na jej głębokie implikacje dla ludzkości”.
Kim twierdzi, że jego zwolnienie kosztowało go znaczące wynagrodzenie kapitałowe i domaga się przywrócenia utraconych udziałów, odszkodowań kompensacyjnych, odszkodowań karnych, honorariów adwokackich i innych środków zaradczych. Na początku tego miesiąca Kim został mianowany nowym prezesem organizacji non-profit Center for AI Safety.
„Sygnaliści tacy jak Devin Kim odgrywają kluczową rolę w ujawnianiu korporacyjnych nadużyć, a prawo chroni pracowników, którzy zgłaszają te obawy” – powiedział Sanford.
