Un fost inginer xAI a intentat un proces împotriva xAI și SpaceX săptămâna aceasta, susținând că a fost concediat după ce a avertizat în mod repetat conducerea companiei cu privire la riscurile de siguranță asociate cu Grok, chatbot-ul emblematic al firmei de inteligență artificială.

Conform unei plângeri depuse la Curtea Superioară din Santa Clara County, California, fostul membru al personalului tehnic xAI, Devin Kim, a afirmat că a fost concediat după ce a avertizat în mod repetat că Grok avea nevoie de măsuri de siguranță mai puternice împotriva dezinformării, părtinirii și rezultatelor periculoase – inclusiv conținut care ar putea facilita bioteroismul – și că testarea inadecvată a lăsat modelul vulnerabil la părtinire rasială și politică.

„Acest caz este mai mult decât despre concedierea unui singur angajat. Este despre dacă persoanele cele mai apropiate de dezvoltarea tehnologiilor AI puternice pot ridica îngrijorări legate de siguranță fără a-și risca cariera”, a declarat Qiaojing Ella Zheng, partener la firma de avocatură Sanford Heisler Sharp McKnight și consilier principal al lui Kim, într-o declarație. „Atunci când o companie pedepsește angajați precum domnul Kim pentru că au vorbit despre probleme care ar putea avea consecințe semnificative pentru public, trebuie să fie trasă la răspundere.”

Procesul susține că Kim a fost unul dintre primii angajați ai xAI și „un susținător principal” al siguranței AI în companie, care s-a alăturat firmei în parte datorită istoricului de avertismente al lui Elon Musk cu privire la pericolele reprezentate de AI-ul avansat.

„Domnul Kim a transformat un interes de-o viață pentru știință și programare pe calculator într-o carieră în domeniul emergent al AI”, se arată în proces. „Pe parcurs, a văzut pe propria piele prejudiciile pe care AI le poate provoca atunci când este dezvoltată fără măsuri de siguranță adecvate și s-a dedicat protejării utilizatorilor și a publicului de aceste prejudicii.”

Plângerea a semnalat, de asemenea, controverse care implică Grok, despre care avocații lui Kim au spus că reflectă riscurile pe care le-a ridicat intern. Printre acestea s-a numărat și „colapsul MechaHitler” al chatbot-ului, vara trecută, în timpul căruia Grok a generat un val de răspunsuri antisemite, declanșând o reacție negativă publică și determinând xAI să emită o remediere.

Avocații lui Kim citează, de asemenea, investigații și procese mai recente legate de presupusa generare de deepfake-uri sexuale nonconsensuale de către Grok, inclusiv cazuri în Baltimore și California, care susțin că instrumentul a fost folosit pentru a crea imagini sexualizate cu minori.

Potrivit avocaților lui Kim, prin „ripostarea împotriva și concedierea ilegală” a domnului Kim, xAI a încălcat Codul Muncii din California, politica publică și dreptul comun din California, și Legea Concurenței Neloiale din California.

Procesul urmează, de asemenea, alte dispute de profil înalt privind siguranța și responsabilitatea AI, inclusiv acuzații ridicate de fostul cercetător OpenAI Suchir Balaji, care a acuzat public OpenAI de utilizarea necorespunzătoare a datelor protejate prin drepturi de autor pentru a-și antrena modelele înainte de moartea sa în 2024.

Deși plângerea lui Kim se concentrează pe Grok și pe practicile de siguranță ale xAI, SpaceX este, de asemenea, numită ca pârâtă, și vine într-un moment în care SpaceX se pregătește pentru un IPO mult așteptat, în urma deciziei lui Musk de a integra xAI și X în companie.

„Acest caz nu este despre opunerea inovației”, a declarat David Sanford, președinte și co-fondator al Sanford Heisler Sharp McKnight, într-o declarație. „Devin Kim și Elon Musk au împărtășit public o preocupare fundamentală că inteligența artificială avansată trebuie dezvoltată în siguranță și responsabil, datorită implicațiilor sale profunde pentru umanitate.”

Kim susține că încetarea contractului său de muncă i-a adus pierderi substanțiale în compensații pe bază de acțiuni și solicită restabilirea capitalului propriu confiscat, daune compensatorii, daune punitive, onorarii avocațiale și alte măsuri de remediere. La începutul acestei luni, Kim a fost numit noul președinte al Centrului non-profit pentru Siguranța AI.

„Avertizorii de integritate precum Devin Kim joacă un rol crucial în semnalarea ilegalităților corporative, iar legea protejează angajații care ridică aceste îngrijorări”, a spus Sanford.