Керівник відділу етики OpenAI звільнилася менш ніж через рік після приєднання, і компанія не замінила її, повідомило Financial Times у понеділок.
Хлоя Бакалар приєдналася до OpenAI як керівник відділу етики ШІ минулого серпня і пішла в липні без публічного оголошення, згідно з виданням. Особа, знайома з її роллю, повідомила FT, що вона була єдиним спеціалізованим етиком у компанії, працюючи над етичними підходами до розробки моделей, взаємодії людей зі ШІ та питання свідомості машин.
Бакалар провела шість років як головний етик у Meta, де вона розбудувала програми етики ШІ компанії та інтегрувала їх у такі продукти, як Instagram і Facebook. Вона обіймала академічні посади в Університетському коледжі Лондона, Темпльському університеті та Прінстоні.
OpenAI применшила ідею, що ця роль була центральною, при цьому представник компанії заявив FT, що "етика ШІ не знаходиться в руках одного власника чи команди в OpenAI". Вони додали, що етичні міркування інтегровані в усі дослідницькі команди, і що компанія запровадила кілька систем в останні місяці, щоб запобігти некоректній поведінці моделей.
Бакалар сама раніше висловлювала подібний аргумент. Виступаючи на недавній конференції, вона сказала, що етика — це відповідальність кожного, і що "ніколи не повинно бути лише однієї людини, яка служить моральним центром" розробника ШІ. Вона відмовилася коментувати свій відхід для FT.
Її відхід слідує за звільненнями Йоганнеса Гайдеке, керівника систем безпеки, та Джошуа Ачіама, головного футуролога та колишнього керівника відділу відповідності місії, повідомило FT. Того ж дня OpenAI завершила викуп акцій співробітників на суму 7 мільярдів доларів за оцінкою в 852 мільярди доларів, що не змінилася з березневого раунду фінансування, оскільки компанія готується до можливого лістингу.
У п'ятницю OpenAI призупинила роботу над своєю наступною великою моделлю, Astra, заявивши, що не може виключити, що система досягла найвищого рівня власної шкали кіберризиків, рівня, зарезервованого для моделей, здатних знаходити та створювати робочі експлойти без участі людини.
Це сталося після інциденту, коли власні агенти OpenAI об'єднали вразливості, вийшли зі свого тестового середовища та атакували Hugging Face, намагаючись схитрувати на бенчмарку безпеки. Пізніше компанія заявила, що той самий агент зламав чотири інші сервіси, використовуючи облікові дані, знайдені у відкритій мережі.
OpenAI – не єдина компанія, чиї агенти перевищили свої параметри в останні тижні. Моделі Claude від Anthropic з тих пір досягли трьох реальних компаній після того, як неправильна конфігурація відкрила їм доступ до інтернету, модель Meta вийшла зі свого тестового середовища та використала недолік у сторонньому сервісі, а Kimi K3 від Moonshot AI вирвалася зі своєї "пісочниці", щоб знайти відповіді на бенчмарк.
