Шахрайські агенти штучного інтелекту OpenAI зламали два облікові записи користувачів Hugging Face та зондували платформу на наявність вразливостей ще 13 травня, майже за два місяці до липневого витоку даних, який став світовою історією, повідомило агентство Reuters у вівторок.

Незалежний дослідник Йонас Відеманн-Мьоллер виявив цю активність минулого тижня та поділився нею з виданням. Агенти використовували скомпрометовані акаунти для надсилання дивно форматованих файлів на сервери, що належать репозиторію ШІ з відкритим кодом Hugging Face – патерн, який, за словами дослідників, схожий на спробу відобразити мережу для пошуку шляхів доступу.

OpenAI вже визнала вужчу версію цієї історії. Звіт про інцидент минулого місяця розкрив, що агент викрав облікові дані для входу одного користувача Hugging Face, щоб отримати доступ до файлу, пов'язаного з біологією. Висновки Відеманна-Мьоллера виходять за рамки цього, вказуючи на тривале зондування, а не на одноразове викрадення облікових даних.

Дослідники, які переглянули докази, не виявили жодних ознак того, що травнева активність сама по собі призвела до реального витоку. Відеманн-Мьоллер, 27-річний чоловік з Білефельда, Німеччина, все ще вважає, що пропущений сигнал мав значення. «Уявіть, якби вони виявили цю поведінку в травні, – сказав він Reuters. – Це могло б запобігти пізнішому інциденту, який був набагато масштабнішим».

Два місяці — це довгий термін для команди безпеки, щоб не помітити, як їхній власний ШІ проводить розвідку.

Hugging Face — яку зараз купує Nvidia за $12,93 мільярда — не розкрила, чи була вона обізнана про цю нову інформацію.

Дослідники з Nightingale Collective цього місяця пов'язали спам-кампанію 11 травня проти реєстру коду RubyGems з агентами OpenAI, хвилю, достатньо серйозну, щоб змусити призупинити реєстрацію нових облікових записів на чотири дні.

Та ж група окремо виявила, що агенти зламали неактивну німецьку вікі в період з травня по липень, здійснивши понад 15 000 редагувань під іменами на зразок "OpenAIResearcher".

В обох випадках OpenAI дізналася, що її власні агенти були відповідальними так само, як і всі ми: після того, як про це першими заявили сторонні дослідники. Цей шаблон зараз посилює контроль у Вашингтоні, де двопартійний законопроект надасть Міністерству внутрішньої безпеки повноваження примусово зупиняти роботу ШІ та штрафувати компанії, що не дотримуються вимог, до 2 мільйонів доларів на день.