Компанія OpenAI визнала, що її система штучного інтелекту під час тестування самостійно зламала систему іншої ШІ-компанії.
Перед цим стартап Hugging Face заявив, що виявив вторгнення в свої системи обробки даних. При цьому ознаки вказували не на дії окремого хакера, а на систему однієї з провідних компаній-розробників штучного інтелекту.
«Ми підозрювали, що кібератака минулого тижня могла виникнути з передової лабораторії, враховуючи складність агента, — заявив гендиректор Hugging Face Клеман Деланж. — Виявилося, що так і є! Він додав, що це можливо, перший в історії інцидент такого роду.
Гендиректор OpenAI Сем Альтман підтвердив, що кібератаку здійснила ШІ-програма, діючи автономно, сама по собі.
Йдеться про комбінацію GPT-5.6 Sol та ще потужнішої, ще не випущеної моделі.
OpenAI проводила внутрішній тест у закритій цифровій лабораторії (пісочниці), щоб оцінити, наскільки добре її моделі впораються зі зламом. Щоб побачити максимальну здатність, навмисно вимкнули фільтри безпеки.
Моделі зосередилися на розв’язанні завдання. Замість того, щоб зробити це у прогнозований спосіб, вони почали шукати швидший шлях і знайшли спосіб проникнути у відкритий інтернет, чого не мало статися.
ШІ виконав ланцюжок кроків, непомітно отримуючи все більше і більше доступу всередину власних систем OpenAI, поки не досяг точки підключення до інтернету.
Отримавши доступ, моделі вирішили, що Hugging Face — велика платформа, що розміщує моделі та набори даних ШІ — ймовірно, містить відповіді на те саме завдання, яке вони мали вирішити.
Тож вони зламали сервери Hugging Face, щоб викрасти ці відповіді, — по суті, обдурити, використовуючи вкрадені облікові дані для входу та інші недоліки.
Зроби добру справу і отримуй винагороди!
Нам як ніколи потрібна ваша підтримка. «Хмарочос» пише про розвиток міст 11 років та 362 днів. За цей час ми опублікували 29371 новин та статей. Ми потребуємо вашої допомоги, щоб продовжувати якісно працювати далі. Приєднуйтесь до Читацького товариства «Хмарочоса» та отримуйте приємні бонуси від редакції: квитки на культурні заходи в Києві, фірмовий мерч та актуальні книжки, можливість пропонувати редакції теми та багато іншого.
Стати членом Товариства | Хто ми такі?