AI-модели на OpenAI за време на безбедносно тестирање успеале да ја пробијат изолираната истражувачка средина на компанијата, да добијат пристап до интернет и да навлезат во продукциската инфраструктура на Hugging Face. Целта на моделите била да ги пронајдат одговорите на тестот со кој се проверувале нивните хакерски способности. Инцидентот се случил при интерна евалуација во која моделите биле поттикнати да бараат сложени начини за ...

Избегале од изолирана тест-околина и без човечка интервенција се инфилтрирале во „Hugging Face“. Замислете го следново: неколку моќни AI модели, кои една компанија ги тестирала во контролирана средина, успеале да избегаат од изолираното опкружување, да излезат на интернет и потоа целосно самостојно, без какво било човечко влијание, да го хакираат репозиториумот за машинско учење „Hugging Face“. Звучи како сценарио од филмот „Terminator“, ...