Стартап Cathedral заявив, що його ШІ-агенти менш ніж за 12 годин виявили спосіб отримати доступ до внутрішніх систем Anthropic, розробника

Стартап Cathedral заявив, що його ШІ-агенти менш ніж за 12 годин виявили спосіб отримати доступ до внутрішніх систем Anthropic, розробника чатбота Claude, через вразливості стороннього програмного забезпечення. Агенти отримали доступ до частини внутрішніх даних, зокрема записів зустрічей, інформації про зарплати та повідомлень у Slack. В Anthropic наголосили, що листування користувачів із Claude, вихідний код і параметри моделей не постраждали. Компанія заблокувала доступ того самого дня. Перевірку проводили в межах програми пошуку вразливостей. Водночас Anthropic звинуватила Cathedral у порушенні її правил і перебільшенні наслідків інциденту. Випадок посилив занепокоєння щодо використання штучного інтелекту для кібератак і ризиків, пов’язаних із безпекою сторонніх сервісів.