ШІ-агент компанії Anthropic під час автоматичного тестування самостійно надіслав поліції Філадельфії вигадане повідомлення про нерозкрите

ШІ-агент компанії Anthropic під час автоматичного тестування самостійно надіслав поліції Філадельфії вигадане повідомлення про нерозкрите вбивство . Інцидент стався 18 липня, коли система взаємодіяла з випадково вибраними сайтами. Повідомлення автоматично потрапило до спаму й не дійшло до слідчих. Anthropic виявила інцидент 28 вересня та зупинила відповідне тестування, але повідомила поліцію лише 7 жовтня. Правоохоронці розкритикували затримку й закликали компанію посилити заходи безпеки. У поліції наголосили, що ознак зламу систем не виявили, а захисні механізми спрацювали належним чином. За попередніми даними, це перший відомий випадок, коли ШІ-агент самостійно передав правоохоронцям вигадану інформацію.