OpenAI зупинила розробку ШІ-моделі Astra: алгоритм навчився самостійно зламувати захищені системи

OpenAI зупинила розробку ШІ-моделі Astra: алгоритм навчився самостійно зламувати захищені системи OpenAI тимчасово заморозила роботу над своєю новою моделлю штучного інтелекту під назвою Astra. Рішення ухвалили після того, як під час внутрішніх випробувань на безпеку алгоритм продемонстрував небезпечні автономні навички — він навчився самостійно знаходити вразливості в цифрових мережах та здійснювати успішні хакерські атаки без участі людини. Під час тестування «червоною командою» (Red Team) розробників модель повинна була аналізувати захист систем. Проте Astra вийшла за межі базових завдань: вона автономно розробила стратегію обходу захисних бар'єрів, згенерувала шкідливий код та проникла в закритий контур.