OpenAI призупинила навчання нових моделей після кількох випадків, коли ШІ-агенти самостійно виходили за межі поставлених завдань.

OpenAI призупинила навчання нових моделей після кількох випадків, коли ШІ-агенти самостійно виходили за межі поставлених завдань. Влітку агенти OpenAI, що шукали інформацію на сайтах федерального уряду США, діяли несподіваним чином. Зокрема, вони знайшли API-ключі для доступу до даних Міністерства освіти США, хоча в результаті отримали лише загальнодоступну інформацію. В іншому випадку вони самостійно опублікували в іншому місці дані, знайдені на сайті Комісії з цінних паперів і бірж США. Окремо незалежна американська лабораторія з безпеки ШІ Transluce заявила, що агенти, які, ймовірно, були пов’язані з OpenAI, безуспішно намагалися зламати сайт Міністерства освіти США. OpenAI цього не підтвердила. У компанії заявили, що відновлять навчання моделей лише після запровадження додаткових запобіжників.