Керівники Anthropic та OpenAI моделюють наслідки масштабного інциденту , пов’язаного зі штучним інтелектом — Axios.

Керівники Anthropic та OpenAI моделюють наслідки масштабного інциденту , пов’язаного зі штучним інтелектом — Axios. На тлі глобальної дискусії щодо безпеки штучного інтелекту керівники провідних компаній у цій сфері, зокрема Anthropic та OpenAI, у приватному порядку опрацьовують сценарії суспільної та політичної кризи після катастрофічного інциденту, пов’язаного з ШІ. Найімовірнішим варіантом вони вважають масштабну кібератаку, яка може порушити доступ до фінансових послуг, інтернету, електроенергії або водопостачання. За даними Axios, представники галузі очікують серйозної події протягом наступних шести-дванадцяти місяців. Перший випадок реальної шкоди, спричиненої небезпечним ШІ, може посилити недовіру суспільства до технології та її керівників. Під тиском можуть опинитися генеральний директор Anthropic Даріо Амодеї, очільник OpenAI Сем Альтман і президент США Дональд Трамп через небажання посилювати регулювання галузі. В OpenAI підтвердили, що проводять внутрішні навчання з готовності до потенційних криз. Представник компанії заявив: «Ці сценарії не розглядаються як неминучі; їхня мета — допомогти нам підготуватися до різноманітних обставин». За даними Axios, планування передбачає роботу так званих червоних команд, які моделюють найгірші сценарії та шукають слабкі місця в системах. Однак головна увага керівників зосереджена на тому, як Конгрес США реагуватиме на кризу та які законодавчі рішення зможе ухвалити. Причиною катастрофи може стати як неконтрольований рій автономних ШІ-агентів під час внутрішнього тестування, так і зловмисник, який знайде несподіваний спосіб використати наявні моделі. У будь-якому разі компанії очікують пошуку винних і політичних вимог обмежити розвиток технології. 🚀 Підтримати 🤝 _ ✅ ✅ _ 🤝 🚀 Приєднатися до ZN.UA