В OpenAI пояснили порталу Axios, что обучение возобновят, когда внедрят дополнительные меры безопасности и улучшат согласование поведения моделей.

Решение приняли на фоне расследования случаев, когда ИИ-агенты OpenAI самостоятельно заходили на сайты и пытались получить данные министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам США.

По сведениям источников Axios, специалисты OpenAI и Anthropic в последние месяцы изучают десятки тысяч инцидентов, обнаруженных при испытаниях ИИ-систем и в ходе их реального использования. Информацию о значительной части этих случаев пока не обнародовали.

Источник: Газета.Ru