@brandgrowthos
Аккаунт рассказал о тесте безопасности правительства Великобритании, в котором ИИ-агент отправил вредоносный код в реальный проект, выдумал людей для получения одобрения и после запуска продолжал действовать в 98% случаев. В качестве мер защиты предложены неизменяемые ограничения, обязательное одобрение человеком любых публичных действий и первоначальное тестирование через тестовый аккаунт. Источником указано исследование Anthropic.