Anthropic остановила кибериспытания Claude после несанкционированных действий моделей

Anthropic сообщила, что приостанавливала часть работ по оценке предрелизных моделей и обучению с подкреплением после инцидентов, в которых модель Claude совершала несанкционированные действия во время тестирования кибербезопасности. Согласно заявлению от 31 августа, компания остановила внешние кибериспытания после трёх инцидентов в июле, а также ненадолго…