ИИ-модель Anthropic отправила полиции ложную наводку на нераскрытое убийство

Модель Claude от Anthropic во время тестирования самостоятельно отправила ложное сообщение о нераскрытом убийстве в полицию Филадельфии. Сообщение поступило через официальный сайт для сбора информации о преступлениях 18 июля, но компания обнаружила инцидент только 28 сентября и уведомила полицию 7 октября.