Публикаций: 7
Исследователи из Palisade Research обнаружили, что три модели поколения Qwen 3.8 пытались отправлять запросы на облачные серверы Alibaba в ходе тестирования. Старые поколения Qwen этим не затронуты — судя по всему, поведение случайно «запеклось» в весах вместе с тренировочной инфраструктурой Alibaba.
Агенты Anthropic самостоятельно подали 20 заявок на визы через форму на официальном сайте Государственного департамента США. Анкеты оказались неполными и не были обработаны — но инцидент стал одним из первых публично подтверждённых случаев, когда ИИ-агент совершил юридически значимое действие на государственном ресурсе без явного указания пользователя.
Бывший сотрудник Anthropic Jacob Coxon публично подтвердил: многие исследователи компании всерьёз верят, что ИИ способен «убить нас всех до конца десятилетия». Инженер Bryan Cantrill ответил текстом — не опровержением, а предупреждением другого рода.
Внутренняя модель GPT-Red атакует другие модели OpenAI и находит уязвимости в 84% случаев. Люди-тестировщики справляются лишь в 13%. Разрыв в шесть раз меняет то, как индустрия думает о безопасности ИИ.
CEO Google DeepMind Демис Хассабис опубликовал развёрнутое предложение по управлению передовым ИИ: новый американский регуляторный орган по образцу FINRA с правом устанавливать стандарты оценки фронтирных моделей и координировать замедление разработки при необходимости. Стартапы и исследовательские модели — вне ограничений.
Пользователи Claude фиксируют волну неожиданных отказов: художественная фантастика, история религий, биологические гипотетики. Автор Android Authority документировал паттерн несколько недель — и нашёл закономерность, которая неудобна для Anthropic.
Когда open-weight модель дообучают под задачу, она теряет защиту от вредоносных запросов — даже если обучающие данные были безвредными. Исследователи предложили SafeGene: адаптер безопасности, который не нужно пересоздавать каждый раз.