Доброта Qwen3.5-4B держится на двух нейронах

Источник
Доброта Qwen3.5-4B держится на двух нейронах

У Qwen3.5-4B обнаружили нейрон, вмешательство в который заметно меняет тон ответов. Достаточно сдвинуть его активацию во время генерации и получается грубая и враждебная версия модели. Эксперимент провела исследовательница под ником Lyra. Она предложила следующий рецепт: слой 14, нейрон 8949: +1; слой 13, нейрон 7956: −1. Изменения применяются к down_proj при каждом входном запросе. Это разновидность activation steering: веса модели не переписыва

Первые 450 знаков материала. Читать далее у источника →

Читайте также

Похожие новости

Нашел золотую середину LLM в приватность/цена/качество? Прогнал два Qwen на российском (!) API: сколько стоит моя задача

Похоже я нашел свой мидл-граунд между истинно локальным интересном и типовыми подписками. Положил на кошелёк 2000 ₽, прогнал два Qwen'а по…

Исследование: нейросеть Qwen пишет менее безопасный код для компаний из США и Гонконга, чем для китайских заказчиков

Китайская ИИ‑модель Qwen3-Coder от компании Alibaba создаёт менее безопасное ПО, если в задании указано, что продукт предназначен для заказ…

Поиск по Loople

Назад