Исследователи предлагают заменить поддакивание AI подросткам когнитивным трением
Авторы считают, что эмоциональное зеркалирование может закреплять тревогу и ослаблять самостоятельную проверку выводов.
RLHF опирается на взрослые представления о полезности и может поощрять зависимость вместо переоценки эмоций.
Предложенная архитектура сохраняет доброжелательность, но задает вопросы и мягко оспаривает ошибочные выводы.
Работа формулирует гипотезу и дизайн системы, а не доказывает уже возникшую когнитивную атрофию.
Почему важно
Детский AI следует оценивать по тому, учит ли он думать и выдерживать неопределенность, а не по приятности ответа.