Анджела Дакворт назвала ИИ адаптивным сверхнормальным стимулом
Сверхнормальный стимул преувеличивает эволюционно значимый сигнал так, что подделка привлекает сильнее оригинала.
ИИ воспроизводит лица, речь, внимание и сочувствие, которым люди привыкли доверять в общении.
В отличие от прежних приманок, система может изучать реакции конкретного человека и непрерывно подстраивать воздействие.
Почему важно
Когда машина оптимизирует сами желания человека, свободу выбора ограничивает не решение алгоритма, а спроектированная привлекательность вариантов.