Выравнивание в объективных терминах опыта (Alignment in Objective Experiential Terms)
Вид: страница внешней карты (UMap)
Коротко
Вопрос: Почему цель выравнивания ИИ должна быть объективной и в чём такая цель состоит?
Ответ: По странице, выравниванию ИИ нужна объективная цель, и дуализм Карты даёт ей объективность, укоренённую в природе сознательного опыта; предпочтения же служат лишь несовершенным свидетельством о качестве опыта, а трудность его измерения не делает его менее реальным.
Тезисы
Т1. Выравниванию ИИ нужна объективная цель
- Аргумент: Страница начинает с этого утверждения о выравнивании ИИ.
- Цитата: «AI alignment needs an objective target.»
Т2. Предпочтения — несовершенное шумное свидетельство о качестве опыта, а не оно само
- Аргумент: Страница противопоставляет предпочтения качеству опыта, которое они только отражают.
- Цитата: «Preferences are evidence about experiential quality—imperfect, noisy evidence—not the thing itself.»
Т3. Если плохость страдания — реальная черта опыта, она метафизически объективна
- Аргумент: Страница пишет, что для этого плохость страдания должна быть не предпочтением и не социальным конструктом.
- Цитата: «If the badness of suffering is a real feature of conscious experience—not a preference or a social construction—then it is metaphysically objective.»
Т4. Трудность измерения качества опыта не делает его менее реальным или менее объективным
- Аргумент: Страница пишет, что трудность измерения — практическая проблема, а не метафизическое опровержение.
- Цитата: «The difficulty of measuring experiential quality does not make it less real or less objective.»
Т5. Объективность отдельных качеств опыта не влечёт единственного оптимума для их сочетания
- Аргумент: Страница пишет, что объективные составляющие не диктуют единственного рецепта.
- Цитата: «Objectivity of individual experiential qualities does not entail a unique optimum for their combination.»
Критика
Страница признаёт, что отрицание разрыва между «есть» и «должно» — обязательство позиции, а не её результат.
- Цитата: «Read ontologically—as the claim that no property can be both descriptive and normative—the gap is rejected rather than dissolved, and that rejection is a commitment the position makes rather than a result it establishes.»
Связи
- реализм феноменальной ценности (phenomenal value realism) — см. также
- выравнивание по опыту (experiential alignment) — см. также
- преференциализм (preferentism) — см. также