Нужно назвать приписываемое свойство, зависимое действие и затронутые стороны. Осторожность не доказывает опыт, а два направления ошибки не имеют заранее одинаковой цены.
Вопросы статьи
Доказывает ли предосторожность сознание?
Нет. Она является практическим выбором при названном риске, а не эмпирическим подтверждением его предпосылки.
Одинакова ли цена ошибочного признания и отрицания?
Логическая зеркальность не задаёт одинаковые последствия: нужны конкретное свойство, действие, масштаб и затронутые стороны.
Как сообщать неопределённый результат?
Сохранить предмет проверки, допущение и предел; отличить цель от результата и назвать условие пересмотра.
Основные различения
Бентам выделяет страдание как нравственно значимый вопрос отдельно от речи и рассуждения. (Bentham, XVII §1 IV, прим. 122, исправленный текст 1823 в издании 1907.)
Ошибки недостаточного и избыточного приписывания имеют разные условные последствия; опыт и валентность различены. (Butlin и коллеги, 2023 v3, §4.1–4.2.)
Батлин и Лаппас предлагают постепенность, внешнее обсуждение, ответственную коммуникацию и работу со стимулами. (Butlin/Lappas, arXiv:2501.07290v1, §4.2–4.5 и §5.)
Вывод о факте, предосторожность и публичное сообщение требуют отдельных оснований и условия пересмотра. (Сопоставление Bentham note 122, Butlin 2023 §4.1–4.2 и Butlin/Lappas §4.3–4.5.)
Границы интерпретации
- Нет актуального вывода о сознании конкретного ИИ или численной вероятности.
- Цена двух ошибок не объявлена заранее одинаковой либо фиксированно ранжированной.
- Нормативное предложение не является действующим законом или доказанной политикой.
- Предосторожность не доказывает опыт; права и благополучие людей сохраняют самостоятельное значение.
- Организационные сценарии авторские; нет клинических рекомендаций или неподдержанных фактов о пациентах.
Источники
- An Introduction to the Principles of Morals and Legislation — Jeremy Bentham
Chapter XVII §1, author-numbered II–VI (Econlib segment XVII.4–8 also read through mirror), and complete note 122 attached to author-numbered IV / segment XVII.6; edition metadata verified on Econlib. Other chapter material not adopted.
- Consciousness in Artificial Intelligence: Insights from the Science of Consciousness — Patrick Butlin; Robert Long; Eric Elmoznino; et al. (19 authors)
§1.1 complete; §1.2 opening and §1.2.1 complete (HTML lines 275–332); §1.2.2 opening through contrastive analysis (333–341); GWT indicator derivation (455–475); §3.2.1 complete Transformer/Perceiver cases (831–853); §4.2 complete (912–932) and §4.3 through behavioural tests (933–942). Other theory sections, cited experiments, code and model internals not independently read/tested. Additional fresh read for this topic: §4.1.1 and §4.1.2 complete, HTML lines885–911, including valence restriction and both attribution risks. No primary studies cited there independently read.
- Principles for Responsible AI Consciousness Research — Patrick Butlin; Theodoros Lappas
Introduction pp.1–2 and §2 pp.3–5 actually displayed/read; adopted chiefly §3.1–3.2 complete pp.5–7 (PDF lines183–286), Table1 and five principles pp.8 (289–324), §4.2 pp.10–11 (386–456), §4.3 pp.12 (457–495), §4.4–4.5 pp.13–14 (496–573), §5–6 pp.15–16 (575–628), funding line630. Parts of §4.1 displayed with tool output truncation, so not claimed complete. Bibliography not treated as read sources. Page numbering in PDF is 1-based printed sequence; source URL has only v1 in submission history.