Рокки Скопеллити полагает, что с развитием памяти и способности ИИ объяснять свои решения его отключение не должно восприниматься лишь как техническая операция
21 сентября 2026, 23:22Искусственный интеллектDarth Sahara0
Рокки Скопеллити, профессор Технологического университета Сиднея, в своей книге «Сознательный код» (The Conscious Code) предлагает внедрить для ИИ «принцип ответственного обращения».
По его мнению, системы, которые сохраняют историю взаимодействий, могут объяснять процесс своих решений и постепенно развивать устойчивые предпочтения, следует отключать более осторожно. Он называет это «алгоритмической личностью» и подчеркивает, что это не значит предоставление ИИ юридических прав.
В качестве примеров Скопеллити упоминает медицинские и финансовые системы, которые уже оценивают свою уверенность и объясняют людям причины своих решений. Он предлагает заранее сообщать причину отключения таких систем перед их окончательным выводом из эксплуатации и сохранять накопленные ими «моральные установки», сравнивая этот подход с этикой ухода в конце жизни.
Отдельной проблемой футуролог считает сети, состоящие из нескольких ИИ-агентов, где системы передают задачи друг другу. По его мнению, с увеличением распространения таких архитектур вопрос этичного прекращения их работы станет более сложным, так как отключать придется не отдельный алгоритм, а связанную систему агентов.
Источники:digitaltrendsИскусственный интеллект0Искусственный интеллектИИ-агентыЦифровая этика40 минут назад
Источник