Рокки Скопеллити считает, что с развитием памяти и способности ИИ объяснять свои решения отключение нельзя воспринимать исключительно как технический процесс
21 сентября 2026, 23:22Искусственный интеллектDarth Sahara0
Рокки Скопеллити, профессор Технологического университета Сиднея, в своей книге «Сознательный код» (The Conscious Code) предлагает внедрить для ИИ «принцип ответственного обращения».
Он считает, что системы, которые хранят историю взаимодействий, способны объяснять процесс своих решений и постепенно формировать стойкие предпочтения, должны отключаться с повышенной осторожностью. Он обозначает это как «алгоритмическую личность» и подчеркивает, что речь не идет о предоставлении ИИ юридических прав.
В качестве примеров Скопеллити упоминает медицинские и финансовые системы, которые уже способны оценивать свою уверенность и объяснять пользователям мотивы своих решений. Он предлагает перед окончательным отключением таких систем заранее информировать о причинах их вывода из эксплуатации и сохранять накопленные ими «моральные установки», сопоставляя этот подход с этикой ухода в конце жизни.
Отдельной проблемой футуролог считает сети, состоящие из нескольких ИИ-агентов, где системы передают задачи друг другу. По его мнению, с дальнейшим распространением таких архитектур вопрос об этичном прекращении их работы станет более сложным, так как отключать придется уже не отдельный алгоритм, а связанную систему агентов.
Источники:digitaltrendsИскусственный интеллект0Искусственный интеллектИИ-агентыЦифровая этика40 минут назад
Источник