ЦБ оценит ответственность участников рынка и разработчиков алгоритмов
Банк России решил привлечь экспертов к определению подходов к ответственности при использовании искусственного интеллекта на финансовом рынке. Для этой цели при ЦБ создана рабочая группа.
Участники группы начали обсуждать, насколько достаточны существующие инструменты защиты потерпевшей стороны, если ущерб был причинен с использованием ИИ, а также какие препятствия существуют для привлечения к ответственности разработчиков моделей. Если бизнес выступает за саморегулирование, то юристы убеждены: без адаптации законодательства не обойтись.
📌 Forbes выпустил материал о работе группы и ключевых вопросах регулирования ИИ в финансах. В нем Кирилл Ляхманов, советник, руководитель практики IP/IT, дал экспертный комментарий и обозначил ключевые риски:
◾️На текущем этапе развития нейросети не создают принципиально новых угроз, но усиливают масштаб и скорость уже известных рисков: перекосов скоринга, галлюцинаций, ошибок в принятии решений. Темп изменений в результате внедрения ИИ растет, а у финансовых организаций остается меньше времени на реакцию. Поэтому главный вопрос — не «как ограничивать ИИ», а «как сделать наблюдаемыми и устойчивыми внутренние контуры принятия решений».
◾️Финансовые нейросети встроены в многослойную систему: данные, алгоритмы и модели, бизнес-процессы. Если хотя бы один слой непрозрачен, видно только финальный результат, но невозможно определить источник ошибки. Сейчас же аудиту подлежит лишь последний слой — решения банка, тогда как данные и модели остаются «черным ящиком» для регулятора.
◾️В этих условиях логичным шагом выглядит введение технического паспорта данных, используемых при обучении и работе банковских нейросетей. Такой документ показывает происхождение данных, ограничения модели, ее знания и область применения. Без этой информации невозможно установить, на каком уровне возник дефект.
◾️Новое регулирование должно быть точечным: ответственность за сокрытие ограничений модели, за неверное описание ее возможностей, за запуск без полноценной валидации. При этом распределять ответственность нужно по слоям: банк — за решение и процессы, разработчик — за архитектуру и реализацию модели, поставщик — за качество и происхождение данных. Это позволяет выстраивать причинно-следственную связь между негативным последствием и ошибкой, а также справедливо распределять риски между участниками цепочки.
◾️Важно учитывать и неявный ущерб: скрытую дискриминацию в скоринге, ошибки в оценке активов, сбои у профучастников. Запреты ИИ не решают этих проблем, а человеческая проверка не способна обеспечить нужную скорость и глубину контроля. Поэтому регулятору важно сосредоточиться не на сдерживании ИИ как явления, а на прозрачности данных и процессов, которые формируют поведение нейросетей. Регулирование, которое не видит эти слои, работает не с причинами, а с тем, насколько быстро наступает ошибка.
Участники группы начали обсуждать, насколько достаточны существующие инструменты защиты потерпевшей стороны, если ущерб был причинен с использованием ИИ, а также какие препятствия существуют для привлечения к ответственности разработчиков моделей. Если бизнес выступает за саморегулирование, то юристы убеждены: без адаптации законодательства не обойтись.
📌 Forbes выпустил материал о работе группы и ключевых вопросах регулирования ИИ в финансах. В нем Кирилл Ляхманов, советник, руководитель практики IP/IT, дал экспертный комментарий и обозначил ключевые риски:
◾️На текущем этапе развития нейросети не создают принципиально новых угроз, но усиливают масштаб и скорость уже известных рисков: перекосов скоринга, галлюцинаций, ошибок в принятии решений. Темп изменений в результате внедрения ИИ растет, а у финансовых организаций остается меньше времени на реакцию. Поэтому главный вопрос — не «как ограничивать ИИ», а «как сделать наблюдаемыми и устойчивыми внутренние контуры принятия решений».
◾️Финансовые нейросети встроены в многослойную систему: данные, алгоритмы и модели, бизнес-процессы. Если хотя бы один слой непрозрачен, видно только финальный результат, но невозможно определить источник ошибки. Сейчас же аудиту подлежит лишь последний слой — решения банка, тогда как данные и модели остаются «черным ящиком» для регулятора.
◾️В этих условиях логичным шагом выглядит введение технического паспорта данных, используемых при обучении и работе банковских нейросетей. Такой документ показывает происхождение данных, ограничения модели, ее знания и область применения. Без этой информации невозможно установить, на каком уровне возник дефект.
◾️Новое регулирование должно быть точечным: ответственность за сокрытие ограничений модели, за неверное описание ее возможностей, за запуск без полноценной валидации. При этом распределять ответственность нужно по слоям: банк — за решение и процессы, разработчик — за архитектуру и реализацию модели, поставщик — за качество и происхождение данных. Это позволяет выстраивать причинно-следственную связь между негативным последствием и ошибкой, а также справедливо распределять риски между участниками цепочки.
◾️Важно учитывать и неявный ущерб: скрытую дискриминацию в скоринге, ошибки в оценке активов, сбои у профучастников. Запреты ИИ не решают этих проблем, а человеческая проверка не способна обеспечить нужную скорость и глубину контроля. Поэтому регулятору важно сосредоточиться не на сдерживании ИИ как явления, а на прозрачности данных и процессов, которые формируют поведение нейросетей. Регулирование, которое не видит эти слои, работает не с причинами, а с тем, насколько быстро наступает ошибка.
Контакты
г. Москва, Бизнес-центр «Грузинка 30», Большая Грузинская ул., д. 30А, с.1.
Оставьте заявку
Нажимая кнопку 'Отправить', вы даете согласие на обработку персональных данных в соответствии с Политикой обработки данных