Возможности инструментов на основе ИИ обширны и преобразующи, они могут значительно повысить производительность, улучшить качество обслуживания клиентов и проложить путь для инновационных продуктов и услуг. В банковском секторе сотрудники с оптимизмом смотрят на влияние ИИ на их безопасность на работе, но не уверены, что их банки могут ответственно использовать ИИ.

Согласно исследованию Gartner, 74% банковских специалистов различных функций ожидают, что ИИ повысит ценность и спрос на их роли. Кроме того, 63% предвидят расширение сферы своей роли из-за ИИ, в то время как только 14% воспринимают ИИ как угрозу своей занятости.

Однако, хотя они могут быть уверены в собственной безопасности работы, только 38% считают, что ИИ увеличит доступность работы для всех остальных. Более того, только около половины опрошенных банковских служащих считают, что ИИ усилит права на конфиденциальность или создаст более равноправное общество.

Это говорит о том, что проблема внедрения не коренится в опасениях по поводу безопасности работы. Вместо этого сотрудники выражают большую обеспокоенность этическими последствиями ИИ для своих клиентов и коллег. Поэтому важно, чтобы директора по информационным технологиям (CIO) в банках понимали это мнение и работали с другими руководителями, чтобы установить ответственную политику и практику ИИ, которые улучшат внедрение инструментов ИИ среди сотрудников.

Внедрение ИИ

Для улучшения внедрения искусственного интеллекта сотрудниками исследование Gartner рекомендует ИТ-директорам банков реализовать три шага:

• Обеспечьте включение защиты конфиденциальности и объяснимости в стандарты разработки и развертывания ИТ для ИИ, продвигая их на постоянной основе, например, через повестки дня управления и отчетность по проектам. Такие ограждения могут помочь сделать решения ИИ понятными и гарантировать персоналу, что все опасения заинтересованных сторон рассматриваются и решаются.
• Отслеживайте и предотвращайте нарушения этики ИИ, поддерживая регулярный диалог с высшими руководителями бизнеса по вопросам использования ИИ и ожидайте такого же диалога между непосредственными подчиненными CIO и их коллегами из бизнеса. Такая бдительность поможет вселить уверенность среди пользователей и руководителей.
• Совместно спонсировать надзор за управлением путем сотрудничества с юридическими и нормативными органами для внедрения этических принципов ИИ в ИТ-отдел и во всем банке.

ИТ-директорам банков и другим лидерам ИИ еще предстоит проделать значительную работу, чтобы завоевать доверие своих сотрудников. Они могут помочь обеспечить это доверие, сделав конфиденциальность и объяснимость основополагающими требованиями для инструментов ИИ.

Конфиденциальные данные клиентов и сотрудников имеют важное значение для обучения моделей ИИ для многих банковских случаев использования. Однако, поскольку ИИ становится все более распространенным в отрасли, возможности утечки этих конфиденциальных данных клиентов будут значительно возрастать.

Чтобы справиться с этими проблемами конфиденциальности данных, ИТ-директорам необходимо принять многогранный подход. Они должны обязать регулярно проверять контракты с поставщиками на предмет контроля конфиденциальности и безопасности, а также быть в курсе новых инструментов безопасности ИИ для защиты от враждебных подсказок и атак на векторные базы данных.

Чтобы смягчить последствия утечек данных, CIO должны выступать за инвестиции в возможности синтетических данных, позволяя обучать модели на синтетических данных везде, где это возможно. В ситуациях, когда использование реальных данных неизбежно, следует разработать руководящие принципы для ИТ- и бизнес-команд по обучению моделей с использованием федеративного подхода.

Кроме того, ИТ-директорам следует внедрить политики для внутренних или поставляемых поставщиками инструментов, чтобы гарантировать, что генеративные подсказки ИИ могут предотвратить сбор конфиденциальной информации большими языковыми моделями (LLM) за пределами контроля банка.

Банковские CIO также должны применять принципы объяснимого ИИ, чтобы сделать его надежным, практичным и законным в банковской отрасли. Хотя объяснимость имеет макроэкономические последствия для регуляторов и доверия клиентов, поскольку она связана с предотвращением или устранением предвзятости модели ИИ, она также играет роль в повседневной работе сотрудников по многим из тех же причин.

Например, сотрудники первой линии должны уметь объяснять клиентам, которым отказано в кредите, почему их заявка была отклонена банковской моделью принятия кредитных решений на основе ИИ, или как технология повлияла на условия их кредита. Разъяснения также дают сотрудникам возможность возражать против модели или выявлять и сообщать о предвзятых моделях, которые могут негативно повлиять на определенных клиентов.

Без объяснимости работа в банке может стать менее удовлетворяющей и даже деморализующей, сотрудники могут почувствовать себя всего лишь придатками гигантской машины искусственного интеллекта, а неравенство и дискриминация могут легче проникнуть в систему.

CIO могут способствовать объяснимости, будь то во время внутреннего проектирования или в качестве требования для поставщиков, работая с учеными по данным и экспертами в предметной области для проверки используемых подходов (например, так называемые фреймворки объяснимости, не зависящие от модели или зависящие от модели). В конечном счете объяснимость модели принятия решений должна быть понятна людям, а результаты должны быть переведены в понятные человеку термины и контексты, специфичные для предметной области.

ИТ-директорам также следует обеспечить наличие решений для смягчения предвзятости, таких как алгоритмы, учитывающие справедливость, которые оценивают модели на предмет неравенства и предлагают жизнеспособные альтернативы.

Заключение

В заключение, хотя ИИ имеет огромные перспективы для повышения производительности и качества обслуживания клиентов, его потенциал может быть полностью реализован только в том случае, если сотрудники примут его и поверят в его способность оказывать положительное влияние на жизни людей. Текущие этические проблемы создают значительные трудности для этого принятия. Поэтому CIO должны сотрудничать по всему банку, чтобы влиять на приоритетность, разработку, развертывание и управление инструментами ИИ, решая эти проблемы для ускорения принятия.

Руководя своей функцией и взаимодействуя с остальными подразделениями банка для содействия внедрению ИИ, ИТ-директора должны сосредоточиться на конфиденциальности, объяснимости, смягчении и устранении предвзятости, границах вариантов использования и надежных структурах управления.

Статья Дерека Фроста, вице-президента Gartner, технологической аналитической и консалтинговой компании