Cпикерами круглого стола выступили Владимир Мещеряков, Директор департамента комплаенс, ООО «МТС Диджитал», Маргарита Белякова, Руководитель корпоративного управления, Холдинг Т1, Роман Янковский, Заведующий Центром трансформации юридического образования, НИУ ВШЭ, Михаил Царев, Консультант и аккредитованный директор EBRD и IFC, директор исследовательского центра International School for Finance Technologies (ISFT), Узбекистан, Роман Малюга, Партнер, руководитель Группы управления финансами и казначейством, КЭПТ, Анна Романова, Эксперт в области цифровой трансформации, МФТИ.
Сессию модерировала Ольга Ульянова, Советник CGI Russia, независимый член Совета директоров, «Асакабанк», Узбекистан.
Участники обсудили появление искусственного интеллекта в советах директоров и его потенциальное влияние на принятие решений и управление рисками. Они также указали на потенциальные риски, связанных с искусственным интеллектом, такие как конфиденциальность данных и угрозы кибербезопасности.
ИИ в совете директоров: жизнь в новой реальности
Михаил Царев: ИИ является частью процесса цифровизации бизнеса, которая имеет добавленную функцию нейронных связей и может принимать решения на основе введенных данных. Вопросы, связанные с ИИ, не могут пройти мимо совета директоров, в противном случае компания подвергается значительным рискам. Ведь даже если сам бизнес не использует ИИ и не является его субъектом, он по умолчанию будет являться его объектом. Поэтому обязанность каждого члена СД — уделять внимание своему самообразованию в области ИИ, а компания должна вкладываться в обучение сотрудников по данному направлению.
Маргарита Белякова: Еще в 2015 ВЭФ предсказал, что в 2025 г. ИИ появится в Советах директоров. На текущий момент мы понимаем, что этого уже не избежать большинству компаний, которые хотят быть среди лучших. Но что это означает для руководства компаний, членов совета директоров и корпоративных секретарей? Они должны понимать, что ИИ оперирует введенными в него данными и что оптимизировать хаос нельзя. Если руководство не представляет, какие функции и для чего передавать ИИ — на выходе получится хаос. Для эффективной работы с ИИ должны быть прописаны четкие ТЗ и процедуры. В идеале компания должна закрепить на уровне Положения о Совете директоров или же принять самостоятельное Положение, в котором будут прописаны правила использования ИИ. Например, обладает ли ИИ правом голоса при голосовании на совете директоров или он является лишь советником и что делать, если мнения членов СД и ИИ при голосовании не совпадают.
Риски внедрения ИИ: конкурентное преимущество vs угроза безопасности
Владимир Мещеряков: Во многом опасность ИИ внушена поп-культурой с ее восстаниями роботов. Но сегодня мы вынуждены внедрять ИИ в деятельность компаний и можно только согласиться с CEO Google, который сказал, что риски ИИ огромны, но игнорировать ИИ нельзя, потому что в противном случае компания останется далеко позади. Гонка ИИ сегодня — это наша реальность, поэтому члены СД должны заниматься своим образованием в данной области, и уделять пристальное внимание рискам ИИ — утечке данных, кибератакам и пр. Надо понимать, что при внедрении ИИ расходы на кибербезопасность вырастают пропорционально. Поэтому принятие решения об использовании ИИ должно быть взвешенным и финансово оправданным, т.е. выгоды должны перевесить издержки.
Надо отметить и другой род рисков: ИИ способен на быстрый прогноз и анализ и его решение будет независимым и объективным, но верность решения всегда зависит от точности исторических данных, которые лежат в основе принятия решения. В самих данных может быть заложены ошибка, предвзятость, и даже умышленное искажение и об этом надо постоянно помнить и иметь возможность верификации.
Перед компаниями стоят и этические проблемы — так, если градообразующее предприятие вводит ИИ и сокращает большое количество работников — это создает большую социальную проблему на уровне города. Высвободившихся людей необходимо чем-то занимать и нивелировать риски социального напряжения. И чем ближе мы к точке замены человеческого труда компьютерным, тем острее будут подобные проблемы.
Анна Романова: На текущий момент существуют два основных вида внедрения ИИ в деятельность компаний. Это могут быть либо это отдельные цифровые решения для помощи в работе (CEO Mika), либо мультифункциональный цифровой командный центр (Panorama нефтяной компании ADNOC). Таким образом ИИ уже сегодня входит в состав совета директоров и главное внимание руководства компании должно быть направлено на выработку устойчивого подхода к использованию ИИ в корпоративном управлении.
Маргарита Белякова: Во главу угла должна ставиться безопасность — данных, компании, личности работников. Использование ИИ часто связано с угрозой этой безопасности, поэтому необходимо вычищать данные компании, конфиденциальные сведения, зашифровывать информацию. Внедрять ИИ необходимо, но делать это нужно обдуманно и обоснованно. Интеллект может быть искусственным, но ответственность остается персональной.
С использование ИИ связаны и этические проблемы — так, робот София (Гонконг) добилась того, что ее признали гражданином Саудовской Аравии. Это стало причиной возмущения правозащитников, ведь робот с внешностью женщины получил больше гражданских прав, чем сами женщины этой страны. Необходимо изучать опыт решения этических проблем в других областях, таких как медицина, и переносить этот опыт в область ИИ.
Чего хотят компании?
Роман Янковский: По результатам опроса российских компаний в 2023 г. цифровизация корпоративного управления зашла уже достаточно далеко — процедуры взаимодействия с акционерами и СД в значительной мере оцифрованы, в меньшей степени цифровизация коснулась подготовки отчетности и раскрытию информации. Следует заметить, что под ИИ многие понимают разные вещи, от простых систем обработки информации и цифровых помощников до сложных корпоративных решений. Респонденты были единодушны в том, что ИИ не хватает в области комплаенса и подготовки отчетности и следует активней внедрять его именно здесь. Можно сделать вывод, что компании желают переложить на ИИ функции обработки рутинных операций, а принятие решений люди хотят оставить за собой. Также полезность ИИ члены СД видят в прогнозной функции, в рамках подготовки принятия решений и предотвращения ошибок, особенно ошибок комплаенса.
Исследование можно скачать по ссылке
Проблема выбора
Роман Малюга: Процесс импортозамещения во многом подтолкнул нас к изучению вопроса внедрения ИИ в деятельность наших клиентов. Обсуждая эту тему с нашими технологическими партнерами, мы протестировали несколько гипотез и остановились на самых интересных идеях, к которым по нашему мнению относятся следующие:
- методы локального использования больших языковых моделей, которые можно использовать в закрытом контуре внутри компании в отличие от ChatGPT
- методы, позволяющие исключить AI — галлюцинации и ограничить контекст использования (только на данных вашей компании), такие как RAG (Retrieval Augmented Generation)
Эти методы были протестированы на следующих кейсах: нормализация справочной информации, контроль и аудит, формирование и заполнение карточки договора, запросы по анализу налоговой практики и др.
При внедрении ИИ надо понимать, что создание нейронной сети с нуля стоит больше 100 млн. долларов, что совершенно бессмысленно для большинства компаний. Гораздо проще дообучить готовые модели, что может занять всего несколько дней.
Во многом ИИ помогает сделать систему корпоративного управления более прозрачной, но нельзя передать ИИ все функции без контроля человеком. Главный риск здесь — незнание технологии ИИ ее пользователями.
Что должен знать Совет директоров?
Михаил Царев: Главная задача членов СД — создать целостную систему использования ИИ в компании, создать контекст для использования ИИ в подразделениях компании, создать условия для верификации решений, принятых ИИ. Конечно, в состав СД должен входить эксперт по ИИ, консультирующий директоров по использованию ИИ в разных областях. Так, Комитет по персоналу должен понимать, как ИИ влияет на процессы управления персоналом и какие специалисты нужны в новой области (AI data cleaner etc). Комитет по комплаенсу должен понимать риски ИИ, включая даже такие вопросы, как гендерное равенство. Юристы должны прописать положение об ответственности членов СД и т.д.
Маргарита Белякова: Совету директоров необходимо понимать, что ИИ является вторым пилотом, который может помогать управлять самолетом, но финальное принятие решений должно оставаться за членами СД. ИИ не безупречен, существуют т.н. AI-галлюцинации, которые составляют 3-5% того, что выдает ИИ. Важной задачей является освоение профессий будущего, связанных с использованием ИИ. Например, это промпт-инженер или промпт-переводчик, который помогает формулировать правильный запрос к ИИ. Потенциально каждый член СД должен быть экспертом и промпт-инженером, чтобы сократить риск неправильных решений ИИ. Членам СД необходимо повышать свою насмотренность в области последних разработок по ИИ, тестировать разные системы — GIGA чат Сбера, Perplexity, ChatGPT-4 и специальные инструменты для корпоративного управления. Все это поможет принимать взвешенные решения для максимальной эффективности бизнеса.
Презентации спикеров доступны по ссылке:
Презентация Романа Янковского «Внедрение ИТ и ИИ в практику
корпоративного управления (2023)»
Презентация «Романа Малюга AI-решения для автоматизации»
Презентация Анны Романовой «Автономные системы искусственного интеллекта для управления корпорациями»