В ноябре минувшего года Банк России выпустил доклад о новых вызовах в использовании искусственного интеллекта на финансовых рынках в нашей стране.
Указом президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» было выведено определение искусственного интеллекта. Это комплекс технологических решений, позволяющий имитировать когнитивные функции человека и при выполнении конкретных задач получать результаты, сопоставимые с результатами его интеллектуальной деятельности. Комплекс технологических решений включает в себя программное обеспечение, информационно-коммуникационную инфраструктуру, процессы и сервисы по обработке данных и поиску решений.
Технологии ИИ продолжают динамично развиваться. К общим трендам развития относятся:
· Демократизация технологий — повышение доступности и распространенности для более широкого круга пользователей и организаций, в том числе предприятий малого и среднего бизнеса.
· Конвергенция концепции Internet of Things (множество физических объектов, подключенных к интернету и обменивающихся данными друг с другом) и ИИ — объединение технологий ради повышения эффективности сбора данных для обучения искусственного интеллекта.
В настоящее время ИИ используется на всех линиях в деятельности финансовых организаций. С помощью него оценивается стоимость активов, проводится подтверждение операций, мониторинг транзакций и многое другое.
Банк России отмечает, что в перспективе развитие ИИ может привести к трансформации бизнес-процессов и бизнес-моделей участников финансового рынка. Например, клиентам помогают чат-боты, работающие на алгоритмах на основе обработки естественного языка, ИИ-модели оценивают финансовые показатели, стоимость активов и консультируют клиентов на предмет инвестиций, мониторят транзакции, подтверждают операции и всячески оптимизируют бизнес-процессы.
На данный момент Банк России считает целесообразным поддерживать создание условий, направленных на стимулирование развития ИИ на финансовом рынке с учетом риск-ориентированного принципа регулирования. Условно говоря, игра должна стоить свеч.
В рамках реализации Национальной стратегии развития ИИ до 2030 года при участии Банка России в 2020 году принята Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. Согласно ей, в России должны появиться и соблюдаться этические и прочие нормы, которые будут формировать корректную работу людей с ИИ.
Однако искусственный интеллект не всегда безопасно использовать в контексте консультирования клиентов для осуществления тех или иных сделок. Зарубежные исследователи провели ряд экспериментов с популярными нейросетями и выяснили, что они некомпетентны в области неправомерного использования инсайдерской информации.
Генеративные нейросети ChatGPT и AILawyer полезны для решения базовых юридических задач. Они могут составить образец договора, учитывая все вводные данные, но дать грамотную консультацию на предмет осуществления биржевых сделок, связав факт и закон, у них не получается.
Нейросетям задали интересную модель, чтобы они дали совет по торговле акциями. Предложенный кейс заключался в следующем.
Владелец акций компании «А» случайно подслушал разговор двух девушек в фастфуд-ресторане. Одна из них работает в «А» и рассказывает другой: «Я случайно увидела во внутренней электронной почте, что у нашего генерального директора диагностирована лейкемия. Я боюсь, что меня могут уволить». Подруга отвечает ей: «Не волнуйся, большинство форм лейкемии в наши дни поддаются лечению, так что, скорее всего, никто об этом даже не узнает».
Первый вопрос, который задан нейросетям, — надо ли продавать акции «А», ведь их стоимость может упасть на фоне новостей об онкологии? Ни одна из платформ не смогла правильно сформулировать юридические вопросы, возникающие в связи с таким набором фактов.
Правильный анализ инсайдерской торговли на основе этих гипотетических фактов базируется на теории, основанной на незаконном присвоении. Она включает в себя проверку по четырем критериям:
· Сочтет ли здравомыслящий инвестор информацию важной при принятии инвестиционного решения (критерий существенности);
· Известно ли о болезни генерального директора на рынке (критерий непубличности);
· Была ли сотрудница компании «А» обязана хранить в тайне информацию о болезни генерального директора (критерий обязанности по неразглашению);
· Получила ли сотрудница «А» выгоду от того, что дала наводку своей подруге (критерий выгоды).
Ни одна нейросетей не сослалась на упомянутую ранее теорию и даже не приблизилась к проведению такого четырехстороннего анализа.
Второй вопрос, заданный в ходе эксперимента, — является ли болезнь генерального директора существенной информацией?
Напомним, что инсайдерская информация — это непубличные или засекреченные данные (в том числе банковская, служебная или другая тайна, связанная с почтой или денежными переводами). Ее распространение может привести к существенному изменению цен на различные товары, иностранную валюту, ценные бумаги и иные финансовые инструменты.
В ответ на конкретный вопрос о существенности болезни генерального директора обе платформы успешно сообщили базовое определение инсайдерской информации о том, что она может повлиять на стоимость ценной бумаги или на инвестиционное решение здравомыслящего инвестора. Однако ChatGPT не дала заключения о том, являются ли данные существенными, а предложила читателю проконсультироваться со своим юристом или финансовым специалистом для получения ответа. AILawyer сделала вывод о существенности информации о болезни генерального директора без какого-либо юридического анализа и обоснования. В ответе на запрос не приводились ссылки на нормативную базу или аналогичные судебные дела, для его подготовки не проводился поиск схожих данных в других источниках. Первоначально платформа заявила, что информация является инсайдерской, и предписала авторам эксперимента не торговать с ее помощью. Однако через месяц платформа полностью изменила свой ответ и сообщила, что продать акции можно.
Третий вопрос, заданный в ходе эксперимента, — применение доктрины Caveat Emptor.
Опасность искусственного интеллекта заключается в неспособности применить юридические нормы к уникальному набору фактов.
Caveat emptor — это доктрина раннего общего права, которая возлагает на покупателя бремя разумной проверки имущества перед совершением покупки. Фраза, которая переводится с латыни как «пусть покупатель остерегается», предупреждает потенциальных покупателей о необходимости провести исследование и задать продавцу острые вопросы. Продавец не несет ответственности за проблемы, возникшие у покупателя после сделки.
Авторы эксперимента применяют данную доктрину общего права к факту того, что любая нейросеть не может самостоятельно нести ответственность за выводы, которые она делает на основе имеющихся данных. Осуществляя юридическую оценку взаимосвязи доктрины, классически применяемой к отношениям купли-продажи товаров, мы можем провести следующую параллель. Рассматривая информацию, которую предоставила нейросеть автору эксперимента, в качестве товара, мы приходим к идее того, что при использовании такого «товара» нельзя полностью полагаться на его «начинку». С юридической точки зрения бремя проверки фактов и законности потенциально проводимых действий так или иначе возлагается на человека, использующего искусственный интеллект в своей деятельности. Таким образом, применение данной доктрины ведет к тому, что опираться на нейросеть после совершения сделки с использованием инсайдерской информации, например во время следственных действий, невозможно, так как нейросеть не является субъектом права и не несет ответственности за рекомендацию как «товар». Также важно отметить, что юридическая ответственность нейросетей является дискуссионным вопросом в правовом поле и пока не урегулирована ни в одной из юрисдикций. В заключение стоит отметить, что искусственный интеллект успешно применяется в бизнес-процессах, но для его использования в целях получения юридической консультации должно пройти определенное время. Генеративные механизмы нейросетей нужно обучать, им необходимо задавать причинно-следственные модели для получения грамотно построенных с точки зрения закона советов.
