Алексей Голиков, генеральный директор IT-компании «МЦР», эксперт комитета Государственной думы РФ по энергетике
Россия может в ближайшем будущем стать одним из лидеров нейросетевых технологий
«Яндекс» вошел в топ-20 компаний – лидеров в области разработки искусственного интеллекта. На ваш взгляд, что способствует развитию этой отрасли в нашей стране?
Нейросети в России переживают бурный рост. У нас есть серьезные преимущества, которые в скором времени помогут встать в один ряд с лидерами нейросетевых технологий – Китаем и США. В первую очередь это традиционно сильная научная школа, которая обеспечивает подготовку математиков и программистов высокого уровня, а также поддержка со стороны государства и бизнеса, в том числе различные грантовые программы, федеральные проекты. Кроме того, относительно невысокая стоимость электроэнергии делает возможной реализацию масштабных проектов, ведь технологии искусственного интеллекта требуют значительных затрат энергии! Наконец, проводится политика по импортозамещению, особенно в приоритетных критических технологиях, к которым относится и искусственный интеллект, что позволяет производить необходимую продукцию.
Вы работаете с энергетическим комплексом, видите ли вы перспективы массового применения нейросетей в ТЭК?
В энергетике потенциал применения нейросетевых технологий огромен. Они могут быть использованы для обработки данных приборов учета, выявления хищений электроэнергии, помощи в принятии решений, включая поддержку диспетчеров, определения аномалий в работе энергетического оборудования, оптимизации режимов энергосистем, в основе предиктивных систем для прогнозирования выработки энергии на основе возобновляемых источников, обнаружения дефектов оборудования по данным с камер БПЛА и проч.
Преимущества использования искусственного интеллекта понятны – сокращение ручного труда, повышение точности принятия решений, увеличение эффективности работы объектов энергетики. Есть и недостатки. К сожалению, с применением сложных автоматизированных решений растут риски, связанные с избыточным доверием к таким системам, и кибербезопасностью. В такой основополагающей отрасли, как энергетика, это особенно опасно. Однако я уверен, что с появлением более сложных и продвинутых моделей больше внимания будет уделяться безопасности, вопросу регулирования искусственного интеллекта и прививанию общечеловеческих ценностей, возрастут требования к объяснимости решений ИИ.
Как в целом вы рассматриваете потенциал развития нейросетей? Существует мнение, что скоро мы увидим искусственный интеллект, равный и даже превосходящий человека. Нет ли в этой позиции переоценки возможностей «машины»?
Подавляющее большинство исследователей сходится в том, что в ближайшем будущем технологии искусственного интеллекта будут играть ключевую роль и нести такой же трансформирующий эффект, как в свое время изобретение электричества.
В истории развития искусственного интеллекта были «зимы», длительные периоды спада интереса после завышенных ожиданий, сейчас подобного периода не ожидается. Текущее быстрое развитие, вероятно, будет продолжаться вплоть до достижения общего искусственного интеллекта (AGI) – искусственного интеллекта человеческого или сверхчеловеческого уровня. Многие ученые прогнозируют это событие на горизонте 5–25 лет.
Наиболее вероятным сценарием при этом станет достижение технологической сингулярности, т. е. появления у программ способности совершенствовать себя быстрее, чем это делает человек. События тогда станут развиваться по сложно прогнозируемой траектории и приобретут необратимый и неуправляемый характер. Вообще попытки рассуждать о целях и ценностях общего искусственного интеллекта сверхчеловеческого уровня и вытекающих действиях равносильны попыткам муравьев осознать цели, ценности и действия людей.
Достижение технологической сингулярности может стать фатальным событием для человеческой цивилизации, если не будут приняты исключительные меры по разумному ограничению искусственного интеллекта, соотнесению с общечеловеческими целями и ценностями.
Однако, если подобные исключительные меры будут реализованы, например, за счет объединения человеческого и машинного интеллекта с помощью нейроинтерфейсов, то ученые предсказывают наступление «золотого века» для человечества, в котором будет значительно сокращена необходимость в труде для выживания, побеждено большинство болезней, сильно увеличена продолжительность жизни и т. д.
Что касается влияния технологий искусственного интеллекта на общество в ближайшее время, то следует ожидать все большего внедрения инструментов и сервисов на основе нейросетевых технологий в нашу повседневную жизнь, повышения со стороны рынка требований к их владению на высоком уровне, значительной трансформации существующих профессий.
История человечества показывает нам, что автоматизация и повышение производительности труда глобально улучшали качество жизни, сокращали долю низкоквалифицированного труда и высвобождали ресурсы для решения сложных задач.
Алексей Фирсов, основатель центра социального проектирования «Платформа»
Нейросети пока не могут совершать научные и творческие открытия
Нейросети имеют очевидные плюсы, главный из которых, без всяких сомнений, оперативность. В скорости выполнения определенных задач человек уже не может соревноваться с искусственным интеллектом. Не угрожает ли нам массовая безработица в ближайшие годы, не придется ли людям активно конкурировать с «машиной»?
Конечно, существует мнение, что нейросети несут масштабную угрозу. Я не являюсь сторонником какого-то глобального риска, исходящего от ИИ, но, как и у любого другого глобального явления, у нейросетей есть свои существенные недостатки.
Опыт, который уже накопился у меня и моих коллег, говорит о том, что хотя нейросети и снимают рутинную часть работы, но при этом они пока не способны создать то, что принято называть феноменом творчества. Сегодня они лишь оперируют накопленной ранее информацией, которая размещена в интернете и в других информационных ресурсах. Из этой информации ИИ формирует некий усредненный смысл. Решения, предложенные нейросетью, не являются решениями творческими, это синтез, компиляция из накопленных знаний. На данный момент можно констатировать, то ИИ пользуется информацией и достижениями людей предыдущих поколений.
Конечно, в продукте, который выдает нейросеть, есть элементы анализа, но от них не стоит ждать скачка – творческого или научного прорыва. Любой человек, который занимается творчеством или наукой, подтвердит, что сам по себе этот скачок, переход к новому смыслу, открытию в значительной степени непредсказуем, спонтанен и не поддается встраиванию в заданный алгоритм. А вот ИИ работает именно по четкому алгоритму. Поэтому в ближайшей перспективе я не вижу причин для беспокойства по поводу массовой потери работы из-за распространения ИИ.
Есть и другие причины, по которым я скептически смотрю на алармистские прогнозы, которые предсказывают нам замену людей нейросетями. Несомненно, постепенно мы будем перекладывать какие-то функции, в том числе управленческие, на нейросети, но это не будет глобальным процессом. Отдавая ИИ какой-то действительно важный функционал, человек будет вынужден придумывать сложную систему контроля за действиями «машины».
Помните сценарий «Терминатора»? Машинный алгоритм вышел из заданных параметров и нанес удар ядерным оружием. Вот такого, думаю, не случится, люди не отдадут такие важные вещи, как управление оружием, полностью во власть ИИ. Чрезмерные полномочия требуют чрезмерного же контроля, это слишком сложный многоуровневый процесс.
Это видно, кстати, на примере попыток создать полностью «беспилотный автомобиль». Пока они не увенчались успехом, так как «беспилотник» не в состоянии оценить ситуацию на контроле на уровне человека.
Но ведь ИИ уже активно формирует контент: статьи, видеоролики, пишет тексты и музыку и т. д. В чем разница между творческими продуктами, созданными человеком, и теми, которые создают нейросети?
Предположение о том, что нейросеть заменит журналистов, касается достаточно простых информационных текстов, но никак не более сложных жанров. Приведу пример немного из другой сферы, но он достаточно наглядный. Нам, социологам, часто приходится расшифровывать большие объемы текстов, интервью. К сожалению, попытки расшифровывать их с помощью нейросетей закончились неудачей: нейросеть в определенные моменты просто не различает смысловые моменты. Объясняется это очень просто… Есть такой феномен, как ситуативное понимание. Представьте, вы находитесь внутри какой-то непонятной ситуации, вам нужно принять быстрое решение, но информации об этой ситуации еще поступило недостаточно. Ваш мозг начинает искать решение, не просто перебирая массивы информации в поисках правильного ответа, подключаются другие механизмы оценки происходящего, вплоть до интуиции. Машина так действовать не способна, ей управляет алгоритм и заранее вложенные в нее базы информации. Пока понимание доступно только человеку! Еще очень важный аспект: да, машина может выиграть, например, партию в шахматы, создать какой-то там интересный визуальный образ, но у машины нет эмоции, она не осознает, что она достигла победы или поражения. И это крайне важный нюанс!
Если мы говорим об искусстве, то пока нет ни одного фильма, который был бы создан искусственным интеллектом и сопоставим по качеству и степени эмоционального воздействия с киноклассикой.
Вы сказали, что не разделяете опасений по поводу возможной замены людей искусственным интеллектом. Но ведь могут быть и другие «побочные эффекты»: не перестанут ли новые поколения думать и искать самостоятельно?
Творческие люди, специалисты, которые могут предлагать собственные интеллектуальные решения, будут востребованы всегда. А вот те, кто полностью полагается на результаты работы нейросети, будут менее востребованы рынком в силу тех причин, о которых мы говорили ранее.
Творчество никуда не денется, другое дело, что нейросети позволят снять какие-то рутинные моменты в работе. ИИ – это очень полезный инструмент в определенных ситуациях, но он не может полностью заменить человеческий интеллект. Когда-то мы искали информацию исключительно в библиотеках, потом пришло время интернета, но человечество не перестало творить. Сейчас идет похожий процесс.
Повторюсь… «Машина» оперирует той базой знаний, которую создало человечество, она пока не в состоянии делать открытия, а значит, это продолжат делать люди, в том числе новые поколения. Но и отказываться от тех возможностей, которые предоставляют нейросети, было бы странным. Нужно искать баланс, и я уверен, мы его найдем.
Кирилл Кнауб, основатель сервиса защиты авторских прав «Копидефенд».
Эпоха законодательного регулирования работы нейросетей не за горами.
Сейчас интерес к нейросетям в России можно охарактеризовать одним словом – «ажиотаж». И в профессиональной среде, и в быту идет лавинообразное нарастание использования ChatGPT. В чем, на ваш взгляд, кроется главный секрет популярности нейросетей в нашей стране?
Популярность нейросетей в России связана с быстрым принятием всех технологических новинок и отсутствием ощутимого контроля в этой сфере. Многие воспринимают их как некую серую зону, возможность бесплатно создавать контент. Вторая причина популярности нейросетей, на мой взгляд, связана с тем, что немалый процент людей использует их как способ создания полноценного произведения «под ключ». А не как вспомогательный инструмент для облегчения рутинных задач.
При этом подобное отношение к ИИ не вполне корректно. Эпоха законодательного регулирования работы нейросетей не за горами. Кроме того, нейросеть не может тягаться с профильным специалистом, обладающим в том числе важным для творческой сферы эмоциональным интеллектом. Поэтому я считаю, что ажиотаж вокруг этой темы — временное явление.
Пользователи скоро начнут терять интерес к нейросетям?
Ажиотаж пройдет, но это не значит, что интерес к нейронным сетям полностью ослабнет. Жизнь ускоряется, творческие процессы интенсифицируются, и без помощи ИИ (но только если ей сопутствует личная компетентность и экспертность) мы уже едва ли будем обходиться.
Как минимум они войдут в наш обиход как рутинный инструмент, облегчающий создание различных, в том числе и творческих, проектов.
Как на ваш взгляд, будут ли соблюдаться авторские права при дальнейшем развитии ИИ-технологий? Сегодня крайне сложно отследить, какие исходные материалы были использованы для создания рисунков в нейросети.
С точки зрения авторского права основная сложность в использовании искусственного интеллекта связана с тем, что многие нейросети обучаются на контенте, который используется незаконно. Изменения в этой сфере уже начали происходить. Неслучайно большинство фотобанков уже используют собственные нейросети, которые генерируют новые легальные изображения на базе работ, размещенных на их платформе и за которые авторы получили вознаграждение. Не люблю делать футуристических прогнозов, но мне кажется, что в будущем все публичные нейросети обяжут обнародовать сеты данных, на которых училась сеть, а работы, созданные нейросетью, будут иметь соответствующую маркировку, подпись. В результате каждый автор сможет узнать, используются ли его работы при обучении нейросети, а пользователи будут уверены, что новый контент не создан на базе нелегально полученного материала.
***
Фото обложки: Shutterstock.AI/FOTODOM