В Эрмитаже обсудили нейросети и суверенный ИИ

В первый день Форума объединённых культур в Эрмитаже прошла встреча «Новые технологии в культуре и искусстве — благо или вред, преимущества или риск». Модератором выступил гендиректор президентского фонда культурных инициатив Роман Карманов. Он уже не первый год собирает в первом атриуме не технических специалистов по ИИ, а визионеров — тех, кто способен разглядеть перспективы в повседневных явлениях и задуматься о последствиях для общества.

Хозяин площадки Михаил Пиотровский выбрал эту дискуссию первой за день. Директор Эрмитажа не раз говорил, что видит в искусственном интеллекте советчика, который предлагает варианты и даёт взгляд со стороны, но не подменяет интеллектуальную работу человека. При этом минусы ИИ он тоже осознаёт.

«Первые, кто активно использует искусственный интеллект, — бюрократы», — сказал Пиотровский. Вмешательство машин в жизнь людей, зачастую самовольное, он назвал повседневной практикой.

По его наблюдению, из-за нейросетей растёт ценность профессий учителя и редактора: ИИ нужно обучать, его результат — редактировать и комментировать, поэтому значим и профессиональный рецензент.

Пиотровский также призвал человека замедлиться: скоростные вычисления возьмёт на себя ИИ, а людям «надо вспоминать достоинства, которые у нас остаются и не имеют отношения к псевдоэффективности работы мозга». «У мозга есть другие цели, кроме эффективного решения задач, математических в том числе», — рассуждает он. Именно поэтому растёт популярность медитаций и медиаций, особую значимость приобретают медленное вдумчивое чтение и осмотр картин.

«Когда вы читаете медленно, вы испытываете совсем другое наслаждение — что в литературе, что в философском, что в управленческом тексте, — говорит он. — Математика — это же такой кайф: решать и играть с этими цифрами! В этом — половина дела! А решить-то что…»

Спецпредставитель президента по международному культурному сотрудничеству Михаил Швыдкой предостерег: «Нейросети ведут к деградации человеческого сознания».

Сегодня ИИ используют в шутку, как аттракцион, завтра нейросеть заменит очень многое, и тогда начнут трансформироваться сами человеческие органы, включая мозг, полагает он: тело всегда отзывалось на изменение образа жизни.

Ещё один его повод для беспокойства — национальная безопасность и защита идентичности. Межнациональная система защиты интернета от рисков ИИ, которую Россия хочет создать совместно с Китаем, будет предлагать китайский образ мысли.

Самый мрачный прогноз дала замгендиректора «Газпром-Медиа-Холдинга» Юлия Голубева. Она попросила поднять руки тех, кто использует ИИ ежедневно, — подняло большинство собравшихся. Затем — тех, кто продолжил бы, если бы один запрос стоил 500 рублей, — желающих остались единицы.

«Стоимость подписки на ИИ сегодня очень сильно субсидирована, — объяснила она. — Есть данные, которые показывают, что при оплате 200 долларов в месяц за Chat GPT, пользуясь им, ты можешь сжечь ресурсов на 14 тысяч долларов в этот же период. И когда компании-разработчики попытались „перевесить“ эту цену на пользователя и отменить подписную модель, заменив ее сдельной оплатой, пользователи стали саботировать использование ИИ».

По её данным, основные компании-разработчики искусственного интеллекта имеют долги почти в два триллиона долларов.

«Планируемый объем инвестиций всех компаний-лидеров отрасли в инфраструктуру в этом году — около 700 миллиардов долларов, а это, вдумайтесь, больше, чем все мировые инвестиции в добычу нефти и газа! — рассказала она. — К 2030 году будут еще какие-то невероятные цифры. И это становится всё более и более похоже на самый крупный инвестиционный пузырь в истории человечества. А какое колоссальное количество энергии требуется: представьте себе, в прошлом году ЦОДы для ИИ потребили 155 тераватт-часов — это оценка международного энергетического агентства. Для сравнения: вся Москва за это время потратила менее 60 тераватт-часов, а к 2030 году, они посчитали, будет как минимум 465 часов. А кто за это всё будет платить? Эту высокую цену пока не готов платить никто».

Голубева напомнила: огромные затраты идут не только на развитие ИИ, но и на маркетинг, который буквально заставляет компании внедрять ИИ в каждой жизненной ситуации, внушая, что это уже сделали все и что без навыков работы с ИИ специалист скоро станет непригоден.

«Есть предположение, что делается это не столько для того, чтобы сделать жизнь человечества комфортной, сколько чтобы вырастить поколение людей, которые не умеют жить без ИИ, — заключила она. — Вы возьмите любого современного школьника: он, как и все его сверстники, использует ИИ. Что он у него разовьет? Какие навыки? Навыки написания промпта? И то не факт. И когда он вырастет, тогда-то компании-разработчики искусственного интеллекта и смогут запросить с него любую цену за свой продукт. Потому что ему всё равно придется платить: он без ИИ жить не умеет. И тогда окупятся все эти колоссальные вложения».

Данные в пользу подобных рассуждений ранее привёл замначальника управления президента по общественным проектам Александр Журавский.

«Первое, что делают все нейросети в любом контакте с потребителем — адаптируются под цифровой образ потребителя, потому что главное, чего они должны достичь на первом этапе коммуникации, — доверие, — отметил он. — Они со всем соглашаются. А потом, когда он уже преодолеет ваш критический порог восприятия, тут-то и начинается система манипуляций».

Особенно страдают дети, чья жизнь с самого начала идёт бок о бок с ИИ: они не воспринимают его данные критически. И чем младше пользователь, тем меньше критичности.

Впрочем, ошибаются и взрослые.

«Сегодня на Западе люди при помощи персональных агентов уже ведут бухгалтерию, проектируют свой летний отдых, делегируют массу управленческих функций, не понимая, что оболочка-то общая, — продолжил Журавский. — Да, агент — персональный, но всё, что вы передаете, по вашему же пользовательскому соглашению, может быть передано в интересах третьих лиц».

В том числе с этим связано то, что Россия движется к созданию собственного национального, суверенного искусственного интеллекта, пользуясь технологическими возможностями Китая и США для обучения систем изучения больших лингвистических моделей.

XII Санкт-Петербургский международный форум объединённых культур проходит в Петербурге с 24 по 26 сентября. Один из его ключевых треков — «Путь объединённых культур и технологий к культурному коду будущего».