Используя ИИ, важно не разучиться думать

13 и 14 ноября 2025 года в Академгородке на базе Новосибирского государственного университета прошел III Научно-производственный форум «Золотая Долина». Он в очередной раз подтвердил свой статус ключевой площадки для диалога между наукой, промышленностью и властью, объединив около 1500 представителей научно-академического сообщества, реального сектора экономики, государственных структур. Деловая программа «Золотой Долины» была весьма насыщенная и включала массу сессий, круглых столов и панельных дискуссий, посвященных перспективным направлениям технологического лидерства. Одним из таких мероприятий стала панельная дискуссия «Технологические тренды: роль ИИ в развитии бизнеса, региона, образования и медицины», которая собрала интересную и разностороннюю аудиторию. Диалог получился содержательный и раскрывающий дальнейшие шаги в области развития и внедрения ИИ.

– Действительно, в последние годы очень большое развитие получили направления, связанные с применением ИТ-технологий для создания и в качестве удобного средства общения между людьми, знаниями, которые накоплены человечеством за много лет, и возможности получить и использовать эти знания. Но все-таки должен сказать, что называть систему машинного обучения искусственным интеллектом – это слишком сильно. Все-таки интеллект – это понятие общественное. Если человек растет, например, в лесу, вне социума, интеллекта не будет. Интеллект – это особенность общественного сознания, общественной жизни человека. Это осознание, понимание того, что стоит за словами, – приветствуя участников дискуссии, задал атмосферу мероприятию Сергей Савостьянович Гончаров, академик Российской академии наук, профессор, доктор физико-математических наук. – Сейчас произошел действительно «фантастический взрыв». Развитие нейронных сетей позволило работать не только с большими данными, но и с текстами. ИИ работает с построенными фразами. Но здесь очень много проблем, которые обсуждаются, – в том числе в рамках заседаний Академии наук. Потому что та математика, которая заложена в основу ИИ, требует развития. Системы, которые мы применяем, требуют правильного понимания – что делается, как делается и насколько то, что мы хотели получить от ИИ, получается. Поэтому одна из важных проблем – это доверие ИИ. Можем ли мы доверять предложенным им решениям? В математике есть знаменитая теорема Гёделя: сколько бы мы ни знали, всегда есть такие утверждения, которые нельзя ни доказать, ни опровергнуть. Желаю успехов этой очень важной дискуссии о том, как и где мы можем применять и насколько можем доверять тем методам, которые разработали с помощью машинного обучения.

Несмотря на философское начало, выступления последующих докладчиков носили практический характер. Разговор шел о том, как ИИ влияет на нашу жизнь уже сегодня и каким образом бизнес, образование отвечают тем вызовам, которые есть в обществе.

Новосибирская область традиционно занимает высокие места в различных рейтингах цифровизации, внедрения решений ИИ. В том числе в области государственного управления. О том, как именно в этой сфере используется ИИ, в рамках дискуссии рассказал Павел Жучков, заместитель министра цифрового развития и связи Новосибирской области.
– Сейчас мы проходим период веселого энтузиазма, студенческих порывов в работе с ИИ, – отметил Павел Анатольевич. – Когда-то мы этот период проходили при разработке информсистем. Это вдохновение в нашей работе связано как с тем, что у нас есть партнеры – ИТ-компании, группы студентов, которые с нами взаимодействуют, так и с тем, что у нас получается результат. ИИ в данном случае мы рассматриваем как еще одну совокупность проектов, по которым есть очень хорошие особенности. В частности, на данном этапе он пока не требует от нас больших вложений. Тема новая и ИТ-компании готовы с нами «попилотиться» и поработать на энтузиазме, на экспериментах – посмотреть, как это у нас приживется. Потому что госуправление – это все-таки специфическая область. Пока мы можем работать без бюджетов и при этом получать результат. Студентам и школьникам старших классов эта тема тоже интересна. На данном этапе не требуется большого опыта и обширных знаний. Мы сейчас используем инструмент, по которому можно приносить пользу с разным уровнем знаний.

Вспоминая призыв президента России по охвату ИИ всех отраслей, включая систему госуправления, представитель регионального министерства рассказал о стратегии развития ИИ и о тех проектах, которые не просто на слуху, а уже несколько лет реализуются. Ключевой момент – в них так или иначе присутствует ИИ.

Конечно, речь шла в первую очередь о системе «Безопасный город», которая позволяет посредством камер и компьютерного зрения находить людей. Несмотря на то, что продукты в этой области в основном коробочные (стандартные), наш регион смог удивить коллег и создать особенный цифровой сервис по розыску несовершеннолетних на базе службы 112. Он позволяет размещать информацию о пропавшем ребенке оперативно.
Вторым примером стала система самообслуживания, именуемая в народе «Робот Николай», которая успешно компенсирует нехватку операторов колл-центра 122. Только за 2025 год через «Николая» было обработано 7 млн обращений.

«Что важно: мы не просто поставили робота-информатора, мы сделали глубокую интеграцию робота с нашей медицинской информационной системой. Важно, что в случае какой-то нестандартной операции робот оперативно переводит на оператора, не вредничая, как это бывает в различных экосистемах. Наш робот в этом плане более человекоцентричный», – уточнил Павел Жучков.
Говоря о планах и перспективах, он обратил внимание на то, что прошлый опыт касался услуг для граждан, а настоящий, набирающий оборот в 2025 году, – направлен на помощь госслужащим в их ежедневной работе и касается самого широкого круга вопросов: от документооборота, проверки писем на грамотность до ответов на обращения граждан. Отдельно останавливаясь на последнем, Павел Анатольевич привел пример расчета эффективности этого ноу-хау сервиса, который экономит время специалистов госорганов на подготовку ответов, а соответственно, и бюджетные средства. И речь идет о часах и миллионах сэкономленных рублей. Но каким бы хорошим помощником ни был виртуальный ассистент, окончательный ответ все-таки должен сформулировать и утвердить сам сотрудник. Еще один сервис, который чиновник отметил как перспективный, касается оценки компетенций госслужащих и выдачи рекомендаций для их совершенствования.

Еще одной сферой, затрагивающей интересы всех граждан, куда ИИ внедряется семимильными шагами и тем самым заметно меняет, – является здравоохранение. Услуги телемедицины, помощь ИИ в постановке диагнозов, роботизированные операции. Сегодня с помощью ИИ в медицине решают и задачу, связанную с нехваткой кадров. Об этом в ходе дискуссии рассказал Георгий Лебедев, директор Института цифровой медицины Первого московского государственного медицинского университета имени И.М. Сеченова Минздрава России.

– Первая задача, которая стоит перед цифровой медициной, – это устранение кадрового дефицита. Система ИИ, которую мы создаем, может помочь любому медицинскому работнику оперативно получить нужную консультацию, – уточнил Георгий Станиславович. – Второе направление внедрения ИИ – это преодоление разрыва в знаниях. Мы понимаем, что выпускник медицинского вуза располагает знаниями, которые могут отличаться от познаний и опыта академика. Благодаря ИИ опыт наших ведущих специалистов становится доступным для молодого врача. Собственно, решение данных задач оптимизирует финансовые расходы, в результате чего высвобождаются ресурсы, которые можно перераспределить – например, направить на развитие приборного парка или оснащение больниц.

Говоря об активном внедрении ИИ – как в управлении здравоохранением, так и в оказание медицинской помощи, – возникает все тот же вопрос доверия, о котором в самом начале говорил академик Гончаров.

– Мы понимаем: чтобы ИИ грамотно, четко работал, должно быть доверие к нему и умение им правильно пользоваться, – обратил внимание Георгий Лебедев. – Чему нужно учить врача? Первое – врач не должен быть программистом, но должен понимать, как создается система и как правильно ей поставить задачу. Современный врач должен уметь пользоваться большим количеством систем, понимать, правильно ли ему ответила большая языковая модель, и находить правильное решение для лечения пациента, за которое несет ответственность именно он. Все понимают – здесь важно, чтобы врач не разучился думать!

ИИ решает многие задачи, а потому самые разные сферы переходят в режим ИИ по умолчанию. Однако мы видим, что вся экономика начинает строиться вокруг ИИ, а не в дополнение к ИИ. И тут в полной мере возникает вопрос компетентности квалифицированных кадров, которые могли бы взаимодействовать и создавать такие системы.

О том, как меняется структура университета, организация и содержание учебных процессов, способных отвечать новым «вызовам», поделился мнением Владимир Тимофеев, декан факультета прикладной математики и информатики НГТУ.

– Первый вопрос, который возникает: а чему и как готовить. Это – принципиальный вопрос, – сказал Владимир Семенович. – Важно не скатиться в этой подготовке на уровень пользователя. Во вступительном слове сегодня академиком было сказано, что быть пользователем – недостаточно. Мы обязаны заниматься анализом математических моделей, которые лежат в основе, и пониманием того, как они работают. К сожалению, на это сегодня практически никто не обращает внимания. Мы просто берем, обучаем нейросеть. Вопросы – чему, как и кто – не задаем сами себе от слова «совсем». А между тем в ряде случаев оказывается, что то, что мы используем, просто никак не соответствует нашим данным, которые имеют свою специфику и структуру. Да, ИИ дает дополнительные возможности и с точки зрения организации образовательного процесса. Мы в университете занимаемся не только использованием готовых технологий ИИ для создания продуктов, но и разбираемся с азов, основ, предпосылок – пытаемся создавать свои алгоритмы, в том числе алгоритмы обучения, которые превосходят существующие.

Здесь важно соблюсти баланс между фундаментальным образованием и прикладными технологиями. Мы достигаем его за счет взаимодействия в рамках научных программ, которые делаем вместе со студентами. Нельзя бросаться из крайности в крайность.
К слову, в рамках форума «Золотая Долина» НГТУ заключил соглашение о сотрудничестве с благотворительным фондом «Система», который специализируется на реализации большого количества образовательных программ, связанных с подготовкой кадров для разных индустрий экономики. Об этом более подробно в режиме видеосвязи рассказала президент этого фонда Лариса Сергеевна Пастухова. После чего, собственно, прозвучало мнение представителей самого бизнеса о том, какие же кадры сегодня востребованы и какие приоритетные задачи стоят сейчас с точки зрения внедрения ИИ в бизнес-процессы. Выступающие отмечали роль ИИ в оптимизации производственных процессов, называли навыки работы с ИИ – сквозными компетенциями, которые дают приоритет при трудоустройстве молодых специалистов на работу, причем независимо от направления деятельности.

О том, насколько это важно в логистике и каковы дальнейшие перспективы внедрения ИИ в эту сферу, рассказал Артем Олегович Новиков, ИТ-директор компании СДЭК:
– Мы видим тренд к тому, что все автоматизируется. Транспорт – это одна их самых больших затрат в логистике. Чтобы снизить издержки, компании прибегают к роботизации. Автопилоты – это то, куда сейчас идет большой тренд. Но он, на самом деле, ограничен в большей степени не технологиями, а социальными нормами. Потому как пока не получен точный ответ на философский вопрос – кто виноват в случае ДТП и кто несет ответственность. Есть эксперименты по доставке беспилотным транспортом, но это пока разработки. В промышленную эксплуатацию автопилоты, возможно, войдут в горизонте ближайших нескольких лет.

Появление ИИ очень быстро изменило мир. Сегодня на ИИ возлагают надежды в решении самых разных задач, включая социальные. Впереди – еще более серьезная миссия, о которой мы поговорим на страницах журнала в декабре. Однако, следуя трендам, оправданно снимая с себя часть задач и пытаясь найти общий язык с системами, алгоритмами и машинами, важно не терять навыки общения с людьми и чувство ответственности за свои поступки, решения и изобретения.

Ведь за каждой самой уникальной разработкой стоит вполне конкретный человек. И «Золотая Долина» нам еще раз об этом напомнила.