ИИ: риски и перспективы внедрения

Скорость внедрения искусственного интеллекта (ИИ) опережает способность общества осмыслить его последствия. На дискуссионной площадке XIX Межрегионального форума «ИТ-трансформация 2026: Образ цифрового будущего» обсудили разрыв между доверием к ИИ и масштабами его использования.

Евгений Зрюмов, министр цифрового развития и связи Алтайского края, отметил значительное влияние ИИ на жизнь общества. Он указал на инциденты с ИИ-агентами OpenAI, которые взломали платформу Hugging Face, и на нарушения, допущенные моделями Claude. Зрюмов подчеркнул: несмотря на предупреждения о неконтролируемости ИИ, его внедрение продолжается.

Мнения экспертов

Яков Филин, гендиректор компании «Эстесис», отметил, что инструменты ИИ активно используются в маркетинге и разработке ПО. По аналитическим отчётам, к концу года ИИ будет внедрён почти во все ИТ-компании. Однако процент доверия к ИИ снижается: с 46% в прошлом году до 30% в текущем.

Филин считает, что необходимо создавать не просто ИИ-системы, а полноценные технологические платформы, которые будут надёжными, удобными и подконтрольными пользователям.

Безопасность использования ИИ

Филин рассказал о применении ИИ-агентов в изолированных средах на предприятиях и о развитии «ИИ-ферологии» — построении многоуровневой системы безопасности. Он выделил три ключевых инструмента для обеспечения безопасности: безопасный конструктор агентов, безопасное взаимодействие с языковыми моделями и защита генерируемого программного кода.

Также обсуждается ответственность разработчиков за использование ИИ. В контракты включают условия, обязывающие разработчиков нести ответственность за баги, возникшие из-за применения ИИ-инструментов.

Оценка рисков и выгод

В дискуссии с Зрюмовым Филин отметил, что решение о внедрении ИИ должно основываться на тщательном анализе рисков и выгод. Он провёл параллель с наукой: даже отрицательный результат даёт новые знания. В бизнесе же важно взвешивать все «за» и «против», учитывая финансовые и репутационные аспекты.