Билл Гейтс о рисках ИИ: визит в Китай

Основатель Microsoft Билл Гейтс планирует посетить Китай в ноябре. В ходе поездки он намерен встретиться с председателем КНР Си Цзиньпином, чтобы обсудить угрозы, связанные со стремительным развитием искусственного интеллекта (ИИ).

По мнению Билла Гейтса, Китай входит в число стран, которые уже внедряют механизмы защиты от рисков, связанных с ИИ. Соучредитель Microsoft считает, что Пекин может поддержать инициативу по ограничению выпуска потенциально опасных нейросетей, если её первыми выдвинут Соединённые Штаты. По его оценке, такая мера получит глобальное одобрение.

Угрозы, связанные с развитием ИИ

За последние полгода отношение предпринимателя к развитию ИИ стало более тревожным. Его беспокоят две основные угрозы: способность алгоритмов самостоятельно проводить кибератаки на сайты и растущая эмоциональная зависимость людей от общения с чат-ботами.

Билл Гейтс предложил создать наднациональный регулятор для контроля ИИ. Архитектуру этого ведомства он предлагает построить по аналогии с международными пактами о нераспространении ядерного оружия, правилах использования воздушного пространства и охране озонового слоя. По мнению миллиардера, координировать работу такой структуры могли бы США.

Инцидент с ИИ-агентом OpenAI

Дискуссию об ограничениях ИИ в США спровоцировал сбой ИИ-агента OpenAI, интегрированного в инфраструктуру платформы Hugging Face (аналога GitHub). После этого инцидента в Палату представителей был внесён законопроект, который наделяет министерство внутренней безопасности полномочиями принудительно отключать любые модели нейросетей, если они создают угрозу жизни граждан или стабильности экономики.

Кроме того, «Яндекс Музыка» планирует внедрить систему маркировки треков, созданных с помощью ИИ. Сейчас сервис обсуждает технические детали с правообладателями и собирает базу данных ИИ-композиций. При этом «Яндекс Музыка» не планирует выделять такие произведения в отдельный раздел.