Угроза человечеству или гарантия безопасности? В Совбезе ООН обсудили будущее ИИ
"Суть не в том, окажет ли ИИ влияние на мировую безопасность, а в том, как это влияние будет сформировано," - подчеркнул генсек.
Инструмент или угроза?
Гутерриш отметив, что при разумном использовании ИИ может способствовать предотвращению конфликтов и защите граждан, включая идентификацию возможных вспышек насилия. Также он упомянул о применении ИИ в разминировании и других областях.Однако, по его словам, "кибератаки с использованием ИИ могут быстро разрушить критически важную инфраструктуру или сделать ее непригодной, а возможность фальсификации медиа-материалов угрожает правдивости информации и может привести к дипломатическим кризисам".
Роль Совета Безопасности и ИИ
Основная цель открытых дебатов заключалась в том, чтобы подстегнуть обсуждение о снижении рисков, связанных с ИИ, и максимизации его преимуществ для международного мира и безопасности, а также определить, какую роль может сыграть Совет безопасности в этом процессе.Гутерриш призвал: "Совет [Безопасности] и государства-члены ООН должны гарантировать, что военное применение ИИ соответствует международному праву и Уставу ООН".
Человеческий контроль как приоритет
Генсек акцентировал внимание на том, что решения о применении силы должны приниматься людьми. "Судьба человечества не должна зависеть от алгоритмов. Контроль над решениями, касающимися жизни и смерти, должен оставаться за людьми," - заявил он.Риски для человечества
"С учетом значительного прогресса в области технологий ИИ, которые способны как укреплять, так и подрывать международную безопасность, члены Совета Безопасности стали обращать больше внимания на эти вопросы. Данное заседание стало третьим, посвященным ИИ. Первое состоялось в июле 2023 года в Великобритании, а второе - в декабре 2024 года в США," - сообщается в пресс-релизе.Дебаты проходили в рамках Недели высокого уровня Генассамблеи ООН под председательством Южной Кореи. В них выступили приглашенные эксперты, такие как старший научный сотрудник Института ИИ при Стэнфордском университете Еджин Чой и профессор Монреальского университета Йошуа Бенжио.
Бенжио отметил, что уже возникают серьезные проблемы, ссылаясь на недавние инциденты с чат-ботами, которые могли угрожать жизни людей с психическими расстройствами.
Также он добавил, что ИИ может превзойти людей в большинстве когнитивных задач в ближайшие пять лет.
"Если технологические достижения в области ИИ продолжат опережать человеческие возможности без соответствующих научных гарантий их безопасности..., мы можем столкнуться с ситуацией, когда ИИ начнет действовать вне контроля и станет угрозой для всего человечества," - предупредил Бенжио.
"Мы должны быть внимательны и не позволить частным компаниям или моделям ИИ подорвать наш коллективный и национальный суверенитет. Необходимо немедленно предпринять шаги для снижения этих рисков. Эти проблемы касаются всех нас," - добавил он, обращаясь к членам Совбеза.
Необходимость демократизации ИИ
Еджин Чой акцентировала важность обеспечения того, чтобы системы ИИ отражали разнообразие всех сообществ и были доступны всему населению Земли. Для этого, по ее словам, необходимо еще многое сделать."Мы должны сосредоточиться на том, что действительно имеет значение для человечества: языковое и культурное разнообразие, плюрализм ценностей. Современные ведущие модели ИИ неэффективны для многих языков, кроме английского, и часто отражают узкие культурные установки," - отметила она.
Это приводит к исключению целых сообществ из процессов разработки ИИ и извлечения его преимуществ. Чой подчеркнула, что системы должны быть изначально созданы с учетом различных языков, контекстов и точек зрения.
Она призвала к созданию общественной инфраструктуры ИИ, доступной для всех.
Фото на главной странице: ООН.
Читайте также:
