США, Великобритании и еще 16 стран договорились обезопасить технологии ИИ
США, Великобритания и ряд других стран договорились о том, чтобы обезопасить технологии искусственного интеллекта.
Соответствующее соглашение заключили 18 стран. Кроме США и Великобритании в этот список вошли: Германия, Италия, Чехия, Эстония, Польша, Австралия, Чили, Израиль, Нигерия и Сингапур.
Документ состоит из 20 страниц, а один из высокопоставленных американских чиновников назвал его первым детальным международным соглашением о том, как оградить искусственный интеллект от злоумышленников.
Участники соглашения пришли ко мнению, что компании должны разрабатывать и внедрять ИИ таким образом, чтобы обезопасить клиентов и широкую общественность от злоупотреблений. При этом они призывают разработчиков делать такие системы изначально безопасными.
Соглашение не имеет обязательной силы и содержит преимущественно общие рекомендации, такие как мониторинг попыток взломов и манипуляций систем ИИ, защита данных от подделки и проверка поставщиков программного обеспечения.
Однако директор Агентства кибербезопасности и безопасности инфраструктуры США Джен Истерли назвала важным то, что так много страны поддержали идею о том, что системы ИИ должны ставить безопасность на первое место.
В документе рассматриваются такие вопросы, как уберечь технологию ИИ от хакеров, и содержатся рекомендации, например, выпускать модели только после соответствующего тестирования безопасности. Впрочем, соглашение не касается острых вопросов надлежащего использования ИИ или способов сбора данных, на которых учатся модели.
Европа пока опережает США в регулировании искусственного интеллекта: местные законодатели разрабатывают правила для ИИ. Франция, Германия и Италия также недавно достигли соглашения о том, как следует регулировать искусственный интеллект.
