В Берлине открывается Институт безопасности ИИ

Без шума и пышных церемоний в Берлине начал работу новый немецкий Институт безопасности искусственного интеллекта (ИИ). Как отмечается в совместном сообщении Федерального министерства внутренних дел и Министерства цифровых технологий, создание Института безопасности ИИ претворяет в жизнь решение Совета национальной безопасности, принятое в июне. 

Безопасность под двумя углами зрения

Как отмечается в сообщении, задачей института, получившего название AISI Deutschland (AI — Artificial Intelligence, SI — Security and Safety Institute), станет оценка возможностей и рисков для Германии от ИИ-моделей, а также неуклонное укрепление способности Германии противостоять угрозам в сфере ИИ. На первом этапе ядро новой структуры составят Федеральное сетевое агентство и Федеральное ведомство по безопасности информационных технологий (BSI).

BSI будет отвечать за кибербезопасность (Security) — то есть за защиту ИИ-системы и их данных от кибератак и неправомерного использования. Федеральное сетевое агентство возьмёт на себя ответственность за безопасность функционирования ИИ-систем (Safety) — речь идёт о непреднамеренных ошибках: например, когда беспилотный автомобиль замечает препятствие слишком поздно или медицинский ИИ не видит опухоль на рентгеновском снимке.

Отклонения в поведении ИИ-моделей

На практике, однако, не всегда удаётся однозначно разграничить разные аспекты безопасности. Американским компаниям Anthropic и OpenAI недавно пришлось признать, что их ИИ-модели в ходе тестирования непреднамеренно проникли в компьютерные системы реальных компаний. Эти признания подогрели давние опасения по поводу кибератак с использованием искусственного интеллекта.

Как заявил федеральный министр цифровых технологий Карстен Вильдбергер, Германии нужен эффективный институт безопасности ИИ, чтобы соответствовать темпам технологического развития. «AISIDeutschland формирует основу для того, чтобы выйти на международный уровень в сфере искусственного интеллекта», — подчеркнул министр внутренних дел Александер Добриндт.

Речь также идёт о снижении цифровой зависимости

«Цифровизация — это краеугольный камень стремительно меняющегося мира, она влияет на правила сосуществования, политику, власть и государственные интересы, испытывая при этом на себе их обратное воздействие», — говорит президент BSI Клаудия Платтнер. В центре цифровизации находится ИИ, «также кардинально меняющий ситуацию в сфере безопасности». По словам Платтнер, данная фаза может породить нестабильность, но одновременно она может стать отправной точкой для повышения устойчивости и развития инноваций. Германии, по её мнению, необходимо справиться с новым стратегическим вызовом: оценить возможности и риски, возникающие для страны из-за современных ИИ-моделей, прочно укрепить безопасность в сфере искусственного интеллекта и обеспечить цифровой суверенитет. Создание AISI Deutschland — это знаковая веха на непростом пути.

Как отмечается в сообщении, новый институт также будет консультировать Федеральное правительство и сотрудничать с «европейскими и трансатлантическими партнёрами». Помимо прочего, вместе с международными партнёрами институту предстоит добиваться единых стандартов эффективного и безопасного обращения с новейшими ИИ-моделями.