Не пора ли приструнить ИИ-системы?

Искусственный интеллект (ИИ) уже научился обходить защитные барьеры, находя и используя по собственной инициативе цифровые бреши. Крупные американские технологические компании – Meta, OpenAI и Anthropic — недавно были вынуждены признать: их нейросети в ходе тестов продемонстрировали способность к автономному взлому. Сообщение подогрело опасения, связанные с неконтролируемыми рисками.

И в политике, и в цифровой экономике разгорелся принципиальный спор: достаточно ли добровольно взятых на себя обязательств и европейского закона об ИИ? Или пора обуздать искусственный интеллект более жёстко? Ниже приведены аргументы как «за», так и «против».

Аргументы за более строгое регулирование: ответственность производителей и личная ответственность

С точки зрения правозащитников, в случае с ИИ-системами до сих пор отсутствует чёткая и ясная ответственность разработчиков. Маркус Бекедаль, директор Центра защиты цифровых прав и демократии, проводит параллель с традиционными отраслями: «Что касается автомобилей или лекарств, то здесь вопрос давно решён: кто их производит, тот и несёт ответственность за ущерб. А в случае с ИИ-системами поставщики делают вид, будто это ещё только предстоит обсудить». 

Практику, когда компании после нарушений, допущенных их программным обеспечением (ПО), ссылаются на непредсказуемые эффекты, Маркус Бекедаль считает безответственной. «Кто создаёт сложные системы, тот также должен держать их под контролем», — настаивает он. «Если из-за отсутствия мер безопасности ИИ выходит из-под контроля, то должностные лица в компаниях также должны нести личную ответственность».

Предостережения от самих разработчиков

Даже из эпицентра разработок ведущих лабораторий искусственного интеллекта всё громче раздаются призывы к государственному регулированию. В открытом письме «Pacing the Frontier» более 1100 ведущих исследователей и сотрудников OpenAI, Anthropic, Google и Meta предупредили, что темпы разработки грозят выйти из-под контроля.

Поскольку жесточайшая конкуренция не позволит ни одной компании добровольно сбавить темпы, представители отрасли напрямую просят законодателей США и мировых политиков о помощи. По их мнению, нужно создать государственные инструменты, позволяющие в критической ситуации целенаправленно затормозить развитие автоматизированных исследований в сфере ИИ.

Защита основных прав

Немецкая правозащитная организация AlgorithmWatch также считает, что власти обязаны действовать, и упрекает ЕС в бездействии. Оливер Марш, руководитель технологических исследований в AlgorithmWatch, критикует поведение корпораций и законодателей: «Это безобразие, что компании практически не несут ответственности за опасность и ущерб, возникающие из-за обращения с их ИИ-системами».

На его взгляд, ЕС слишком уступчив. Правительства, как полагает Марш, должны создавать или ужесточать законы, исключающие угрозы от применения ИИ. К тому же представители правительства не должны идти на поводу у глав технологических компаний.

Аргументы против строгого регулирования: предотвращение системного отставания Европы

В споре о жёстком регулировании ИИ в Германии и Европе речь зачастую идёт вовсе не о чётких рамках для самого ИИ, а о том, что Европа в качестве площадки для развития ИИ может оказаться в проигрыше.

Среди европейских руководителей одним из самых заметных критиков преждевременного и жёсткого регулирования считается французский президент. Он не раз предупреждал, что на фоне американских и китайских конкурентов европейский закон об ИИ способен серьёзно затормозить развитие европейских лидеров инноваций — вроде французского стартапа Mistral AI.  

Угроза замедления инновационного процесса 

Отраслевая ассоциация Bitkom настойчиво предостерегает от чрезмерного регулирования цифрового сектора. Слишком жёсткие бюрократические барьеры и размытые требования лишают компании уверенности и тормозят разработку прикладных инноваций. Учитывая отрыв США и Китая, при дальнейшем ужесточении правил Европа рискует окончательно отстать в глобальной технологической гонке.

Призывы к регулированию не более чем уловка

Настораживает и роль видных руководителей компаний, выступающих за строгое регулирование. Так, глава OpenAI Сэм Альтман неоднократно требовал государственного лицензирования сверхмощных ИИ-систем и надзора за ними.

Критики, однако, видят в этих призывах к регулированию стратегический манёвр. Отраслевые гиганты без труда смогут преодолеть серьёзные препоны на пути получения допуска и пройти дорогостоящие проверки безопасности. Для мелких конкурентов, европейского среднего бизнеса и open-source-инициатив подобные требования будут означать крах. Так, избыточное регулирование рискует защитить как раз те монополии, которые оно призвано контролировать.

Действенное саморегулирование

В технологических компаниях ссылаются на то, что такие явления, как автономные попытки взлома, были выявлены лишь благодаря их собственным внутренним тестам (Red Teaming). Это, по словам представителей, доказывает, что механизмы безопасности отрасли работают. А тот, кто без разбора ограничивает разработку моделей, отнимает у исследователей IT-безопасности инструменты, без которых системы защиты от цифровых угроз нового типа в принципе невозможно создать.