Если вдруг ИИ выйдет из-под контроля

Растущие возможности искусственного интеллекта (ИИ), по оценке профессора Андреаса Денгеля, директора Немецкого исследовательского центра искусственного интеллекта (DFKI) в Кайзерслаутерне, несут в себе серьёзные риски. «Беспокоиться всё же придётся, поскольку мы уже сейчас видим, насколько мощным стал ИИ как инструмент», – заявил он, добавив, что ИИ давно уже не просто чат-бот, отвечающий на вопросы людей.

По словам Денгеля, в так называемых «агентских средах» — там, где ИИ действует самостоятельно — ИИ-системы могут «развернуть всю свою когнитивную мощь». Несколько автономных ИИ-программ способны самостоятельно преследовать цели и взаимодействовать друг с другом. Проблемы же начинаются, когда ИИ-система получает цель, сформулированную недостаточно точно или лишённую моральных границ. Тогда искусственный интеллект может отыскивать лазейки и обходные пути, чтобы как можно успешнее выполнить свою функцию оценки.

Система, лишённая человеческого понимания

В последнее время не прекращается поток разоблачений о пугающих хакерских способностях ведущих ИИ-моделей. Британские исследователи безопасности, например, застали ИИ в ходе тестового прогона за попыткой по собственной инициативе внедрить уязвимость в общедоступное ПО. Кроме того, в тестах ИИ-модели непреднамеренно проникали в компьютерные системы реальных компаний.

«Нельзя сказать, что ИИ действовал осознанно», — говорит Денгель. Система не понимает, что значит выйти из-под контроля – по крайней мере, так, как это понимает человек. «Она прежде всего хотела не выйти из-под контроля, а решить задачу».

Растущая угроза для критически важной инфраструктуры

Опасность заключается ещё и в том, что ИИ благодаря своей огромной вычислительной мощности способен распознавать закономерности, неочевидные для человека. «Во всё более сложной среде, насыщенной цифровыми технологиями, такая способность позволяет выявлять слабые места, неизвестные ранее».

Денгель видит растущую угрозу для критически важной инфраструктуры. Атаки на электроснабжение или спутниковую связь — отнюдь не научная фантастика. «Над нами, по сути, каждый день, каждый час нависает весьма серьёзная угроза», — уверен учёный. Риски, по его словам, очевидны. Многие сведения о системах находятся в открытом доступе, к тому же существует немало инструкций по кибератакам.

Основание для надежды есть

Угрозы в киберпространстве, соответственно, будут и дальше нарастать. И всё же повод для надежды есть. Государства со схожими демократическими и этическими ценностями уже работают над совместными мерами. Помимо регулирования, речь прежде всего идёт о контроле и уголовном преследовании.

По мнению Денгеля, необходимы международные правила, способные обеспечить действенное наказание. Профессор выразил уверенность, что соответствующие сильные альянсы вполне ещё могут сформироваться. Также всё громче звучат голоса из крупных компаний и корпораций США, требующие более строгого регулирования.