Оглавление:
Специалисты по кибербезопасности смотрят на искусственный интеллект (ИИ) с энтузиазмом и трепетом. С одной стороны, он может добавить совершенно новые уровни защиты для критически важных данных и инфраструктуры, но, с другой стороны, он также может быть использован в качестве мощного оружия для разрушения этой защиты, не оставляя следов.
Как и любая технология, ИИ имеет как сильные стороны, так и слабые стороны, которые можно использовать. Задача сегодняшних экспертов в области безопасности состоит в том, чтобы держаться на шаг впереди плохих парней, что должно начаться с четкого понимания того, как именно ИИ может использоваться в качестве наступательного информационного оружия.
Взлом AI
Во-первых, говорит Николь Коби из Wired, мы должны признать, что, как и в любой среде данных, сам ИИ может быть взломан. В основе каждого интеллектуального процесса лежит алгоритм, и алгоритмы реагируют на данные, которые они получают. Исследователи уже показывают, как можно обмануть нейронные сети, думая, что изображение черепахи на самом деле является изображением винтовки, и как простая наклейка на знаке остановки может привести к тому, что автономный автомобиль въедет прямо в перекресток. Подобные манипуляции возможны не только после развертывания ИИ, но и во время его обучения, что потенциально дает хакерам возможность нанести ущерб любому типу, не затрагивая инфраструктуру предприятия-клиента.
