Q:
Как робот «София» Саудовской Аравии поднимает пугающие новые вопросы кибербезопасности?
A:Одна из самых горячих новых технологий искусственного интеллекта - робот в натуральную величину, созданный, чтобы выглядеть и вести себя как женщина.
Ее зовут София, ее продюсирует гонконгская компания Hanson Robotics. Почему она робот Саудовской Аравии? Потому что это государство Персидского залива дало Софии ключевое право человека: право на гражданство.
Это делает много заголовков и вызывает всевозможные дебаты о том, как быстро работает искусственный интеллект, и почему мы должны заботиться. Одна из больших проблем - кибербезопасность - как область кибербезопасности адаптируется к этим типам новых технологий?
София и подобные технологии поднимают ключевые проблемы кибербезопасности, которые мы ранее не рассматривали. Вот некоторые из вещей, о которых должны думать профессионалы и эксперты, когда они открывают роботов, которые выглядят, говорят и ведут себя как мы.
В целом, новый реалистичный роботизированный интерфейс является более сложным, чем то, к чему мы привыкли в прошлом, и это означает ряд новых проблем кибербезопасности. В мире технологий люди говорят о «тонкой поверхности атаки», например, в настройке гипервизора или встроенной безопасности на стороне сервера. Ходящий, говорящий робот, с другой стороны, представляет собой очень толстую поверхность атаки - поскольку интерфейсы сложные, у хакеров и злоумышленников есть много способов использовать уязвимости.
Один очень специфический тип проблемы кибербезопасности смешивается с различными социальными проблемами - его можно назвать «синдромом самозванца», хотя этот термин широко используется для описания изменчивой работы нелегитимных ученых.
Как бы вы это ни называли, проблема в том, что поскольку искусственный интеллект подражает конкретным людям с большей степенью успеха, становится все труднее убедиться, что мы не подвергаемся чрезвычайно сложным обманам, которые заставляют нас подвергать сомнению правду. Вы уже можете видеть примеры людей, использующих совершенно новые технологии для имитации известных политиков, как в этом видео Барака Обамы с участием комика Джордана Пила. Проблема самозванца будет только расти и расширяться, поскольку искусственный интеллект дает нам новые окна в реинжиниринг человеческих мыслей и поведения.
Кроме того, в целом, эти новые интерфейсы и возможности будут усиливать и без того продолжающуюся гонку вооружений между специалистами по безопасности и хакерами. Джеймс Мод пишет об этом в статье о Xconomy, называя ИИ «обоюдоострым мечом» для кибербезопасности и указывая, что в целом атака обходится дешевле, чем защита и отмечая озабоченность по поводу конфиденциальности и безопасности. Экстраполируйте некоторые из этих аргументов роботу ИИ, и вы увидите, как с силой и способностью возникает опасность и потребность в дисциплине.
Еще одна большая новая проблема с Софией и мобильными роботами - это то, что они в движении.
Мы привыкли к таким технологиям, как IBM Watson, которые выполняют когнитивную работу очень высокого уровня, оставаясь в центре обработки данных или в некоторой стационарной аппаратной структуре. Это то, к чему мы привыкли - от самых ранних мэйнфреймов до сегодняшних ноутбуков, мы все использовали стационарное оборудование. У нас сейчас есть мобильные телефоны, но на самом деле это карманные компьютеры. Чувствительные роботы-компьютеры поразительно отличаются. Это автономные движущиеся части, которые могут быть использованы злоумышленниками. В статье Reuters, посвященной скорости решения проблем кибербезопасности роботов, показано, как, например, роботов можно заставить «крениться» или двигаться быстро и ненадлежащим образом, чтобы потенциально причинить вред.
В конце концов, София и подобные ей роботы поднимают массу вопросов кибербезопасности и других проблем. Как мы будем отличать законную деятельность от обманчивой и незаконной деятельности, если интерфейс не является сетью с цифровым подключением, а представляет собой мобильное оборудование, которое может заставить нас думать, что оно действует по-человечески? Пересечение этого моста потребует огромных технологических и этических усилий, чтобы люди держали поводья и чтобы мы использовали эти очень мощные технологии для блага общества.
