Q:
Может ли ИИ определить вашу сексуальную или политическую ориентацию, просто взглянув на ваши фотографии через распознавание лиц?
A:Короче говоря: да, они могут, и они даже лучше, чем люди делают это. Согласно весьма смущающему исследованию Стэнфордского университета, изображения человеческих лиц содержат огромное количество информации, которую человеческий мозг просто не может обработать, в то время как искусственный интеллект может. Согласно их исследованиям, глубокая нейронная сеть была в состоянии различить геев и гетеросексуальных мужчин в 81 проценте случаев и в 74 процентах случаев для женщин, по сравнению с 61 процентом для мужчин и 54 процентами для женщин среди судей. Если алгоритм имел по крайней мере пять изображений человека для сканирования, процент успеха вырос до 91 процента и 83 процентов соответственно.
ИИ не только смог различить некоторые «нетипичные» по признаку пола особенности, такие как стиль ухода и модный выбор, машина также определила некоторые специфические фенотипические черты в их чертах лица, такие как геи, имеющие более узкие челюсти, более крупные лбы и более длинные носы. Независимо от потенциальных последствий этого открытия (таких как идея о том, что гендерная ориентация может быть связана с некоторыми генетическими характеристиками), довольно страшно, насколько вредным может быть применение этой технологии. Например, те правительства, которые преследуют ЛГБТ-людей, могут использовать их для «проверки» их или просто для нарушения конфиденциальности бесчисленных пользователей во всех видах злонамеренных целей - целевой маркетинг является наименьшим злом из всех.
Однако еще более неприятно то, что аналогичные технологии уже доступны и уже используются. ИИ может обнаружить гораздо больше, чем просто сексуальность, глядя на изображение человеческого лица: он может определять эмоции, IQ и даже политические предпочтения. Подобные технологии психометрического профилирования на основе ИИ использовались для получения данных из профилей Facebook и для вывода о личных предпочтениях и выборе образа жизни. Таким образом, избиратели увидят только определенную группу целевых политических объявлений, которые могут тонко управлять их политическим выбором.
Создатель этого эксперимента, психолог Михал Косински, выразил обеспокоенность по поводу возможных рисков, если эта технология будет использоваться в злых целях, до такой степени, что он и его команда потратили много времени на обдумывание того, следует ли вообще публиковать результаты. Политическая консультация Cambridge Analytica фактически использовала информацию, собранную из социальных сетей, для показа рекламы, которая повлияла на президентские выборы в США в 2016 году и, возможно, даже на британскую кампанию Brexit. Согласно продолжающемуся расследованию, огромная армия ботов начала распространять ряд целенаправленных фальшивых новостей о Хиллари Клинтон, чтобы заставить своих потенциальных избирателей голосовать за Дональда Трампа. Многие из этих объявлений были созданы на месте с помощью интеллектуальных алгоритмов, чтобы показать людям во время крупных событий или предвыборных дебатов. ИИ также измерял реакцию людей, чтобы усилить их влияние на избирателей Клинтона, чтобы они поверили, что она злая и невменяемая личность.
После скандала агентство было закрыто, но подобные технологии все еще существуют и все еще могут использоваться в злонамеренных целях. Косинский много выступил с предупреждением об этом риске задолго до скандала, но, к сожалению, человеческая природа не может быть изменена. В неопубликованном эксперименте он утверждал, что его ИИ мог различать лица республиканцев и демократов, хотя он признал, что бороды могут иметь значение. Так что для всех теоретиков заговора (и людей, разбирающихся в конфиденциальности), есть большой намек - если вы хотите предотвратить вмешательство правительства в вашу личную жизнь, просто отрастите бороду. Огромный, если возможно.
