Q:
Почему некоторые эксперты говорят, что ИИ «разрушит цифровую аутентичность»?
A:Машинное обучение и искусственный интеллект быстро меняют многие отрасли и действительно меняют наши представления о техническом прогрессе. Но они также привлекают некоторые интересные дихотомии и противоречия относительно того, как мы относимся к нашим компьютерам и смартфонам или другим новым интерфейсам, которые могут появиться.
Один из больших вопросов, связанных с искусственным интеллектом, заключается в том, как он повлияет на «подлинность» - или как люди проверяют и подтверждают существующую реальность в «мясном пространстве» или в цифровом мире. Когда вы действительно углубляетесь в то, как это работает, вы видите внутреннее противоречие между ограничениями нашей технологии и тем, как мы доверяем технологии, которая находится в нашем распоряжении.
Один из лучших примеров можно найти в недавней статье Wired, в которой показано, как люди с искусственным интеллектом и ресурсами машинного обучения могут сфотографировать движущегося коня и наложить полоски зебры в процессе, который автор называет «зебрафикацией».
Это аккуратно и ново, но это также может представлять проблему. Когда вы видите зебру на цифровом экране, как вы узнаете, что это зебра, а не просто лошадь с полосами зебры, искусно надетая на нее каким-нибудь технически подкованным человеком?
Это может показаться теоретическим вопросом, но те же самые вопросы скоро будут применяться к новостям, которые мы получаем в цифровом виде - от политики до экономики и религии - все это будет зависеть от нашей способности просеивать информацию Чтобы проверить и различить правду и вымысел, миф и реальность. Поскольку новые инструменты искусственного интеллекта предлагают больше способов манипулировать изображением и видео, это станет намного сложнее.
Другой отличный пример - новые голосовые технологии. В статье несколько лет назад мы рассказали о перспективном ИТ-проекте, в котором приняли участие известные люди и создали двигатели голосовых моделей, которые могли заставить этих известных людей сказать что-либо из загробной жизни.
Опять же, это аккуратная и интересная технология - она кажется забавным способом использования технологий обработки речи. Но это действительно создаст проблему, когда мы перейдем от старой аналоговой и неуправляемой цифровой голосовой технологии к новой синтетической и готовой голосовой связи. Как вы узнаете, кто разговаривает с вами - по телефону, по телевизору или прямо в ухе?
В частности, идея изменения звука, изображений и видео сложными способами может разрушить некоторые из наших наиболее ценных идей как общества. Как люди будут доверять тому, что слышат и видят в политическом мире? А как насчет закона - будут ли обвиняемые в совершении преступлений новые типы апелляций, основанные на возможном изменении доказательств?
Еще один способ понять некоторые из этих проблем - взглянуть на научную фантастику - от «Рэя Брэдбери 451» до «1984» Джорджа Оруэлла и далее, рассказчики прошлых веков неоднократно предупреждали нас, что технологии могут быть использованы как полезными, так и другими. и проблемные цели. Одна из причин, почему так много экспертов и руководителей ИТ-компаний призывают к «объяснимому искусственному интеллекту» и экспертным группам по этике, заключается в том, что они понимают проблему: если мы не будем тщательно контролировать технологии, мы не сможем доверять их кому-либо. степени. Вместо того, чтобы помогать нам в достижении наших целей, они могут в конечном итоге причинить нам боль, отчасти вызвав тот социальный хаос, который существует, когда мы не можем по-настоящему понять правду и реальность. Отчасти хорошая новость заключается в том, что такие технологии, как блокчейн, которые обеспечивают аутентификацию транзакций, могут помочь при применении к цифровым записям.
