Q:
Почему компания может закрыть проект искусственного интеллекта чата?
A:Компании могут закрыть проекты чатботов с искусственным интеллектом по многим причинам, но наиболее вероятные из них можно сгруппировать в пару категорий. Во-первых, компании могут отключить технологии чат-ботов, если они будут действовать таким образом, что это может сделать компанию неудобной, например, способствовать нежелательной речи. С другой стороны, компании могут закрыть проект чат-бота, если он начнет демонстрировать разум и способности, которые либо не поддаются простому контролю, либо могут представлять какую-то возможную угрозу для здоровья и безопасности населения.
У нас есть оба этих сценария, задокументированные в недавней истории. Эксперимент Microsoft с чат-ботом Tay закончился, когда Tay начал принимать некоторые из худших характеристик своих коллег-людей - расистские и агрессивные комментарии и в целом нежелательную активность, большая часть которой была явно изучена или даже попрошена непосредственно от пользователей.
В совершенно ином конкретном исследовании настройки чат-бота, впервые примененного Facebook, были закрыты, когда ученые наблюдали, как два чат-бота общались друг с другом способом, который был несколько исключительным для наблюдения человека. Было утверждение, что сущности чат-ботов начали «разговаривать в некоем коде», который был бы более удобным для них и менее прозрачным для их людей-обработчиков. Это пример очень реальной озабоченности по поводу искусственного интеллекта в целом - когда мы делаем большие успехи в развитии сильного искусственного интеллекта, люди должны действовать, чтобы сдерживать и контролировать любые примеры реализации ИИ, чтобы убедиться, что они не пересекаются, учитывая границы. Существует огромное количество этических проблем и вопросов безопасности, которые необходимо решать с помощью сильного искусственного интеллекта, и это является одной из основных причин того, что некоторые чат-боты или другие проекты по искусственному интеллекту могут быть закрыты заинтересованными сторонами, которые создали и поддержал их через определенный процесс.
