Q:
Почему некоторые компании рассматривают возможность добавления «контроля человеческой обратной связи» в современные системы ИИ?
A:Некоторые компании, работающие с передовыми технологиями искусственного интеллекта, работают над созданием системы управления людьми для этих систем, предоставляя инструментам машинного обучения и глубокого обучения непосредственный человеческий контроль. Эти компании также не являются мелкими игроками - Google DeepMind и OpenAI Элона Маска - два примера крупных компаний, которые получают практические знания о достижениях в области искусственного интеллекта. Имея это в виду, результаты отличаются - например, DeepMind стал предметом споров из-за его предполагаемого нежелания предоставлять ключевые данные общественности, в то время как OpenAI гораздо более, открыто, о своей работе по управлению искусственным интеллектом.
Даже такие известные люди, как Билл Гейтс, взвесили этот вопрос, и Гейтс сказал, что он один из многих, кто обеспокоен появлением искусственной суперинтеллекта, который может в некотором смысле выйти за рамки человеческого контроля. Маск, со своей стороны, также выдвинул несколько тревожных формулировок о возможности «мошеннического ИИ».
Вероятно, это самая неотложная причина, по которой компании работают над применением человеческого контроля к ИИ - идея о том, что некоторая технологическая уникальность приведет к сверхмощной разумной технологии, которую люди просто не смогут больше контролировать. Начиная с рассвета человеческих амбиций, мы создали инструменты, чтобы гарантировать, что мы можем контролировать силы, которыми мы обладаем - будь то лошади с поводьями и жгутами, электричество в изолированных проводах или любой другой вид механизма управления, имея контроль - это врожденная человеческая функция, и поэтому в мире весь смысл в том, что, когда искусственный интеллект приближается к реальной функциональности, люди применяют свои собственные прямые средства контроля, чтобы контролировать эту силу.
Тем не менее, боязнь сверхумных роботов - не единственная причина, по которой компании применяют человеческий контроль в проектах машинного обучения и искусственного интеллекта. Еще одна важная причина - смещение машины - это идея, что системы искусственного интеллекта часто ограничены в том, как они оценивают рассматриваемые данные, - так что они усиливают любое смещение, присущее системе. Большинство профессионалов, занимающихся машинным обучением, могут рассказывать ужасные истории об ИТ-системах, которые не могли одинаково относиться к группам пользователей - будь то гендерное или этническое неравенство или какой-то другой отказ системы по-настоящему понять нюансы наших человеческих обществ и как мы взаимодействуем с людьми.
В некотором смысле, мы могли бы поставить систему управления людьми на системы, потому что боимся, что они могут быть слишком мощными - или, наоборот, потому что боимся, что они могут быть недостаточно мощными. Управление человеком помогает нацелить наборы данных машинного обучения, чтобы обеспечить большую точность. Они помогают закрепить идеи, которые компьютер просто не может освоить самостоятельно, либо потому, что модель недостаточно развита, потому что ИИ не продвинулся достаточно далеко, либо потому, что некоторые вещи просто лежат в области человеческого познания. Искусственный интеллект хорош для некоторых вещей - например, система, основанная на наградах и счетах, позволяла искусственному интеллекту побеждать человека-игрока в чрезвычайно сложной настольной игре «Вперед», но для других вещей эта система, основанная на стимулах, совершенно неадекватно.
Короче говоря, существует множество веских причин, по которым пользователи-пользователи должны принимать непосредственное участие в работе проектов по искусственному интеллекту. Даже самые лучшие технологии искусственного интеллекта могут много думать самостоятельно, но без реального биологического человеческого мозга, который может обрабатывать такие вещи, как эмоции и социальные нравы, они просто не могут видеть общую картину по-человечески.
Квалифицированная компания по машинному обучению может помочь в достижении этого баланса с помощью специалистов по бизнесу и предметной области, а также разработчиков машинного обучения, обладающих навыками для решения проблем крупного бизнеса.
