Оглавление:
Определение - Что означает проблема обучения стоимости?
Проблема обучения ценности - это особая фундаментальная проблема в развитии технологий машинного обучения и искусственного интеллекта, которая учитывает разницу между людьми и компьютерами и способы их мышления.
Короче говоря, проблема ценностного обучения основана на том, насколько трудно компьютерам понять, что «ценить» (с точки зрения как данных, так и политики) и как действовать в сети машинного обучения, и как программисты могут оптимизировать программа действует в соответствии с их первоначальными намерениями при создании.
Techopedia объясняет проблему обучения
Ключ к проблеме обучения ценности заключается в том, что для программистов чрезвычайно важно иметь возможность создавать программы машинного обучения, которые выполняют намеченные значения. Однако подвох-22 заключается в том, что значения не могут быть явно указаны способами, которые мешают обучению самой программы.
Люди иногда говорят о «конвергенции» технологий машинного обучения как об успешном сосредоточении на ценностных данных, но проблема ценностного обучения в некоторых отношениях немного отличается. Это идея о том, что должен быть какой-то основной способ показать программе машинного обучения, что нужно, а не просто объяснить ее, что является детерминистическим способом запуска ML.
Например, возьмите эту статью о проблеме обучения стоимости, которая предполагает, что программы машинного обучения могут иметь набор данных, показывающих положительные реакции человека на стимулы. При чтении этих типов обращений к проблеме ценностного обучения становится ясно, что в машинном обучении существует серьезный пробел, который нелегко устранить - по сути - как люди создают машины, которые действительно могут мыслить как люди? Другой способ объяснить это заключается в том, что проблема ценностного обучения лежит в основе того, как мы думаем как люди, и как наши мысли не всегда основаны на механическом вводе.
Для компьютеров моделировать нашу интуицию, наш инстинкт, наши социальные склонности и наши самые глубокие этические ценности - непростая задача, даже когда компьютеры могут научиться играть в шахматы по-человечески или опередить нас в решении сложных математических задач. Профессионалы могут ожидать, что программа обучения по-прежнему будет занимать центральное место в развитии технологий машинного обучения.
