Q:
Каковы этические проблемы, связанные с машинным обучением?
A:Этические проблемы, связанные с машинным обучением, связаны не столько с самими алгоритмами машинного обучения, сколько с тем, как используются данные.
Скандал Cambridge Analytica с Facebook, где политическая консалтинговая фирма использовала данные с сайта социальной сети без ведома или согласия пользователей, проиллюстрировал множество проблем, связанных со сбором и использованием пользовательских данных. Хотя во многих лицензионных соглашениях с конечным пользователем указано, как могут использоваться данные пользователей, многие пользователи социальных сетей могут не читать мелкий шрифт.
| Скачать бесплатно: машинное обучение и почему это важно |
Другая проблема состоит в том, что эти алгоритмы машинного обучения могут быть «черными ящиками», где невозможно увидеть, как они действительно работают. Может быть невозможно узнать, почему алгоритм машинного обучения принял решение.
Одной из областей машинного обучения является постановка медицинских диагнозов. Алгоритм может посмотреть на рентген, чтобы найти рак. Доктор-человек может объяснить, почему они поставили диагноз, но мы можем не знать, как алгоритм машинного обучения определил, был ли у пациента рак или нет.
Выпуск программ машинного обучения по лицензиям с открытым исходным кодом является одним из решений. Когда люди могут посмотреть на исходный код программы, они могут увидеть, как она принимает решения.
Другой проблемой является использование данных обучения машинному обучению и возможных ошибок. Было несколько случаев, когда расовые и другие предрассудки непреднамеренно превращались в программы машинного обучения. Один алгоритм определял чернокожих как горилл, а другой изменял черты лица цветных людей, чтобы они выглядели более «европейскими», утверждая, что их украшают.
Один из способов противодействия этому - привлечь больше людей из разных областей в области ИИ.
Еще одна проблема - безопасное использование машинного обучения и искусственного интеллекта. Программы искусственного интеллекта и машинного обучения могут развить поведение, которого люди не хотят, например, помешать людям отключить их.
