Таким же образом, авторы работы утверждают, это колониальная история объясняет некоторые из наиболее тревожных характеристик и воздействия ИИ. Они выявили пять проявления колониальности в области:

Алгоритмические дискриминации и угнетения. Связи между алгоритмическом дискриминации и колониального расизма, пожалуй, самое очевидное: алгоритмы построены для автоматизации процедур и обучение на данных в в расовом отношении несправедливого общества, в конечном итоге воспроизведя эти расистские результатов в своих результатах. Но большая часть стипендии по данному виду вреда от ИИ ориентируется на примеры в США. Рассматривая его в контексте колониальности позволяет глобальной точки зрения: Америка-не единственное место с социальным неравенством. “Всегда найдутся группы, которые будут выявлены и подвергнуты”, – говорит Исаак.

Призрак работы. Явление призрака работу, невидимого труда, необходимые для поддержки ИИ инновации, аккуратно расширяет историко экономических отношений между колонизатором и колонизированным. Многие бывшие США и Великобритании колонии—Филиппины, Кения и Индия—становятся духом-рабочие хабы для американских и британских компаний. Стран дешевые, англоговорящий рабочей силы, что делает их естественным, пригодный для работы с данными, существуют из-за своей колониальной истории.

Бета-тестирование. Системы ИИ иногда опробовал на более уязвимых групп, прежде чем реализуется за “живые” пользователи. Кембридж Аналитика, например, бета-тест ее алгоритмов на 2015 Нигерии и 2017 выборы в Кении перед их использованием в США и Великобритании. Исследования позже обнаружили, что эти эксперименты активно нарушается кенийский избирательного процесса и эрозии социальной сплоченности. Этот вид тестирования отголоски исторической лечения Британская Империя из своих колоний в лабораториях новых лекарственных средств и технологий.

Управление ИИ. Геополитический дисбаланс, что колониальная эпоха оставила позади также активно формировать управление ИИ. Это сыграло в последние спешить, чтобы сформировать глобальный ИИ этические принципы: развивающиеся страны в Африке, Латинской Америке и Центральной Азии в значительной степени остаются вне дискуссии, которая привела некоторые отказаться от участия в международной потока данных соглашений. Результат: развитые страны по-прежнему приносили наибольшую пользу от международных норм в форме их преимущество, в то время как развивающиеся страны продолжают отставать.

Международного социального развития. Наконец, тот же геополитический дисбаланс влияют на то, как AI используется для оказания помощи развивающимся странам. “Ай хорошо” или “ИИ для устойчивого развития” инициативы часто патерналистские. Они вынуждают развивающиеся страны зависят от существующих систем ИИ, а не участвовать в создании новых, предназначенных для их собственного контекста.

Исследователи отмечают, что эти примеры не являются исчерпывающими, но они демонстрируют, как далеко идущие колониальное наследие в глобальном развитии ИИ. Они также связывают воедино, казалось бы, разрозненные проблемы под одним объединяющим тезисом. “Это дает нам новую грамматику и словарный запас, чтобы говорить о том, почему эти вопросы важно и то, что мы собираемся сделать, чтобы думать и решать эти вопросы в долгосрочной перспективе”, – говорит Исаак.

Как построить decolonial ИИ

Пособие по изучению вредного воздействия ИИ через этот объектив, исследователи утверждают, это основа она предоставляет для прогнозирования и смягчения ущерба в будущем. ПНГ считает, что там действительно нет такого понятия, как “непреднамеренные последствия”—всего лишь последствия белых пятен организаций и исследовательских институтов, когда им не хватает различных представления.

В этой связи исследователи предлагают три метода для достижения “decolonial”, или более всеобъемлющим и полезным, Ма:

Контекстно-зависимые технического развития. Во-первых, исследователи ИИ построения новой системы следует рассмотреть вопрос о том, где и как он будет использоваться. Их работы также не должно заканчиваться написанием кода, но должно включать тестирование, поддержка политики, которая будет способствовать его надлежащего использования, и организовав акцию против неправильных.

Обратный опекой. Во-вторых, они должны прислушиваться к маргинальным группам. Один из примеров как это сделать начинающему практику участия машинного обучения, которая стремится втянуть в себя людей, наиболее пострадавших от машинного обучения систем при их проектировании. Это дает субъектам возможность бросить вызов и диктовать, как машинного обучения, проблемы не оформлена, какие данные собираются и как и где используется в окончательной модели.

Солидарность. Маргинализированных групп, также должны иметь поддержку и ресурсы, чтобы начать свою собственную работу ИИ. Несколько общин маргинальных АИ-практиков, которые уже существуют, в том числе глубокое изучение совещании, Черный в Ай, и проказница в AI, и их работа должна быть усилена.

С момента публикации своей работе исследователи говорят, что они видели огромный интерес и энтузиазм. “Это как минимум означает, что есть восприимчивость к этой работе”, – говорит Исаак. “Кажется, это разговор о том, что сообщество хочет начать заниматься с”.

ОСТАВЬТЕ ОТВЕТ

Please enter your comment!
Please enter your name here