Пандемии коронавируса был благом для теста мониторинга отрасли. Примерно полтора десятка компаний в США утверждают, что их программное обеспечение может точно обнаружить и предотвратить мошенничество в онлайн-тестов. Examity, HonorLock, Proctorio, ProctorU, Respondus и другие быстро растут, начиная с колледжей и университетов перешли на дистанционные занятия.

Хотя нет никаких официальных подсчитать, разумно сказать, что миллионы алгоритмически очных тестов происходят каждый месяц во всем мире. Proctorio сказал Нью-Йорк Таймс в мае, что бизнес вырос на 900% в течение первых нескольких месяцев пандемии, до точки, где компании очных 2,5 миллионов тестов по всему миру только в апреле.

Я библиотекарь университета и я видел последствия этих систем вблизи. Мой работодатель, Университет Колорадо Денвер, имеет контракт с Proctorio.

Это стало для меня ясно, что алгоритмическом мониторинга-это современная технология видеонаблюдения, которая усиливает превосходства белой расы, сексизм, системах власти, и трансфобии. Использование этих инструментов вторжение учащихся частной жизни и, зачастую, нарушение гражданских прав.

Если вы студент, принимая алгоритмически очных проверить, вот как это работает: когда вы начинаете, программа начинает запись с камеры компьютера, аудио -, и сайты, которые вы посещаете. Он измеряет ваше тело и наблюдает за вами на время экзамена, отслеживая ваши движения, чтобы определить, что он считает изменой поведения. Если ты сделаешь что-то, что программа считает подозрительными, он будет предупреждать своего преподавателя, чтобы просмотреть запись и предоставить им цветную вероятность недобросовестного выполнения работы.

В зависимости от того, какой фирмы программного обеспечения, она будет использовать какое-то сочетание машинного обучения, искусственного интеллекта и биометрии (в том числе распознавание лица, распознавание лица, или отслеживание глаз), чтобы сделать все это. Проблема в том, что распознавания лиц и обнаружения зарекомендовали себя как расист, сексист, и трансфобных нади нади над снова.

В общем, технология имеет Схема армирования структурных угнетения , как расизм и сексизм. Вот эти самые предубеждения появляться в тест мониторинга программного обеспечения, которое несоизмеримо больно маргинальных студентов.

Негритянка в моем университете как-то сказал мне, что всякий раз, когда она используется программное обеспечение тест Proctorio это контролировать, он всегда подсказывал ей возможность пролить больше света на ее лице. Программа не смогла проверить ее личность и она была лишена доступа к так часто тесты, которые она должна была пойти к ней профессора, чтобы принять другие меры. Ее белые коллеги никогда не имел эту проблему.

Подобной дискриминации может произойти, если студент транс или недвоичных. А если ты белый человек в СНГ (как и большинство разработчиков, которые создают программное обеспечение для распознавания), вы, вероятно, будет в порядке.

Студенты, имеющие детей, также наказывается этих систем. Если вы никогда не пробовали отвечать на письма, заботясь для детей, вы знаете, как невозможно его можно получить даже несколько минут без перерывов в передней части компьютера. Но несколько мониторинга программы будут шумы флаг в помещении или тех, кто оставляет в поле зрения камеры, как подлых. Это означает, что студенты с медицинских условий, которые должны часто использовать в ванной комнате или лекарства будут рассмотрены аналогичным образом подозреваемого.

За все способы, которыми мониторинга программного обеспечения может предвзято относится к ученикам, алгоритмическом мониторинга является также значительное вторжение в частную жизнь. Эти продукты фильм студенты в своих домах и часто требуют их выполнения “комната сканирования”, которые используют свои камеры, чтобы показать, что их окружает. Во многих случаях преподаватели могут получить доступ к записи своих учеников в любое время, и даже скачать эти записи на своих личных машинах. Они также могут увидеть место каждого студента на основе их IP-адрес.

Конфиденциальность имеет первостепенное значение для библиотекарей, как меня, потому что покровителями доверяют нам свои данные. После 9/11, когда Патриотический акт уполномочил Министерство национальной безопасности, чтобы доступ к библиотеке покровителя записей в поисках террористов, многие библиотекари начали использовать программное обеспечение, которое удалили патрон рекорд после того, как книга была возвращена. Продукты, которые нарушают конфиденциальности и дискриминировать их идти против моей профессиональной этики, и это беспокоит, чтобы видеть такую продукцию охотно принят высших учебных заведений.

Эта ревность может быть немного более понятно, если бы там было никаких доказательств, что эти программы На самом деле сделал то, что они утверждают. Насколько мне известно, нет ни одного рецензируемых или контролируемое исследование, которое показывает мониторинга программного обеспечения эффективно обнаруживает и предотвращает обман. Учитывая, что университеты гордятся принятия научно-обоснованных решений, это вопиющий недосмотр.

К счастью, есть движения, направленные на запрет наблюдать за программное обеспечение и запрет распознавания лиц технологии в университетских городках, а также в Конгрессе законопроекты на запрет федерального правительства США с помощью распознавания лица. Но даже если технологии распознавания лиц были запрещены, мониторинга программного обеспечения может по-прежнему существовать в качестве программы, которая отслеживает движение глаз и тела студентов. Хотя это может быть менее расистом, он бы до сих пор дискриминацию в отношении людей с ограниченными возможностями, грудное вскармливание родители, и люди, которые neuroatypical. Эти продукты не могут быть реформированы; они должны быть оставлены.

Измена-это не угроза обществу, что тест мониторинга предприятий, имели бы вас верить. Это не выхолостить градусов или ухудшить институциональной репутации, и студент не пытается обмануть на ваш хирург. Технологии не изобретали условия для обмана и это не будет то, что останавливает его. Лучшее, что мы в сфере высшего образования могут сделать, это начать с радикальной идеей доверчивых студентов. Давайте выберем сострадание за наблюдения.

Ши Swauger ученый библиотекарь и исследователь в Университете Колорадо Денвера.

ОСТАВЬТЕ ОТВЕТ

Please enter your comment!
Please enter your name here