Дебора Раджи - Deborah Raji
Иниолува Дебора Раджи | |
|---|---|
 | |
| Рожденный | |
| Национальность | Канадский |
| Альма-матер | Университет Торонто |
| Известен |
Алгоритмическая предвзятость Справедливость (машинное обучение) Алгоритмический аудит и оценка |
| Научная карьера | |
| Поля | Информатика |
| Учреждения |
Партнерство Mozilla Foundation в области искусственного интеллекта AI Now Institute MIT Media Lab |
Иниолува Дебора Раджи - нигерийско-канадский ученый-компьютерщик и активистка, работающая над алгоритмической предвзятостью , подотчетностью ИИ и алгоритмическим аудитом. Раджи ранее работал с Джой Буоламвини , Тимнитом Гебру и Лигой алгоритмической справедливости над исследованием гендерных и расовых предубеждений в технологии распознавания лиц. Она также работала с командой Google по этическому ИИ и была научным сотрудником в Партнерстве по ИИ и Институту искусственного интеллекта при Нью-Йоркском университете, работая над практическим применением этических соображений в инженерной практике машинного обучения. В настоящее время она является стипендиатом Mozilla , она была признана MIT Technology Review и Forbes одним из лучших молодых новаторов в мире.
ранняя жизнь и образование
Раджи родилась в Порт-Харкорте , Нигерия, и переехала в Миссиссагу , Канада, когда ей было четыре года. В конце концов ее семья переехала в Оттаву , Канада. Она изучала инженерные науки в Университете Торонто , который окончил в 2019 году. В 2015 году она основала Project Include, некоммерческую организацию, обеспечивающую расширенный доступ студентов к инженерному образованию, наставничеству и ресурсам в сообществах с низким доходом и иммигрантами в районе Большого Торонто.
Карьера и исследования
Раджи работала с Джой Буоламвини в MIT Media Lab и Algorithmic Justice League , где она проверяла коммерческие технологии распознавания лиц от Microsoft, Amazon, IBM, Face ++ и Kairos. Они обнаружили, что эти технологии были значительно менее точными для темнокожих женщин, чем для белых мужчин. При поддержке других ведущих исследователей ИИ и усилении общественного давления и кампаний их работа побудила IBM и Amazon согласиться поддержать регулирование распознавания лиц, а затем приостановить продажу своего продукта полиции как минимум на год. Раджи также стажировалась в стартапе машинного обучения Clarifai , где работала над моделью компьютерного зрения для пометки изображений.
Она участвовала в исследовательской программе наставничества в Google и работала с их командой по этическому искусственному интеллекту над созданием типовых карточек, основы документации для более прозрачной отчетности по моделям машинного обучения. Она также была одним из руководителей разработки практики внутреннего аудита в Google. Ее вклад в Google был отдельно представлен и опубликован на конференции AAAI и конференции ACM по справедливости, подотчетности и прозрачности .
В 2019 году Раджи был летним научным сотрудником в The Partnership on AI, работая над установлением отраслевых стандартов прозрачности машинного обучения и норм сравнительного анализа. Раджи был научным сотрудником в Институте AI Now и занимался алгоритмическим и AI-аудитом. В настоящее время она работает научным сотрудником Mozilla Foundation и занимается исследованиями алгоритмического аудита и оценки.
Работа Раджи над предвзятостью в системах распознавания лиц была освещена в документальном фильме 2020 года Coded Bias режиссера Шалини Кантайя .
Избранные награды
- Премия Venture Beat AI Innovations 2019 в категории AI for Good (получена вместе с Джой Буоламвини и Тимнитом Гебру )
- 2020 MIT Technology Review Награда новатора 35 до 35 лет
- Премия EFF Pioneer 2020 (получена с Буоламвини и Гебру)
- Премия Forbes 30 Under 30 в области корпоративных технологий 2021 года
- 2021 г. 100 блестящих женщин в Зале славы этики искусственного интеллекта