Un equipo de investigadores de la Universidad de Nueva York desarrollará nuevos métodos y herramientas destinados a minimizar los sesgos sistémicos y producir impactos de política pública más equitativos en áreas como las inspecciones de vivienda de la ciudad, la policía y los tribunales.
Con una subvención de $ 1 millón de la Fundación Nacional de Ciencias (NSF) y Amazon, Profesor de Ciencias de la Computación Daniel B Neill liderará el proyecto de investigación de tres años centrado en el uso creciente de la Inteligencia Artificial (IA) por parte de organizaciones urbanas del sector público, trabajo que incluirá la creación de herramientas de código abierto para evaluar y corregir sesgos.
“Las decisiones humanas y las decisiones algorítmicas tienen el potencial de sesgos sistemáticos que pueden conducir a malos resultados posteriores, como disparidades e inequidad entre líneas raciales, de género y socioeconómicas”, dijo Neill, miembro de la facultad de la Centro de Ciencia Urbana y Progreso (CUSP) en el Escuela de Ingeniería Tandon de la Universidad de Nueva Yorky profesor de la Universidad de Nueva York Escuela de Graduados de Servicio Público de Wagner.
“Lo que queremos entender es cómo los algoritmos pueden mejorar la toma de decisiones humanas al eliminar los sesgos implícitos y desarrollar métodos y herramientas para ayudar a quienes diseñan e implementan intervenciones de políticas en las ciudades”.
Al analizar tanto los riesgos como los beneficios de la toma de decisiones algorítmica, el equipo del proyecto desarrollará una nueva conceptualización canalizada de equidad que consta de siete etapas distintas: datos, modelos, predicciones, recomendaciones, decisiones, impactos y resultados. Este «canal de equidad de extremo a extremo» tendrá en cuenta múltiples fuentes de sesgo, modelará cómo los sesgos se propagan a través del canal para dar lugar a resultados inequitativos y evaluará la sensibilidad a los sesgos no medidos.
En segundo lugar, el equipo construirá un marco metodológico general para identificar y corregir los sesgos en cada etapa de la canalización, una especie de análisis de sesgos, junto con herramientas algorítmicas de soporte de decisiones que brindan recomendaciones a un tomador de decisiones humano (como «empujones» algorítmicos). para guiar las decisiones humanas hacia la equidad).
Finalmente, el equipo del proyecto creará nuevas métricas para medir la presencia y el alcance del sesgo en los dominios de la justicia penal y la vivienda, y las herramientas que se pueden usar para: (a) reducir el encarcelamiento brindando equitativamente intervenciones de apoyo a las poblaciones involucradas en la justicia; (b) priorizar las inspecciones y reparaciones de viviendas; (c) evaluar y mejorar la imparcialidad de los procedimientos judiciales civiles y penales; y (d) analizar los impactos dispares en la salud de las exposiciones ambientales adversas, incluidas las viviendas de mala calidad y las prácticas policiales agresivas e injustas.
“El impacto final de este trabajo es promover la justicia social para aquellos que viven en las ciudades y que dependen de los servicios de la ciudad o están involucrados con el sistema de justicia, evaluando y mitigando los sesgos en los procesos de toma de decisiones y reduciendo las disparidades”, dijo Neill, también director del laboratorio Learning for Good de NYU y miembro de la facultad del Instituto Courant de Ciencias Matemáticas de NYU.
Además de Neill, el equipo de investigación incluye a Ravi Shroff, profesor asistente en CUSP y la Escuela Steinhardt de Cultura, Educación y Desarrollo Humano de la Universidad de Nueva York; Constantine Kontokosta, profesor del Marron Institute of Urban Management de la NYU y profesor asociado de la NYU Tandon; y Edward McFowland III, profesor de la Carlson School of Management de la Universidad de Minnesota.
La subvención se realizó en el marco del Programa NSF sobre equidad en inteligencia artificial en colaboración con Amazon (2040898).