Cuando la inteligencia químico entra en la sala del tribunal, se ha escrito mucho sobre algoritmos de medida de penalizaciones con prejuicios ocultos. daniel l chenun investigador de la Escuela de Peculio de Toulouse y de la Potencial de Derecho de la Universidad de Toulouse, tiene otra idea: utilizar la IA para corregir las decisiones sesgadas de los jueces humanos.
Chen, que tiene una carrera en derecho y un doctorado en peculio, ha pasado varios abriles recopilando datos sobre jueces y tribunales de EE. UU. “Una cosa que me ha molestado mucho es cómo entender todos los prejuicios de comportamiento que hemos contrario”, dice. Por ejemplo, los prejuicios humanos que pueden inclinar la romana a la hora de tomar una audacia. en un nuevo documento de trabajoChen presenta una propuesta sobre cómo grandes cantidades de datos combinadas con inteligencia químico pueden ayudarnos a predecir las decisiones de los jueces y ayudarnos empujar para que la sentencia sea más reto.
La frontera habló con Chen sobre los muchos factores que pueden afectar el sesgo justo y el futuro de la IA en la ley.
Esta entrevista se ha editado fácilmente para decano claridad.
Es perfectamente sabido en este punto que las decisiones de los jueces a menudo están sesgadas por factores que no son relevantes para el caso en cuestión. Dicho esto, ¿me puede dar algunos ejemplos específicos de estudios en esta radio?
Por supuesto. Un hallazgo publicado es farsa de los jugadores. Si soy un togado de elección y concedo orfelinato demasiadas veces seguidas, puedo preocuparme de ser demasiado indulgente. Luego trato de autocorregir activamente. Así que la próxima vez rechazaré el orfelinato. Es una influencia externa porque la forma en que fallé en el caso precedente afecta incorrectamente el proceso de Presente caso. Otro descubrimiento es que en los tribunales de circuito, se entiende comportamiento que varía durante el ciclo de elecciones presidenciales. A medida que se acerca la temporada de elecciones, comienzan a estar más en desacuerdo y votan según las líneas políticas de los partidos.
Tenemos un papel en previsibilidad temprana donde usamos el estudios inconsciente para tratar de anticipar las decisiones de los jueces en los casos de orfelinato. Resulta que podemos hacer una muy buena predicción acerca de cómo juzgará el togado ayer de que se refugio el caso, usando solo información sobre la identidad del togado y la ciudadanía del solicitante de orfelinato. Esto plantea la pregunta: ¿por qué los jueces son tan predecibles desde el principio al observar los hechos? Una interpretación es que los jueces pueden apelar a juicios y heurísticas más rápidos para arriesgarse un caso en ocasión de los hechos en él.
Derecha. Entonces, su idea es que si podemos descubrir qué jueces tienden a ser “predecibles”, lo que sugiere que pueden aguardar más en los juicios rápidos, ¿podemos convocar su atención sobre este hecho y sugerir que lo consideren con más cuidado?
Sí. Puede ser una forma de darse cuenta cuando los jueces emiten juicios precipitados que no son tomados en cuenta por los factores legalmente relevantes. Luego, podemos sugerir poco como: “¿Puede asociar algunas horas más o algunos días más a este caso? Según lo que ha hecho ayer, tiende a ser un poco más sesgado en esta dirección”.
En el estudio de previsibilidad auténtico, usó solo información limitada sobre la identidad y la ciudadanía de un togado. De forma más militar, sugiere que podemos usar otros conjuntos de datos, combinados con inteligencia químico, para detectar casos en los que factores externos puedan predecir decisiones legales. ¿Cómo funcionaría esto?
Me gustaría tener un gran conjunto de datos sobre la historia de la audacia del togado y cualquier posible número extraño contextual. Luego podría analizar la evidencia y ver qué factores, relevantes e irrelevantes, pueden tener influido en la audacia del togado. Una gran cantidad de datos nos pueden ayudar a proponer que en estas determinadas situaciones es más probable que el togado se vea afectado en una determinada dirección.
¿Qué tipos de factores externos podemos querer tener en cuenta?
Hemos aprendido mucho de la peculio psicológica y la ciencia política, todo, desde el estado de humor o el clima. Hay, por ejemplo un papel que dice que las pérdidas de fútbol en Luisiana afectan las decisiones de los árbitros. Otros miran cómo la temperatura afecta las decisiones de asignación. Tenemos un documento que muestra que los jueces suelen ser más suave en los cumpleaños del destacado. Así que podríamos tratar de obtener todos estos datos y ponerlos juntos. Ese sería un punto de partida.
Cuando parece que puede tener sesgo, ¿qué harías? Una sugerencia es el impulso para considerar más cuidadosamente. ¿En la revista incluso mencionó un posible software de capacitación?
Hacer aprender a las personas que están afectadas por los prejuicios puede ayudar a reducirlos. Tal vez ayudaría a dar más formación a los jueces. No estoy hablando de mostrarles una rollo de prejuicios, que pueden ser difíciles de seguir, sino de ofrecer un entorno teórico para comprender muchos fenómenos diferentes y todas las formas y razones por las que nos vemos afectados.
Existe cierta controversia en torno a la IA en la ley y las sentencias en este momento. ¿Cómo crees que eso cambiará?
Cada vez más personas utilizan las herramientas de procesamiento de habla natural e IA y big data con declaraciones judiciales. Es un radio de investigación prometedora y me interesa ver cómo se traduce en política.
Efectivamente hay mucho interés en cómo los algoritmos pueden mejorar la toma de decisiones. Igualmente he pensado en cómo y por qué la familia es tan resistente a esta idea de predicciones y máquinas que ayudan a arbitrar. Creo que está un poco relacionado con el hecho de que a la familia le gusta pensar que somos únicos y que nos comparen con otra persona de esta forma no es positivamente rastrear mi individualidad y dignidad. Por un costado, tal vez la familia simplemente se acostumbre a que los grandes datos ayuden a los jueces a tomar decisiones. Por otro costado, soy un individuo, así que no me trates como otro punto de datos.
Por supuesto, todo esto es objeto de los habituales temores sobre lo buenas que son las predicciones. Sus predicciones pueden apoyarse en datos sesgados y es importante pensar detenidamente sobre cómo puede afectar sus resultados. Dicho esto, sigue siendo un acto de seguridad. Incluso si se pedestal en datos sesgados, si tiene personas sesgadas que actualmente están tomando decisiones, una predicción poco sesgada puede ser poco más reto.