Los sistemas de inteligencia artificial están sesgados, y la disponibilidad de la nube lo empeora

Según Gartner Research, desde ahora hasta el año 2022, el 85 por ciento de los proyectos de AI entregarán resultados erróneos debido a sesgos en los datos, algoritmos o los equipos responsables de administrarlos. Además, el 85 por ciento de los estadounidenses actualmente utiliza al menos un dispositivo, programa o servicio impulsado por AI, según informa la organización de encuestas Gallup.

Este sesgo es algo que he conocido durante un tiempo mientras seguí los sistemas de inteligencia artificial desde finales de los años ochenta. El hecho del asunto es que las personas programan y enseñan sistemas de inteligencia artificial, por lo que esos sistemas de inteligencia artificial tienden a tener los sesgos innatos de las personas que los enseñan.

El uso de la nube para alojar sistemas de IA costosos en realidad está empeorando las cosas, porque la cantidad de compañías que pueden pagar la IA ha aumentado, pero la cantidad de personas con habilidades sólidas de IA no ha crecido al mismo ritmo. Por lo tanto, además de que el sesgo innato de las herramientas de inteligencia artificial se utilizan más ampliamente, la falta de talento también significa que más errores en la forma en que se construyen las bases de conocimiento van a ser comunes durante algún tiempo.

¿Cómo se ven estos sesgos? Las mujeres pueden encontrar que están recibiendo el extremo corto del palo. Esto se debe a que los hombres realizan la mayor parte del desarrollo y la enseñanza de la IA, por lo que sus sesgos conscientes o inconscientes se codifican. Por ejemplo, un estudio de 2015 mostró que en una búsqueda de imágenes de Google para "CEO", solo el 11 por ciento de las personas que mostraban eran mujeres, a pesar de que el 27 por ciento de los directores ejecutivos en los Estados Unidos son mujeres. (Si bien es fácil elegir en Google, se corrigió rápidamente para corregir dichos problemas).

Las empresas tendrán que pagar por estos sesgos de AI incorporados. Por ejemplo, tendrán que absorber el impacto de las ganancias de no escribir préstamos a suficientes mujeres, que representan aproximadamente el 55 por ciento del mercado. Además, como mínimo es el karma malo, y lo peor será que te metas en el agua caliente legal.

¿Qué se puede hacer con esto? La realidad es que los sistemas de AI sesgados son más la norma que la excepción. Por lo tanto, TI debe reconocer que los sesgos existen o pueden existir, y tomar medidas para limitar el daño. Afortunadamente, están surgiendo herramientas para ayudarlo a detectar sesgos basados ​​en AI.

Aún así, tendrás que estar atento a los sesgos ocultos y tomar medidas para minimizar el daño.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *