Usamos cookies. Tienes opciones. Las cookies nos ayudan a mantener el sitio funcionando sin problemas e informar sobre nuestra publicidad, pero si deseas realizar ajustes, puedes visitar nuestro Aviso de cookies para más información.
Uso de cookies en su dispositivo. Las cookies nos ayudan a mantener esta página web funcionando correctamente y a personalizar nuestra publicidad, pero el uso que hacemos de las cookies depende de usted. Acepte nuestra configuración o personalícela.
×

Ética para Data Scientists

La inteligencia artificial se ha instalado en nuestras vidas y nuestras empresas, también en administraciones y gobiernos; de los inocentes agentes conversacionales o los sistemas de recomendación de productos a los coches autónomos, de la publicidad segmentada a la selección de personal, el imperio del algoritmo vive momentos gloriosos.

En su célebre “Ética para Amador”, Fernando Savater afirma que lo contrario de ser moralmente imbécil, es tener conciencia.

Bajo esta premisa, ¿qué puede pasar si delegamos la toma de decisiones en modelos estadísticos, basados en generalizaciones y entrenados para lograr un objetivo?

Para responder a esta cuestión, tenemos que hablar de una extraña pareja: Inteligencia Artificial y Ética.

Si me remonto unos cuantos años atrás, dudaba yo entre pasar futuras horas de mi vida en la Facultad de Ciencias o en la de Filosofía y Letras.

Finalmente las pasé en la Facultad de Ciencias pero a día de hoy me quito la espinita, con la ética del dato y sus derivadas.

¿Qué es la ética?

Del griego “ethike”, es la parte de la filosofía que tiene por objetivo la reflexión sobre la conducta moral del ser humano.

Se acercan curvas, ¡moral!, posiblemente la de nuestro entorno cultural pero grandes curvas. Las esquivo acogiéndome a mi creencia de que no estoy aquí para distinguir entre el bien y el mal, por fortuna.

Considero que nuestra misión es dotar de transparencia a los algoritmos que utilizamos y adaptarlos a la “Ética de Marca”.

Voy a comentar algún ejemplo sobre nuestros posibles trabajos con los algoritmos, ya que nuestra sociedad está cada vez más gobernada por ellos, tomando estos decisiones en nuestro nombre, discriminando en base a nuestros ingresos, raza, sexo y cualquier variable que pueda uno/a imaginar.

Supongamos que desarrollo un algoritmo estadísticamente muy bueno, ya sabéis un Recall muy alto, una Curva ROC sorprendentemente buena… para encontrar un target que optimice una campaña promocional online pero este excluye a los/as usuarios/as de Burgos. Estoy discriminando a los/las burgaleses/as. ¿Es esto moralmente aceptable? Como matemática aseguro que la campaña va a minimizar el gasto y maximizar los beneficios y como bien decía antes, no considero que sea mi misión saber si esto es moral o no lo es, pero considero que debo informar de los sesgos del modelo y si la marca lo considera, mitigarlos.

Ahora, como mujer, voy a poner otro claro ejemplo, del cual voy a omitir la fuente, siendo esta un conocido traductor, en el cual los/las usuarios/as detectaron un sesgo de género en el algoritmo de procesamiento de lenguaje natural y este ya ha sido mitigado gracias al clamor popular. ¡Cómo se nota que dichos/as desarrolladores/as no me conocen sin un café por la mañana!

etica-data-scientists

Poniéndome seria ahora y dando mi subjetivo punto de vista, cabe destacar que nuestra misión como Data Scientists es controlar y mitigar los sesgos de datos, estereotipados, de muestreo, de distorsión de valores, los algorítmicos (entre otros), para que se adapten a la ética de marca. O puede ser que en un futuro no muy lejano, existan sellos de calidad ética para los algoritmos. Pero debemos tener mucho cuidado con su definición porque, aunque no lo he dicho, yo si tengo mi propia ética (como todos/as) pero no pretendo imponerla, ni compartirla aunque sí voy a negarme a realizar un trabajo si este no se adapta a ella.

Así que ya sabéis Amador y resto de visitantes, aún nos queda mucho debate en torno a la aplicación de normas éticas en la recolección, gestión y uso de los datos por las organizaciones ya que no sólo de algoritmos vive un Data Scientist.

----------------------------------------------------------------------------------------------------------------------------------------------------------------------------

*Fuente imagen: Unsplash

Unirse al debate

Recibe nuestros posts en tu email