investigación para las ciencias sociales, debido a la robotización cada vez más creciente de actividades consideradas, hasta hace poco tiempo, propias de los humanos. Vanessa Nurock (2020) se pregunta: ¿puede prestar cuidados la Inteligencia Artificial?
Define la IA como el conjunto de tecnologías vinculadas con la ciencias de la información y la comunicación cuyo distintivo es la automatización de las funciones intelectuales; carece de género en la medida en que su uso va desde prototipos “más” femeninos como los ligados al mundo del cuidado; a aquellos considerados “más” masculinos, vinculados a la maquinaria de guerra, drones o supersoldados.
Nurock llama la atención sobre cómo creadores y programadores de inteligencia artificial (IA) terminan reproduciendo en los dispositivos las estructuras de dominación patriarcal, relegando a las mujeres a las tradicionales posiciones de subalternidad y reproduciendo los roles de género.
Se observa en robots cuya función es la atención al público y se feminiza su estética y forma de comunicación; cuando se considera que la voz que da órdenes debe ser masculina, demandando a la usuaria adaptarse a las exigencias de la tecnología; o cuando los asistentes personales recalcan el sistema de dominación patriarcal:
… “Me pondría colorada si pudiera” (“I’d blush if I could”) responde Siri, sumisa, a un interlocutor que le lanza “Hola Siri, eres una golfa” ("Hey Siri, you are a bitch”). Como muestra Hilary Bergen (Bergen, 2016), estas asistentes personales han sido programadas para invitar al flirteo (por así decirlo), hasta en los casos en los que se convierten un acoso agresivo, lo que no deja de ser un problema” (Nurock (2020: 222).
La autora plantea que no es un problema de sesgo de género, sino un problema de orden estructural. Por ello, no es suficiente incorporar cada vez más mujeres al campo de la IA, ni diversificar los data. “El problema, sobre todo, es que la IA reproduce, refuerza y conlleva el riesgo de autonomizar unas estructuras sociales de dominación” (2020: 227). La IA no es neutral ni imparcial, es producida por grupos de sujetos situados históricamente.
Se ha olvidado que los equipos que han participado en el éxito de la IA, inicialmente eran mixtos. Estos se han ido masculinizando en la medida en que la IA se convertía en un asunto importante, borrando de la historia la figura femenina.
¿Pude la IA cuidar? Qué relaciones estamos dispuestos a delegar, a construir con la IA, considerando, incluso nuestros espacios más íntimos. Hay corrientes de investigadores que buscan promover la construcción de artefactos de IA dotados de empatía, de "sentimientos" e, incluso, buscan proveerlos de derechos (Gunkel, 2018). Ello lleva a reflexionar sobre cómo concebimos la IA, qué propiedades le vamos a atribuir y por qué.
Llama la atención sobre el peligro de la artificialización de la IA, lo cual supone una naturalización de la misma, es decir, proveerla de una supuesta imparcialidad y por tanto considerarla moralmente buena.
La IA expresa esa línea abierta en que se encuentra ser humano entre lo animal y la técnica; la técnica por su capacidad de crear subjetividades y sentimientos, de construir representaciones y de transformar los cuerpos. Es un campo a explorar que requiere ser investigado y reflexionado, desde la ética y la política, es decir, desde el poder, pues compromete al tipo de sociedad que queremos construir y, por tanto, a la sociedad en su conjunto.
Estos avances se realizan a espaldas de la sociedad desde un marco supuestamente neutral de las ciencias de la robótica, de ahí la importancia de abordar este problema desde la interdisciplinariedad, dando cada vez mayor cabida a las ciencias sociales.
Gunkel, D. (2018). Robot Rights. s.l.:MIT Press.
Nurock, V. (2020) ¿Puede prestar cuidados la Inteligencia Artificial? Cuadernos de relaciones laborales. 38(2) 2020: 217-229, Universidad Complutense, Madrid.
Muchas gracias por la lectura.
ResponderEliminarEste tipo de temas siempre son muy buenos la verdad. Agradezco la bibliografia.
saludos!