Pensamiento computacional - EnlaceUBA

En los capítulos anteriores creamos y entrenamos un modelo de IA para predecir el estado de una planta de frutillas a partir de sus hojas. Además, vimos que no tenemos seguridad de que el modelo va a funcionar siempre. 

Estos modelos nos pueden ayudar a resolver y automatizar problemas muy complejos. Es por eso que hoy en día se aplican en disciplinar muy diversas, por ejemplo, la medicina, el arte, la meteorología o la economía. Incluso, en muchos casos delegamos la responsabilidad y las decisiones a estos modelos.

A continuación les proponemos leer una selección de casos de uso de la IA y de esta manera aproximarnos hacia una mirada crítica de sus aplicaciones:

• Amazon ha dejado sin trabajo por sexista a la inteligencia artificial que le revisaba los currículums, según Reuters
  
• Usuarios chinos denunciaron problemas en el detector de sueño de autos: “Mis ojos son chicos, no estoy dormido”
• Sesgo en reconocimiento facial

🤔 ¿De quién es la responsabilidad de construir conjuntos de datos representativos? ¿Qué significa que los datos están "sesgados"? ¿Es bueno esto? 

🤔 ¿Podemos delegar la responsabilidad de tomar decisiones a un modelo de IA? ¿Qué tan importante es el factor humano?

¿Qué nos aporta cómo ciudadanos y ciudadanas tener conocimiento de estos temas? Conocer algunas nociones de IA no solo nos habilita a analizar cómo funciona, sino que además nos permite participar crítica y activamente de las potenciales aplicaciones que se puedan realizar en el futuro (¡y en el presente!). Incluso estas aplicaciones podrían interpelarnos individual o colectivamente. 

El factor humano es decisivo al momento de diseñar e implementar modelos de aprendizaje automática y, por lo tanto, es necesario que sean construidas por equipos diversos, para incorporar la mayor cantidad de miradas posible, y no solo desde la experiencia de vida de cada uno de sus integrantes, sino también desde otras disciplinas que hoy no vemos típicamente asociadas a la IA (las ciencias sociales, la filosofía, la ética).

Comprender por qué/cómo se relacionan los datos con el comportamiento del modelo y qué implicancias tiene esto en función del uso para el que se desarrolló (selección de currículums, por ejemplo), no solo no va a cambiar sino que va a ser cada vez más relevante para entender críticamente los artefactos con los que interactuamos (directa o indirectamente).