os ejemplos de IAs que se han rebelado o han ido mal –en relación a la finalidad de sus programadores– son ya unos cuantos. Notorio fue el caso de la IA enfocada al público adolescente llamada Tay Q que Microsoft lanzó en 2016. Se trataba de un programa, dijo que esperaba que las feministas «acabasen en el infierno», tras haberlas defendido en un primer momento. A Microsoft no le quedó más remedio que pedir disculpas y desactivar la IA. Otro ejemplo, aunque menor: el asistente virtual de Google, Cortana, no comprendía un acento que no fuera norteamericano. Por otro lado, un grupo de investigación demostró que el reconocimiento de señales de tráfico también puede fallar: los pequeños cambios que una persona ignoraría durante la conducción hicieron que el sistema de aprendizaje automático clasificara por error la señal de STOP por la del «límite de velocidad a 45», algo que no fue aleatorio, sino que sucedió en el 100% de las condiciones de la prueba. El tema del tráfico y las IA se las trae. Hasta el momento, el mayor error tuvo a Tesla como protagonista, y a su Autopilot, el sistema de conducción supuestamente autónoma (que, como advierten los expertos, no lo es realmente, pues los sistemas de asistencia al conductor de Tesla siguen anclados en el nivel 2, equiparándose a los sistemas de control de crucero y mantenimiento de carril existentes en otras marcas, pero ni mucho menos permite aún una conducción completamente autónoma). Sin embargo, acusan a la compañía de publicidad engañosa. Hace unos años, la familia de Wei «Walter» Thay, conductor de un Model X, presentó una demanda tras su fallecimiento en 2018 durante un accidente con su Tesla en el que estaba activo el piloto automático (aunque diversas fuentes aseguran que estos sistemas se apagan instantes antes de producirse un siniestro). La polémica continúa. Este mismo marzo de 2023, medios locales de Mecosta, en Michigan (EEUU), informaron que una mujer que estaba en circulación con el modo de conducción autónoma Autopilot activado acabó resultando herida cuando su Tesla se estrelló contra un árbol. Parece que a pesar de los avances tendremos que esperar para ver coches autónomos –y volantes– como los de o . Tiempo al tiempo.
LA IA QUE ODIABA A LOS HUMANOS
Oct 26, 2023
2 minutos
Estás leyendo una previsualización, suscríbete para leer más.
Comienza tus 30 días gratuitos