Reflexión sobre IA. Inmerso en una incertidumbre fundamentada.
A priori el término de Inteligencia Artificial implica, en una primera aproximación, un grado importante de fascinación acompañado, eso sí, de cierto recelo. No cabe duda de que la tecnología de la que hablamos nos conducirá a cotas de bienestar importantes, muchas de las cuales ni llegamos a imaginar aun, como ejemplo nos vale lo que hace solamente diez años era impensable que las máquinas hicieran por nosotros y que hoy asumimos y vemos con toda la naturalidad del mundo: máquinas y herramientas que mejoran nuestra capacidad de procesar información y de hacer las cosas operan en nuestro entorno en el día facilitándonos mucho las cosas y evitándonos arduas y tediosas tareas. Pensemos en que la conducción automática es ya una realidad, en que la medicina está inmersa en una revolución de la mano de la ciencia de datos, o que los robots ya son capaces de colaborar entre ellos en las fábricas yendo mucho más allá de la mera repetición mecánica de acciones. A partir de este hecho, a poco que dediquemos un prudente tiempo a pensar, pueden surgirnos dudas sobre hasta dónde, cómo y en qué medida esto no pueda volverse en nuestra contra.
Quizás porque la literatura o el cine han tratado el tema de un modo en el que las “máquinas” se revelan contra las personas sometiéndolas, me viene el caso ahora a la mente el malvado de HALL 9000 enfrentándose al Dr. Dave Bowman en el célebre filme de Kubrick “2001 Una Odisea en el Espacio”, el ordenador más potente inventado por la humanidad “falla” y tiene consecuencias desastrosas… pero ¿falla? en realidad… toma decisiones por su cuenta que no les viene nada bien a los humanos que comandan la nave, ahí está la cuestión. Ejemplos de éstos tenemos a montones en el cine y literatura, y es lógico si pensamos que en la base de ello se encuentra el sentimiento humano de vulnerabilidad y de incertidumbre ante lo desconocido por venir. En general los seres humanos toleramos más bien poco la incertidumbre… remitámonos al momento actual en plena pandemia del COVID19… es paralizante.
Me gustaría centrar esta reflexión personal en la incertidumbre que genera el hecho de que las máquinas nos lleven a una posición, en un sistema económico capitalista cuya base es el crecimiento y productividad. Un sistema que a poco que no no nos necesite, nos relega, nos desplaza, nos olvida…
No sabemos cómo será el mercado del trabajo dentro de 100 años pero creo que podemos tener claro que la IA lo cambiará. A este mismo temor se enfrentaron nuestros congéneres durante la Revolución Industrial del siglo XIX. Está claro que en aquel momento no sucedió y que con ese desarrollo se incrementó el nivel de vida de un modo importante pero ¿sucederá igualmente lo mismo ahora?
Ahora no sólo se da la circunstancia de que las máquinas nos sustituyan en nuestras capacidades físicas, lo cual lo hacen superándonos con creces desde hace bastante, ahora el problema es que nos enfrentamos a sistemas que pueden superarnos además en nuestras capacidades cognitivas: el aprendizaje, la comunicación, el análisis… cualidades que hasta el momento sólo los seres humanos poseíamos. Como hemos visto en la signatura, con el empleo de distintos algoritmos, con “redes neuronales”, con el deep learn… la IA puede llegar a superar a los humanos en tareas que antes eran impensables. No es un disparate pensar que una IA dotada de los sensores adecuados y mecanismo de toma de decisiones correspondiente pueda hacer cosas de un modo más preciso y fiable que un humano. Si sumamos a ello su superior capacidad de conectividad, de almacenamiento y de actualización podemos pensar en que en un montón de trabajos podrían sustituirnos en tareas que hasta el momento no ha sido posible. Tiempo al tiempo.
No cabe duda de que para los seres humanos esto supondría un gran avance, lo que no sabemos es el avance que supondría para nuestro puestos de trabajo. Insistimos en lo de los puestos de trabajo ya que en el sistema actual su ausencia significa adversidad.
Podemos pensar que en un futuro el mercado de trabajo se base en una importante cooperación entre el humano y la IA, pero sucede que debemos pensar en la cualificación de ese puesto de trabajo, surgirán nuevos trabajos que exigirán gran especialización pero que no solucionaría el problema de la mano de obra no cualificada. Toda la población, siempre hablando de este sistema económico, no tiene las mismas posibilidades de llegar a la cualificación necesaria. De este modo tendremos una importante parte de la población que de ser “explotada” puede pasar a ser irrelevante para el sistema y es en este caso en concreto lo que más incertidumbre puede generar: cómo adecuar a una sociedad a un avance tecnológico tan grande. En este momento es en el que debemos pensar en si el modelo económico que hemos heredado del siglo XX es adecuado para afrontar este reto. Temo que la respuesta es NO. Es necesario desarrollar ante estos retos modelos económicos y sociales que se adecúen a ello, y personalmente no soy nada optimista con lo que en ello supondría los avances en IA
Imaginemos que podemos solucionar ese posible obstáculo y que la IA nos permitiera mejorar la vida de los millones de personas que habitamos el planeta solventando nuestra seguridad económica y supervivencia, ¿no podríamos enfrentarnos a una peor que sería que la autoridad de los humanos sucumbiera a la IA del mismo modo que en el film de Kubrick la tripulación de la Discovery 1 sucumbió al control del malvado HALL 9000 como recordábamos en los inicios de este texto?.
Leo perplejo al estudiar el tema del deep learning que en ocasiones los científicos no saben en base a qué toman determinadas decisiones las máquinas... ¿qué capacidad tenemos pues de solucionar problemas inherentes a decisiones tomadas si no conocemos el por qué de las mismas?. No cabe duda de que estos temores serán comunes a muchos de los profanos que nos aproximamos al conocimiento de la IA, con sus incuestionables beneficios pero también con nuestras razonables dudas.
Indagando sobre ello en la red encontré referencias a unas jornadas de marzo de 2017, en las que participaron distintos expertos europeos en inteligencia artificial, computación y comunicación, entre otros ámbitos. El debate dio lugar a la «Declaración de Barcelona para un desarrollo y uso adecuados de la inteligencia artificial en Europa» y a partir de ello puedo constatar que son algo más que razonables las dudas que me planteo desde mi profano punto de vista.
Por un lado se habla de la prudencia de que hay que ser conscientes de que queda mucho por hacer, de que hay muchos obstáculos a los que enfrentarse no solo a nivel tecnológico sino también de sentido común. Otro aspecto a tener en cuenta es el de la fiabilidad, no podemos dejar de pensar en si es fiable o seguro un determinado sistema de IA por las repercusiones que en las personas tengan sus decisiones… decisiones que al ser tomadas han de ser fundamentadas por el sistema y que en la actualidad vemos que generan problemas debido a que en muchos casos no se sabe en base a qué la IA da determinadas respuestas.
Por último volvemos al desarrollo de lo expuesto anteriormente, hay que dejar claro qué papel desempeña el ser humano en todo esto. En casi cualquier área nuestra capacidad cognitiva supera a las de las máquinas, aunque eso es por ahora… ¿pero en el futuro?.
Tal y como he desarrollado, si algo ha de caracterizar una reflexión sobre la IA es la de la incertidumbre, no tanto por los productos concretos que surgirán en un futuro más o menos inmediato, sino sobre todo por el poder de cambio que ejercerá en las personas y que justificacará ese talante de responsabilidad crítica que debe guiar su desarrollo para que sea algo al servicio de la humanidad.
Referencias:
darnos 21 lecciones para el siglo XXI. Yuval Noah Harari. Debate. Barcelona, 2018.
https://www.investigacionyciencia.es/revistas/investigacion-y-ciencia/el-multiverso-cuntico-711/tica-en-la-inteligencia-artificial-15492
Comentarios
Publicar un comentario