Se lleva un tiempo detrás de la explicabilidad de los algoritmos, de porque con datos A ha tomado la decisión Z. Hoy me he encontrado con el siguiente artículo de la Universidad de Stanford: La dependencia excesiva de la IA es un problema. ¿Son las explicaciones una solución? . Pues bien, me ha hecho volver hacia nosotros esta reflexión. Estamos pidiendo, exigiendo esta explicabilidad a los desarrolladores de las I.A.s. ¿que nos pasa cuando les pedimos esas mismas explicaciones a otras personas y apenas pueden dar una explicación razonada de porque lo han hecho lo que han hecho?
El desarrollo de la IA nos está colocando a la sociedad delante de un espejo, y a veces pienso que podría hacerse realidad el relato del «retrato de Dorian Gray» ver en el espejo un ser horrible, demacrado…. Pero, aun así, nos puede valer para corregir nuestra postura, intenciones. El reconocer que es nuestra imagen real reflejada. Podemos rechazar esa visión, podemos probar delante de ella como cambiar esos aspectos que tanto nos desagradan. Quizás la IA sea ese espejo que tanto nos hacía falta para vernos como somos y así corregir aquello que nos degrada como personas, aquello que intentamos poner en el otro pero que sin embargo, con la IA no es posible.
Un pequeño experimento ante el espejo.
Bien, estamos delante del espejo, ¿qué vemos? un individuo ligeramente encorvado, ¿qué más? su cara, su mentón quizás está tenso, parece mostrar agresividad, los hombros cargados, esto es, elevados, tensos… Posiblemente no sea eso lo que veamos en ese momento, aun así, seguramente encontremos gestos, posturas en nosotros que cuesta aceptar.
¿Qué hacemos con lo que vemos? ¿negarlo?, ¿negar que ese individuo al otro lado del espejo sea uno mismo?,.
¡No puede ser, yo no soy así, el espejo está deformado!
Por otro lado, podemos aceptarlo, probando antes.
¡Uy, muevo el brazo!, y el reflejo lo mueve de la misma manera, movemos otra parte, y lo constatamos, no queda más que aceptar que esa imagen que está en el espejo es mi reflejo.
Así que lo que vi antes, ese individuo ligeramente encorvado, con la cara y el mentón tenso pareciendo mostrar agresividad, con los hombros cargados, soy yo. Probamos a enderezar la espalda y vemos en el espejo como nos enderezamos y… espera, parece que estoy sintiendo algo dentro de mí. Podría decir lo que siento yo cuando lo hago, pero sería condicionarte. Aun así, con muy alta probabilidad, la espalda despertaría como si una energía te recorriera por toda la columna vertebral.
Esa sensación es tan impactante que no he podido contenerme, eso sí, para nada la he calificado de positiva o negativa. Eso dependerá de las vivencias previas de cada uno, que, si bien se podría vivir como algo negativo, amenazante, esto es solo debido a tu experiencia vital previa. Y si es positiva, también. Pide ayuda, consejo si ante estas reacciones no sabes cómo manejarte, pero pídelas a personas que hayan pasado ya por el proceso, de otro modo os podéis perder los dos.
Supongamos que un hombre no discierne su propia deslealtad, insensibilidad y malignidad. Nunca se ha observado a sí mismo. No ve que la gente le tiene antipatía o lo evita. No ve razón alguna por la cual la gente no lo quiere.
Entonces imagina que la gente le tiene injustamente antipatía. Que se comportan injustamente con él. Así se siente agraviado. Esta es consideración interna. Un hombre que se siente agraviado es un buen ejemplo de consideración interna. Nunca considera externamente —esto es, se pone en la situación de la otra persona y comprende sus dificultades. Por el contrario, desea poner a todas las personas en su situación, hacer que se den cuenta de sus dificultades.
Maurice Nicoll (extraido de la entrada: No te tomaras nada por lo personal )
Esto ha sido solo un experimento. No sé hasta qué punto has llegado y cómo te haya podido afectar. Espero que lo suficiente para que por un momento te hayas visto realmente. He utilizado este experimento para que observes como quedan ocultas partes nuestras, que no queremos ver, pero que están ahí y que, al no ser conscientes de ellas, estas pueden tomarnos y hacernos actuar bajo su influencia.
Me podrás decir que eres buena persona, que no deseas ni haces mal a nadie, la cuestión es que esto es así mientras las cosas te marchen bien, que todo acontezca según tus deseos, tu forma de ver la vida. Pero cuando las cosas dejan de ser como piensas que deberían ser, ¿cómo actúas realmente? Yo lo he visto en mí bastantes veces, eso sí, cada vez menos, aceptando lo que hay y viendo qué puedo hacer con ello.
Una Sociedad demasiado crédula
Desgraciadamente, hay todavía demasiada gente que se cree a pie juntillas lo que aparece en internet, en los primeros puestos. Apenas usan pensamiento crítico, esto… ¿apenas? dejémoslos en que desconocen que es «pensamiento crítico». Tragan y tragan sin digerir, sin asimilar y, desgraciadamente eso es un peligro. Que sean unos pocos, no pasa nada, pero cuando llega a la masa crítica, sí. Puede ser realmente peligroso. Son fácilmente manipulables (inversamente proporcional a sus afirmaciones de que no están siendo manipulados) y aquí, como reflejo, la IA puede ser peligrosa. Si esta empieza a alucinar, o ha sido inducida por otros, o por estos mismos, podría soltar afirmaciones que serían creídas a pie juntillas por muchos.
«No existe nada tan terrible y peligroso como la gente normal»
H. P. Lovecraft
Intentar que estas personas perezosamente crédulas cambien, que se hagan más criticas puede ser un imposible, como el castigo a Sísifo, además de que hay intereses ocultos para que el número de estas personas perezosamente crédulas siga constante y a ser posible aumentando en número. De otro modo, no se explica cómo es que la educación, salvo para unos pocos, va empeorando con el transcurso del tiempo. A dichos poderes les interesa esta docilidad. El problema es que se les puede volver en contra y aquí llegamos al siguiente punto.
El Fin de la realidad, ¿qué es real y que no? rompiendo los referentes sobre los que basábamos nuestra confianza.
Justo cuando estoy con la redacción de este articulo me he encontrado con un Documental de “El Confidencial» titulado «El fin de la Realidad: así serán los próximos 10 años » . Me ha impactado, me han surgido emociones contrapuestas. Por un lado, me he alegrado y por otro me ha asustado. No solo esto, ya de momento han salido dos iniciativas. La primera, de dudosas intenciones, aunque a la cabeza estén unos cuantos gurús que sí quieren hacer las cosas bien. Y otra, de la que he sabido hoy mismo, llamada LAION (Large-scale Artificial Intelligence Open Network).
El temor ya está ahí, unos quieren pararlo al menos 6 meses. Los segundos quieren implantar ya un centro a nivel internacional al estilo de los laboratorios virológicos, en los que antes de liberar las IAs, sean puestas a prueba y, aun así, sin garantías. La mente puede llegar a ser muy enrevesada y algunas de estas dar con el talón de Aquiles de una IA.
La I.A. solo es una herramienta, es de nuestra entera responsabilidad en cómo se va a usar. De si fuera necesario, para ciertas interacciones con las IAs, de algo similar a un permiso de armas, en el que se tendrían que superar unas pruebas, unos conocimientos mínimos en ética y alguna otra materia.
Me temo que sea una idea extravagante, difícilmente realizable, y que siempre estará en entredicho los que pongan esos requisitos para poder trabajar esos aspectos con las I.A.s. Pero ahí queda.
Me viene también a la mente cómo algunos gigantes tecnológicos han cancelado sus departamentos para la ética en IA. ¿Podría ser debido a confundir ética con moral?, ¿con la moral de qué Grupo? Eso parece haber sucedido con el equipo de Google ( https://www.businessinsider.es/google-cancela-comite-regular-etica-inteligencia-artificial-400609 ) o en Microsoft ante una aparente duplicación de tareas.
También me viene la duda de si estas grandes compañías están en una campaña tipo greenwashing donde pretenden aparecer ante la opinión pública como que están cuidando de que sus I.A.s sean éticas sin que su intención real lo sea. Y, claro, si contrato un equipo que realmente buscan una IA ética pero se percatan de que forman parte de una farsa, pronto entrarían en disonancia y se convertirían en un grano en el culo para la compañía.
Agradecimientos y Recapitulación
Ya para terminar, agradecer a Enrique Corominas el que me permita usar varios dibujos suyos del Comic «Dorian Gray» para ilustrar esta entrada, que me vinieron a la mente conforme redactaba esta entrada. Aunque Dorian Gray puso de manera consciente sus sombras en su retrato para permanecer eternamente joven y bello, mientras su retrato tomaba los efectos de todos sus desmanes, perversiones, asesinatos, tan solo para parecer atractivo, confiable y que sin embargo guardaba un terrible secreto en lo más oscuro de su interior. ¿Hasta qué punto hacemos lo posible porque entre luz y aire fresco en esos rincones tan oscuros de nuestro ser?
Para nada quiero decir que se haga público cuáles son esos rincones oscuros, tan solo que nos hagamos conscientes de que cada uno de nosotros tenemos al menos uno. Porque de esta forma podremos tener más control sobre nuestras vidas, y de este modo seremos más confiables y podremos confiar más ya que la seguridad en nosotros mismos habrá aumentado. Eso sí, por mucho que quieran vendernos que esto se logra de la noche al día con asistir a un par de talleres, el proceso realmente es mucho más lento. Estos talleres suelen ayudar, es innegable, pero para nada te van a solucionar lo que querías trabajar. Pronto volvemos a estar como antes si no hemos mantenido un trabajo sobre sí mismo continuo, diario, aunque sean de unos pocos minutos.
Y como regalo final, un poco de música y humor. Os invito a escuchar Vecino de Kevin Jonhansen que toca de lleno lo tratado en esta entrada. Me encantaría recibir vuestros comentarios.
Imagenes: composición realizada por mi a partir de dos retratos de Dorian Gray de Enrique Corominas, el reflejo futurista de fondo de: Peace,love,happiness en Pixabay y el relampago, de: Gerd Altmann en Pixabay