El dilema está servido. Por una parte, es obvio que hemos de programar inteligencias avanzadas de forma que sean moralmente razonables. Por otra parte, nuestro comportamiento colectivo no se adecúa a ese requerimiento
José Ignacio la Torre -Ética para maquinas-
Con el Coronavirus Ha dado pie a que hayan germinado muchas teorías conspiranoicas y unas de las que más fuerza ha cogido es el de las app para el control de la pandemia que realmente va, según dichas teorías a un mayor control, seguimiento de la población para razones que van más allá del solo control de la pandemia.
La Cuestión real es la poca confianza que la población tiene en las instituciones gubernamentales y en las grandes empresas tecnológicas, la desconfianza por ver cómo de pronto nos llega propaganda, de algo que no hemos buscado pero que sin embargo hemos comentado con alguien. ( no me lo creía demasiado hasta este domingo, que comentando una cosa que me pareció curiosa sobre la manta especial que tiene para su perro en los asientos traseros, me apareció en Twitter un anuncio sobre una marca de estas mantas, protectoras, aun así, tengo que Asegurarme de que no esté aplicando yo un sesgo).
La raíz de nuestra especie, como gregaria, es la confianza. Si tengo confianza en ti, puedo acercarme, colaborar en proyectos comunes, incluso llegar a una relación de verdadera amistad o de pareja. Para que exista esa confianza, la escala de valores tiene que ser la misma o muy similar entre las personas. Y me refiero tanto a una escala ética como moral.
Una IA, inicialmente carece de dichos valores, en todo caso reflejaría los principios de sus diseñadores, Programadores, así como del Dataset con el que haya aprendido.
la Diferencia que hay entre una IA y una persona es demasiado grande para que se dé, de forma natural, una relación de confianza. Bueno, me puedes decir que tu si confías más en una IA que en una Persona, pero siento decirte que perteneces a una minoría, en el momento que salgas un poco de tu círculo te podrás percatar que hay más temor que confianza, normalmente debido al desconocimiento, a la ignorancia, de las cuales hacen gala de una forma absurda, de la ignorancia.
Desgraciadamente entre las personas que están en la rama humanista, esto es demasiado patente, sobre todo cuando ves en sus muros de Facebook como comparten Fakes News sobre tecnología, ganando en estos meses los supuestos efectos nocivos sobre la salud de los seres vivos que estén en el radio de influencia de una antena/ móvil 5G. Y el poco caso que te hacen, si aun con pruebas, desmontas la Fake News, a la semana o un poco más vuelve a compartir una noticia similar, Tranquilo, paciencia, no merece la pena calentarse con ello.
Buscamos que una IA pueda explicar todo el proceso que ha realizado desde los datos de partida hasta los resultados que ha dado (decisión que ha tomado). ¿Cuántos de nosotros podemos realmente describir bastante minuciosamente todo el procedimiento Para llegar a nuestra decisión final?.
No por esta última pregunta sugiero que tengamos que obviar el seguir intentando buscar la manera de que una IA pueda describir todos los pasos que ha necesitado desde los datos de entrada hasta el resultado final.
NeuroIPC ha Establecido unas bases para presentar los trabajos sobre los que quieren presentar en las jornadas. unos principios que mueven a los desarrolladores a preguntarse los pros y los contras de sus ideas, de ir un poco más allá de ver para que fue diseñado ese algoritmo, porque a veces, si bien a corto plazo, puede ser un algoritmo perfecto, ¿qué implicaciones tiene su uso en el tiempo y en el número de algoritmos idénticos funcionando simultáneamente?.
Un ejemplo de lo dañinos que pueden ser, los tenemos en los Algoritmos de Trading que se usan en la bolsa, de cómo han propiciado caídas bestiales de las bolsas ( a lo que han denominado Flash-Crash,) para en poco tiempo por lo general recuperan todas las perdidas, pero que pasaría si en una de estas, la bolsa ya no levanta cabeza? pero tan solo destacar el horizonte cortoplacista de estos algoritmos, en línea con las mentalidades de los brókeres, por lo general de dudosa ética y moral.
El caso del flash-crash de 2010 sacó a la luz esta problemática, puesto que dicho crash fue inducido por Navinder Singh Sarao, un operador con sede en Londres que introdujo órdenes de venta masivas para provocar el derrumbe de los precios, y luego poder comprar títulos a un precio de saldo.
extraído del artículo del Blog Salmón: Los flash-crash y los peligros de la inversión automatizada
Creo que ya me he extendido bastante en esta presentación de esta guía, es una guía para dedicarle tiempo, leerla detenidamente y aunque no la vayas a presentar en las jornadas de NeuroIPC, es un buen ejercicio de autorreflexión sobre nuestro trabajo. Si después de realizarla vemos que es buena para mí, para mi entorno, pues adelante, si no… ¿donde tengo que realizar las modificaciones?.
Guide to Writing the NeurIPS Impact Statement – Centre for the Governance of AI – Medium
Imagenes: mano que sale de la pantalla para estrechar apretón de manos de kiquebg en Pixabay