La caja negra

Cuando abres tu app de fotos en el movil y buscas «cumpleaños», o «gato» o «Manolo»… no te causará sorpresa que a los pocos instantes tengas delante una selección de fotos de celebraciones, de gatos o de Manolos.
Sin embargo, para que tu “teléfono”, sepa en qué foto hay gatos y en que fotos no, hay un proceso bastante complejo que sucede en la trastienda.

Esto es un gato
Esto también es un gato

¿Qué les identifica? ¿Tienen 4 patas? ¿Orejas, bigotes, tiene cola?
ESO no siempre se ve en una foto
¿Son blanditos, ronronean?.
ESO JAMÁS se ve en una foto.

Entones ¿por qué sabe el teléfono que lo que sale en la foto es un  gato?

Para que eso ocurra, es necesario entrenar a una Inteligencia Artificial (AI).
Se trata de realizar un Aprendizaje Automático (Machine Learning) a base de enseñar miles, cientos de miles de fotografías a un “ordenador”.
Las primeras veces, se le indica cuando es un gato y cuando no.
En las siguientes, se le deja decidir y se le indica si ha acertado o no.
A medida que se va ejercitando, su nivel de aciertos roza el 100%.
Da igual que lo entrenes con gatos, con personas, con plantas… con lo que sea.

Cuando resuelves un captcha, estás ayudando a que una IA aprenda (o quizá estés colaborando con El Gran Hermano).

Una vez que el algoritmo está suficientemente entrenado, ya trabaja de forma desatendida.
En ciertas modalidades, si recibe feedback (humano o de otra máquina), seguirá perfeccionándose.
La cuestión relevante en este momento es que la máquina toma una decisión (es gato o no), en base a un entrenamiento, pero DESCONOCEMOS cuál es el proceso que le ha llevado a decidir porqué en cada caso concreto considera si es gato o no.
Como comenté antes no sabemos si se fija en la cola, en las orejas, en el perfil, o cómo combina estas vista…
No tenemos NI IDEA, ni tenemos forma de saberlo, por la inmensidad de cálculos que puede llegar a hacer en milésimas de segundo; no hay posibilidad de supervisar o auditar el proceso de la toma de decisión.
Por eso es por los que estos procedimientos de llaman de CAJA NEGRA: metemos unos datos y obtenemos una decisión, pero no hay justificación alguna:

En jerga técnica, una caja negra es cuando un sistema es visto principalmente por sus características de entrada y salida. Un algoritmo de caja negra es uno donde el usuario no puede ver el funcionamiento interno del algoritmo. Se trata de un sistema bastante polémico, por el hermetismo que contienen y la falta de transparencia, si bien sus creadores lo defienden como un sistema de seguridad y privacidad para evitar filtraciones de datos y competencia desleal. Otra característica de este tipo de algoritmos es su dinamismo, suelen presentar constantemente cambios con el objetivo de adaptarse al ritmo creciente de la tecnología y ofrecer valor a sus usuarios.

Hay casos muy, muy curiosos de decisiones que tienen sorprendidos incluso a sus «creadores»

Una AI, determina con enorme precisión (97%) el sexo de una persona por el iris.
No se sabe cómo lo hace, ni qué analiza.
Los científicos están desconcertados.

Otra AI, determina la raza con similar precisión (94%) con sólo mostrarle una radiografía parcial de un sujeto.
No se sabe cómo lo hace ni qué analiza.
Los científicos están desconcertados.

Otras AI detectan posibles melanomas, predicen estructuras de proteínas y sus interacciones

La información de nuestras fotos de nuestros gatos y dónde las tomamos, las palmeras, las personas que tenemos en nuestro carrete de fotos, las personas con las que interactuamos, con las que estamos en la calle, nuestros ingresos, nuestros desplazamientos, nuestros viajes, el uso de nuestras tarjeta de crédito o débito, nuestros hábitos online y offline, nuestro trabajo… esa información la analizan los sistemas de Machine Learning, que sacan patrones y patrones.

Unos sistemas mucho, muchísimo más potentes y que van aún mas por libre, los Deep Learning utilizan toda esa información generada y en base a ellas toman decisiones.

Porque hay algoritmos simples de recomendación como los que utilizan Netflix, Spotify o Amazon, pero los más complejos deciden o pueden decidir si conceder un crédito o una hipoteca, autorizar o no un tratamiento médico, distribuir las zonas verdes en las ciudades y otros recursos como rutas de transporte público o ubicación de otros servicios, si un vehículo autónomo debe frenar o continuar y por qué ruta, qué precio se te cobra por un producto o servicio (y seguramente no es el mismo que para tu vecino), si se concede una libertad provisional o no…

Llegó la hora de supervisar todo esto. Son muchas, muchísimas, las voces que advierten de los problemas que ya se detectan.


The following list enumerates all the ethical issues that were identified from the case studies and the Delphi study, totalling 39.


Gestalt vs Gestalt

Los inicios del Siglo XX en Alemania, concretamente el periodo denominado República de Weimar en fueron de gran creatividad artística, especialmente estético / visual, una verdadera vanguardia artística alemana.
En realidad todo el siglo XX, pero este periodo me interesa especialmente.
Expresionismo, Abstracción, Cubismo se reflejaron en disciplinas como la pintura, escultura, fotografía, tipografía, estampación, arquitectura.
Su máximo exponente: La Bauhaus
Seguro que conoces a Wassily Kandinsky, Paul Klee, Alma Buscher, Otti Berger, Lotte Beese
Ninguno se limitaba a una disciplina. Su arte era una forma de entender la vida: filtrar la experiencia y proyectarla a todo su entorno.

Holístico.

En esta efervescencia surgió una corriente psicológica: La Psicología de la Gestalt / Escuela de la Gestalt (también Psicología de la forma).
Psicología de la forma como sinónimo de figura, configuración, estructura, PERCEPCIÓN
Se estructuraron una serie de reglas / leyes que explican cómo conformamos imágenes que nos llegan a través de la vista.

Proximidad: los elementos se unen en formas con mayor cohesión cuanto mayor es su cercanía. Esta es la ley de Gestalt sobre la que hablaremos en este artículo.

	•	Semejanza: los elementos se unen con mayor cohesión cuanto mayor es su semejanza (por color, forma, dimensión, etc.).

	•	Destino común: los elementos con movimiento igual entre sí y diferente de otros elementos se agrupan.

	•	Continuidad de dirección: superponiendo dos elementos, sus líneas se unen según continuidad de dirección.

	•	Cierre: algunos elementos no relacionados entre sí pueden interpretarse como una sola figura.

	•	Pregnancia: cuanto más simple y estable es un elemento, más aparece "de impacto".

	•	Experiencia pasada: el cerebro tiende a crear formas ya vistas donde sólo hay líneas simples separadas o interrumpidas.

	•	Figura-fondo: es el clásico esquema en el que se basan las ilusiones ópticas, cuando una figura se entiende inmediatamente como tal gracias a sus contornos, pero luego nos damos cuenta de que también el fondo puede a su vez ser figura.

Su legado: El todo es más que la suma de las partes

Se utiliza, especialmente en creatividad publicitaria con resultados estéticamente impresionantes y muy cautivadores a la par que efectivos.
Principalmente debido a lo que nosotros aportamos.


No es lo que hay, es lo que nosotros vemos.



Nota: hay una terapia humanista de nombre Terapia de la Gestalt que no tiene nada, absolutamente nada que ver con el asunto tratado en este post y cuyos fundamentos y técnicas están más que cuestionados

Duérmete niño…

Te van a operar.
Te van a operar igual que cada día se hace a  tantos miles de personas en todo el mundo en grandes hospitales, en pequeños hospitales, en clínicas…
En tu caso te van a poner anestesia general. Quizá Pentotal Sódico o quizá Propofol. Todo el proceso va a estar supervisado por un médico especialista, formado específicamente en eso, muy cotizado, de hecho escasean: el anestesista.
“No se preocupe, será un momento. Cuente desde diez a cero”

Diez, nueve, ocho…

Lo que igual no sabes, es que ni tu ni ellos tienen perfectamente claro cómo funciona la anestesia general.

Se va a provocar analgesia, inconsciencia y amnesia

Con variaciones, muchas, la anestesia está probada clínicamente desde 1844 y sólo años después se realizó en la primera  intervención en un paciente real y aunque hay datos de uso de sustancias precursoras desde 1275)  y nunca se supo desentrañar el misterio de cómo funciona exactamente.

Sabemos que funciona, sabemos algunas cosas, pero aún se siguen haciendo estudios para saber cómo.

El asunto de la anestesia en el cuerpo humano es algo curioso porque, a pesar de haber pasado 170 años, todavía no existe una explicación completa sobre ello. En pocas palabras: aún se mantiene un misterio.

Algo así como la IA  y su impenetrable black box: obtenemos un resultado, pero no sabemos cómo se ha producido.

Pierdes la consciencia, pero prácticamente todo lo demás sigue funcionando a la perfección o sea la anestesia actúa sólo sobre una parte del el sistema nervioso central, dejando intacta otra (el sistema vegetativo, tanto simpático como parasimpático).

Y en un momento dado ¡te despiertas!

Ante tal complejidad, deberían ser prudentes los adalides del área prefrontal, de la dopamina, del cerebrocentrismo… ya sabes BLACK BOX mejor analizar el entorno.

Premio y Castigo

La Ley del Efecto, publicada por Edward Thorndike en 1905 sostiene que es más probable que repitamos aquellas conductas que nos proporcionan consecuencias agradables o placenteras que aquellas que nos provocan sensaciones aversivas o dolorosas. 
De hecho es una de las estrategias (junto a otras) que se utilizan a la hora de afianzar hábitos.
Facilitar y consolidar el aumento o la disminución de ciertas respuestas (conductas) ante ciertos estímulos, es el objeto de la modificación de conducta (psicología del comportamiento).

Para ello de vale de reforzadores y castigos.
Si estos se presentan de forma previsible y coherente, llegará el momento en el que aunque se retire bien el refuerzo o bien el castigo, la respuesta (conducta) se seguirá dando como antes (será una respuesta condicionada)

Es un poco más complejo que dar chocolatinas o pegar con la zapatilla; Y no olvidemos que se refuerzan (o castigan) conductas, no personas.
Vamos a echarle un vistazo:

(1) Refuerzo (R): Aplicando un refuerzo se busca SIEMPRE que una conducta se dé con más frecuencia, que aumente.
(2) Castigo (C): Aplicando un castigo se busca SIEMPRE que la frecuencia de una conducta disminuya

Puedo, en ambos supuestos conseguir mi objetivo proporcionando algo (que en ese caso se llama + positivo) o retirando algo (que se llama – negativo).

De esta forma obtenemos 4 posibilidades de intervención:

(1) Refuerzo positivo (R+): dar un premio (proporcionamos algo que ayude a aumentar esa conducta -> el refuerzo puede ser cariño, una golosina, dinero (un bonus), tomar un merecido descanso, … en un PREMIO -> quién deje su escritorio recogido a final de jornada podrá entrar 20 min más tarde la jornada siguiente* 
Aumentamos una conducta (R) introduciendo (+) algo gratificante 

(2) Refuerzo negativo (R-): eliminamos un fastidio (evitamos algo negativo con lo que aumentamos que se de esa conducta) -> quién deje su escritorio recogido a final de jornada no tendrá que acudir a la sesión de motivación*
Aumentamos una conducta (R) retirando (-) algo desagradable

(3) Castigo positivo (C+): hacemos que suceda  algo no agradable (probabilidad de que disminuya esa conducta) -> quién deje su escritorio sin recoger a final de jornada tendrá que venir 20 min antes la jornada siguiente*
Disminuimos una conducta (C) introduciendo algo desagradable

(4) Castigo negativo (C-): impedimos / evitamos que ocurra algo agradable (probabilidad de que no se de esa conducta) -> quién deje su escritorio sin recoger a final de jornada no tendrá acceso a los bonos de cafetería*
Disminuimos una conducta (C) retirando algo (-) agradable

* (quise forzar los ejemplos para que se perciba que aún buscando un mismo efecto, ciertos planteamientos son más adecuados según de qué conducta se trate)

Aunque estos procedimientos los utilizamos a diario, en prácticamente todas nuestras interacciones, el efecto no siempre es el esperado; Sin embargo, para el profesional (tras un proceso muy exigente, que requiere muchos años de formación y de aplicación) es una herramienta muy efectiva, respaldada por evidencia experimental de muchísimos años aplicada  a personas.

Disonancia Cognitiva

Un estudiante se enfrenta a su prueba definitiva. Está especialmente preocupado, porque se lo juega todo a una carta.
Tradicionalmente ha sido buen estudiante y siempre ha despreciado a los que utilizaban chuletas u otras tretas para aprobar.
El estudiante copió en esta ocasión: “Bueno todo el mundo copia, además las preguntas fueron muy difíciles, por lo que en este caso estaba justificado”

Excusas similares esgrime el fumador para no dejar de fumar (si fuese tan malo estaría prohibido, conozco gente de 100 años que fumó toda su vida), la persona obesa que come mal(un pastelito no puede hacer ningún mal), el listillo que defrauda  (todo el mundo lo hace, si no lo hago yo lo va a hacer otro)… Pero también explica las lealtades a las mayores barbaridades científicas o políticas o los más variados casos de conspiraciones

Leon Festinger, psicólogo social, describió en 1957 la teoría de la disonancia cognitiva.

La disonancia cognitiva es el malestar que experimentamos cuando tenemos dos cogniciones incongruentes entre si. Ese malestar puede ser muy aversivo, con lo que tenderemos a buscar maneras de reducirlo. Aunque hay muchas maneras de hacerlo, la más frecuente es la justificación.

¿Cómo lo resolvemos?
Optamos por el autoengaño


“Cuando existe disonancia, además de tratar de reducirla, la persona evitará activamente situaciones e información que probablemente aumentaría dicha disonancia”

-Leon Festinger-

El ser humano tiene una incuestionable necesidad de justificar sus acciones, esto hace que ante los demás (y ante nosotros mismos) necesitemos sentir que somos coherentes, que guardamos equilibrio entre lo que pensamos, decimos y hacemos. Cuando ello no ocurre hay una tendencia o predisposición interna a disminuir la tensión, aunque sea mínima, que estas incoherencias nos puedan generar para no sentir dicha incomodidad.

La teoría de la disonancia cognitiva considera además que existen pensamientos, creencias, ideas, cogniciones consonantes (es decir, coherentes o consecuentes entre sí). El ejemplo más recurrido es el del tabaco –“sé que fumar es perjudicial y no fumo”– y cogniciones disonantes –«sé que fumar es perjudicial y sin embargo fumo»–.

Nos centramos en la disonancia o tensión generada por las situaciones de incongruencia entre actitudes y conductas, es decir, pensamos una cosa y hacemos otra.

Para reducir la disonancia entre cogniciones podemos utilizar alguna opciones:
1. Cambiar uno de los dos elementos disonantes: o la actitud (“fumar no es tan malo”) o la conducta (no fumar).
2. Agregar una cognición para justificar o racionalizar la incongruencia entre las dos cogniciones. Ej. “hay fumadores que son longevos”.

Si te interesa el tema y quieres algo ameno, te recomiendo este libro: ¿Por qué  creemos en mierdas? del psicólogo Ramón Nogueras
(Enlace afiliado de Amazon facilitado por Aprendiendo GTD)

Indefensión Aprendida

A  dos grupos de estudiantes, de la misma clase, se les presentó una prueba que consistía en resolver 5 anagramas: encontrar una nueva palabra con las mismas letras que la palabra presentada.
Para el grupo uno, las 5 palabras presentadas tenían muy fácil solución. 
Para el grupo dos, las cuatro primeras eran irresolubles y sólo la quinta era tan fácil como se le había presentado al grupo uno.

¿Sabéis que pasó?

Que los miembros del grupo dos fueron incapaces de resolver la quinta prueba.
Se habían bloqueado y aunque era sencilla, no eran capaces de ver la solución.

El experimento es fácilmente replicable, se hizo infinidad de veces, incluso en directo en una charla TED

Esta respuesta, se puede dar en situaciones de violencia física, en situaciones de fracasos continuados, en situaciones de menosprecio reiterado, en entornos excesivamente controlados…
En psicología se llama “indefensión aprendida” y cuando se mantiene en el tiempo y se generaliza a muchas situaciones puede acarrear consecuencias graves:

«¿Para qué estudiar si siempre suspendo?» 
«¿Para qué buscar amistades si siempre me dicen que no?» 
«¿Para qué hacer cosas si siempre lo acabo estropeando todo?”
«¿Para qué intervenir si nadie me hace caso?» 

Quién primero describió este comportamiento fue el Dr Martin Seligman a finales de la década del los 60 del pasado siglo (antes de pasarse a la psicología positiva)
Realizó una serie de experimentos con perros que hoy serían difícilmente aceptables.
Lo que observó experimentalmente, fue que cuando un animal no es capaz de intervenir sobre algo que le causa dolor o sufrimiento, se acaba inhibiendo y deja de intentar responder / huir: Incluyo si  desaparecen las causas que inicialmente le impedían afrontar el problema, se mantiene en su postura de “no respuesta”.
Aquí sus conclusiones originales de Seligman.


La Indefensión aprendida, o adquirida, es una condición psicológica en la que un sujeto aprende a creer que está indefenso, que no tiene ningún control sobre la situación en la que se encuentra y que cualquier cosa que haga es inútil. Como resultado, el animal permanece pasivo frente a una situación displacentera o dañina, incluso cuando dispone de la posibilidad real de cambiar estas circunstancias.

Las situaciones de indefensión aprendida producen tres efectos cognitivos en las personas: refuerzan la creencia de que no hay posibilidad de controlar las situaciones desagradables, a pesar que esto no sea así; producen apatía y desmotivación, por lo que se dejan de intentar cambiar las cosas; y también afectan a los procesos de aprendizaje, porque cesan los intentos por encontrar nuevas vías de escape o de resolución.

En este video se puede ver una versión del experimento de los anagramas con un grupo de alumnos/as.

Tu cerebro piensa

Miniatura del diario «La Voz de Asturias»

¿Crees que tu cerebro piensa? ¿Es tu cerebro el que siente, el que decide, organiza, planifica…?
¿Eres tú quien reflexiona, o lo hace tu cerebro? ¿Tu no pintas nada?
De hecho podríamos decir que siempre es el cerebro el que piensa y siente, dado que toda nuestra vida mental está ligada a él.

Ciertas disciplinas parapetadas tras la denominación de “neuro-loquesea” , que suena muy bien, suelen difundir este tipo de creencias..
Pero NO. No eludas tu responsabilidad.
No es tu cerebro eres TU y tus circunstancias.

Descrita en el año 2003 por Maxwell Bennett y Peter Hacker (neurocientífico el primero y filósofo el segundo), la falacia mereológica de la neurociencia queda definida como la tendencia a atribuir en el discurso científico propiedades psicológicas al cerebro.

Mereológica, porque pretende atribuir a una parte propiedades que sólo son atribuibles al todo: Mi cortex visual no es el que ve, al igual que mi lóbulo frontal no es el que toma decisiones, no habla mi boca, no caminan mis pies. El que ve o el que toma las decisiones es el individuo en su totalidad.

Podría parece simplemente un error lingüístico, o incluso una figura literaria.
De hecho tomar la parte por el todo y viceversa  es un buen recurso retórico
Sin embargo puede tener consecuencias más allá de la simple confusión de términos, por ejemplo, buscar partes del cerebro responsables del pensamiento o de la toma de decisiones, al margen del individuo y lo que es per, conseguir que nos lo creamos.

Estoy gobernado por una fuerza incontrolada, que se rige por sus propias normas, una esencia que permanece intacta, que me es ajena y es dueña de mis actos.

Por suerte nos queda la Filosofía que aporta una visión holística del individuo.

Empatía

Recientemente, asistí a una presentación (otra) de novedades relacionadas con mi trabajo.
En la videoconferencia, en una de las típicas diapositivas, una de esas que alguien lee porque son autoexplicativas, se definían los tres pilares de aquella empresa.
Uno de ellos era “EMPATHY”, empatía.
No pude evitar mascullar un comentario, que por suerte nadie escuchó o al menos fue ignorado por todos.
¿Puede una empresa tener empatía? ¿Sabría quién escribió aquello lo que es la empatía?

Si tu lo sabes, si lo tienes claro, quizá no quieras seguir leyendo, pero te animo a ello. Serán sólo unos minutos y si cuando llegues al final no te topaste con  nada nuevo, no habrá sido demasiado grave.

La presentación continuó y sucedió  lo que me esperaba. En el desarrollo del pilar “EMPATHY”, lo que se planteaba era que la empresa rebosaba honestidad, autenticidad, transparencia, cercanía, humor…
Todos valores muy loables, pero NADA que ver con la empatía.
Es cierto que con frecuencia se asocia le empatía con caer bien y ser auténtico, pero no sé bien de dónde sale esa asociación y además es falsa (quizá por la similitud fonética con “simpatía”).

No me gusta tirar de diccionario de la RAE cuando hay que definir un terreno de juego, unos límites, el significado, de qué estamos hablando.

La empatía es una “capacidad”, una “competencia” que no sólo abarca la parte emocional y afectiva, sino que también tiene una perspectiva objetiva.
La empatía parte de saber ponerse en el lugar de otra persona, pero eso es una nimiedad, es sólo el punto de arranque, no acaba ahí.
Ser empático con alguien consiste en usurpar momentáneamente el lugar del otro: entender sus motivaciones, su patrón de procesamiento, sus referentes, sus condicionantes, su contexto, su objetivo.
Vivir una experiencia ajena, convertirse en otro, abandonar nuestra forma de ENTENDER para abrazar momentáneamente otra.

La empatía como cualquier otra capacidad puede aprenderse hasta cierto nivel y mientras la practicas y entrenas puedes adquirir innegables beneficios.

Aprenderás a escuchar, a analizar y a discernir, de forma prudente, sin caer en tópicos, incluso sin juzgar, evidentemente.
Una buen hábito que se puede aplicar a muchos terrenos profesionales (médico-paciente, profesor-alumno…).

Sentirás cómo tu curiosidad se estimula, cuanto más entiendes, más necesitas profundizar.

Tus relaciones sociales cambiarán: saber ponerse en el lugar del otro, pensar desde su punto de vista, valorar cuál fue su contexto, qué le hizo tomar las decisiones que haya tomado, porqué se comportó como se comportó… Los compartas o no, verás de otra forma a esa persona y esa persona te verá a ti de forma diferente.

Te hará más sensible a los problemas de otros, más tolerante con los errores, más proclive a ayudar, más respetuoso con todos, más amigable por tanto.

Lo mejor de todo, es que crea un círculo que se retroalimenta y que suele generar una sensación de bienestar mutuo: nos sentimos mejor con las personas que nos entienden, aunque no compartan nuestras opiniones.

Y si todo esto te supone mucho esfuerzo siempre puedes pedir ayuda, no es lo mismo pero LO PARECE

Syntax Error

Virginia. 1959, Consulta del Dr. William D. Scott. 10:45 a.m.

– Buenos días Cecilia, siéntese

– Buenos días Dr

– Serán sólo un par de preguntas;  ¿mataría usted? ¿Sería capaz de matar a un ser humano?

– ¿Cómo? ¿Qué pregunta es esa? Por supuesto que no, soy una persona normal, pacífica, no me gusta la violencia… Soy una persona de principios.

– ¿Tiene usted hijos?

– Si, gemelos; están pasando una temporada con mi hermana. ¡Los hecho tanto de menos!

– ¿Y si alguien fuese a hacerles lo más repugnante que usted pueda imaginar? ¿Los defendería? ¿Sería en ese caso capaz de matar?

– Bueno, es que usted me había preguntado en circunstancias normales y claro, yo…

– Gracias Cecilia; que pase el siguiente.

Esta publicación inicia, espero, una trilogía que llamo «yo soy yo y mis circunstancias», una breve reflexión acerca de que no SOMOS una cosa ni otra, sino sólo aquello que el contexto, las circunstancias determinan