La Naturaleza Del Software

LNDS

Condiciones necesarias

| Comentarios

Security in human systems we’re told will always, always last – Sting, History Teach us Nothing

En todos los artículos anteriores la idea central era mostrar que mucho de lo que llamamos sentido común es alguna forma de razonamiento circular, que muchas explicaciones de sentido común están erradas y eso se demuestra al confrontarla con experimentos o hechos derivados del estudio real del comportamiento de los grupos humanos.

La Mona Lisa es la pintura más famosa del mundo porque tiene los atributos de la Mona Lisa. Unas pocas personas son capaces de promover una tendencia, o implantar una moda. Puede que muchas explicaciones de sentido común sean ciertas, pero en realidad lo que hacen es decirnos que pasó lo que pasó, y no otra cosa. Dado que estas explicaciones sólo pueden construirse después de conocerse el resultado nunca estamos seguros si son realmente explicaciones o simples descripciones.

El problema está en que, a diferencia de otras ciencias, en que podemos testear hipótesis en experimentos controlados que podemos repetir una y otra vez, en los eventos históricos eso no es posible. El experimento sucede una sola vez. La historia sucede una sola vez. El resultado de un evento histórico tiene mucho que ver con las micro interacciones entre las personas, y como hemos visto no es posible conocer el detalle de estas, ni su distribución, y la explicación queda oculta  a los ojos de los observadores.

Sesgo Muestral

Una de las causas de que no podamos encontrar explicaciones satisfactorias a los eventos históricos es que somos malos en la selección de la información relevante. El problema está en las cosas a las que ponemos atención. Tenemos la tendencia a ignorar los eventos que no pasan, o ignoramos cosas que pasan muy frecuentemente. Destacamos las veces en que encontramos a una amistad en el aeropuerto, pero no las veces en que eso no pasa. Las veces que perdemos el bus las recordamos o notamos más que las muchas veces en que el bus arriba unos instantes después de nuestra llegada. Nos fijamos en las rachas goleadoras de un jugador de futbol, pero no en la gran mayoría de jugadores que tienen una temporada regular. En suma, nos fijamos en los hechos interesantes, obvio, es algo natural. Pero el problema es que esa tendencia natural la proyectamos en nuestras explicaciones de los fenómenos, ignorando el resto de la información.

Si queremos explicar como la gente se hace rica, o la clave del éxito de algunas empresas, nos fijamos en los millonarios, o las empresas exitosas para identificar los atributos que comparten. Eso es lo que hacen las revistas y diarios de finanzas cuando preparan sus semblanzas de ejecutivos estrellas, o prósperos empresarios. Pero resulta que si miráramos los miles de otros casos de gente que no es rica, o que no ha tenido “éxito”, descubriríamos que exhiben  muchos de los mismo atributos.

“La única manera de identificar los atributos que diferencias a los exitosos de los que no lo son es considerar ambos clases, y mirar las diferencia sistemáticamente. Pero como estamos interesados en el éxito, nos parece inútil, o poco interesante preocuparse por la falta de éxito. Luego inferimos que ciertos atributos están relacionados con el éxito cuando en realidad están igualmente relacionados con el fracaso.” – Duncan Watts (1)

Esto es  sesgo muestral. Para entender los problemas que este tipo de distorsiones producen vamos a ver un ejemplo. En un importante accidente aéreo, producido en el momento del aterrizaje, la comisión investigadora determinó cinco factores que contribuyeron al accidente: primero, la radio del avión tenía un desperfecto, y falló en una etapa crítica de la aproximación a tierra; segundo el piloto y el navegante estaban fatigados, tenían pocas horas de sueño en los días previos al accidente; tercero la neblina era especialmente espesa esa noche, la visibilidad escasa; cuarto algunas  instrucciones de la torre fueron contradictorias lo que provocó confusión, no se tenía claro cual era la pista que se debía ocupar; quinto producto de todo lo anterior, y de las instrucciones confusas el operador de tierra se confundió y dada la situación estresante entendió que la pista a usar era otra y olvidó despejar un vehículo que estaba en medio del área de aterrizaje. La investigación concluyó que fue la combinación de estos cinco elementos la causa del accidente.

Gráficamente, la conclusión del comité investigador es esta:

[caption id=”attachment_2149” align=”aligncenter” width=”616” caption=”Figura 1: Combinación de causas de un accidente aereo”][/caption]

Posteriormente un sicólogo analizó el caso y destacó el hecho de que aunque la explicación es razonable, familiar y consistente con los accidentes aéreos en general, estos mismos factores aparecen consisténtemente en muchas situaciones similares y no se producen accidentes. Gráficamente esto se puede representar así:

[caption id=”attachment_2151” align=”aligncenter” width=”616” caption=”Figura 2: Las mismas causas y no siempre ocurre un accidente aéreo”][/caption]

En otras palabras, estos factores son condiciones necesarias, pero no suficientes para producir un accidente. Sin ellas es extremadamente improbable que ocurra un accidente, pero porque estén presentes no significa que se producirá un accidente. Pero cuando el accidente ocurre todas las demás flechas desaparecen, el mundo colapsa en una explicación única, la combinación de estos cinco factores causan el accidente. En realidad esa no es una explicación, sólo estamos dando cuenta de lo que sucedió.

Si en la figura 2 la combinación de factores parecen ser un malos predictores del resultado, cuando el accidente ocurre pasamos al escenario de la figura 1, en que los mismos factores se convierten en la explicación perfecta del accidente. La investigación ayuda a encontrar las condiciones necesarias para el accidente, algo que es bueno, porque nos permite tomar las medidas preventivas para evitar accidentes. Pero la tentación de usar estas condiciones como condiciones  suficientes para un accidente deja muy mal parada a nuestra intuición para explicar los accidentes.

Y lo mismo pasa con todo tipo de eventos raros, como cuando  una persona arma  entra al metro y mata a sus pasajeros. Podremos encontrar todos los atributos que explican el comportamiento de esta persona, su perfil sicológico, su pasado, su historia, problemas siquiátricos, o de alcohol, depresión, etc. Un montón de condiciones necesarias para que se de este tipo de ataque. Pero hay miles de personas con los mismos problemas, y no andan disparando gente en el metro. Simplemente, no podemos explicar las razones que llevan a una persona a actuar así.

Notas:

(1) Tomado del libro Everything Is Obvious: *Once You Know the Answer de Duncan Watts.

Comentarios