Robots y algoritmos. ¿Mas miedo que a Freddy Krueger?

Freddy Krueger era un personaje de terror que aterrorizo a los jóvenes desde los años 80 hasta el siglo XXI. Básicamente hacía que sus pesadillas se convirtieran en realidad y morían mientras dormían. La evolución de la tecnología está permitiendo la implementación de algoritmos que, empleado las ingentes cantidades de datos que diferentes organismos y empresas tienen de nosotros, segmentan nuestra actividad, predicen o sugieren comportamientos, incluso controlan nuestra actividad. Pero ¿qué ocurrirá en adelante? ¿Predecirán estos algoritmos el futuro? ¿Nos condicionarán el comportamiento para que esa predicción se cumpla?

Probablemente mientras lees este articulo hay decenas de algoritmos que están haciendo predicciones sobre ti. Incluso puedes haber llegado a leerlo porque un algoritmo te lo ha recomendado.

Los análisis predictivos se están empleando cada vez en más áreas de nuestra vida. Y, por supuesto, nadie nos ha pedido permiso para realizar dichos pronósticos, no podemos controlarlos y no estamos protegidos frente a ellos.

Estas predicciones pueden determinar incluso si se te concede un préstamo, una vivienda, un seguro incluso tu futuro empleo.

Algoritmos y el estado actual de la tecnología

Primero vamos a definir que es un algoritmo en este contexto. Un algoritmo es un conjunto de instrucciones o pasos no-ambiguos que nos permiten ir de un estado inicial a un estado final, en el que se obtiene una solución. Los pasos entre esa entrada y salida pueden ser una secuencia simple o complejas operaciones mediante IA y Machine Learning.

En la actualidad, a nivel empresarial, se están empleando algoritmos de IA en conjunción con diferentes sistemas de automatización para la gestión de seguros, prestamos financieros, análisis de riesgos en la venta o alquiler de pisos, etc. Estos procesos “simplemente” tratan de emular a la inteligencia humana en los procesos de decisión.

Un ejemplo podría ser un parte ante nuestra aseguradora de un siniestro de automóvil. Lo que hace el asegurado es enviar una foto del accidente y los daños a través de una app. El sistema analiza la foto del accidente para identificar el vehículo del asegurado o si es una foto trucada que se parece a otro siniestro que la aseguradora tiene en su base de datos. El sistema puede analizar las trazas en redes sociales para comprobar si los implicados en el accidente estaban en ese momento allí, incluso podría verificar si en ese momento y en ese lugar se produjo un accidente mediante una conexión a sistemas de navegación que registran la velocidad del tráfico incluso la existencia de accidentes, policía, etc. Toda esta recogida de datos junto con unas reglas de decisión gestionarán las acciones a llevar a cabo, entre las que pueden estar verificar que se está al corriente de pago de la póliza, verificar sus coberturas, pedir cita en el taller, evaluación de daños del automóvil, pedir cita en una consulta médica para análisis de daños físicos, etc. En definitiva, gestión del parte de accidente de una manera desatendida. ¿Cuánto tiempo tardaran los peritos de accidentes en ser prescindibles y ser sustituidos por una app?

También, los gobiernos invierten cantidades ingentes en algoritmos de IA para predecir, por ejemplo, como va a ser nuestra declaración de la renta. La AEAT sabe lo que tienes que declarar antes de que tu hagas la declaración y además tiene automatizado el procesamiento de las declaraciones, de manera que si no coincide automáticamente te manda un requerimiento. ¿No es, en cierta medida, una predicción?

La predicción mediante algoritmos requiere una gran cantidad de datos para probar los modelos generados por los expertos en analítica de datos e inteligencia artificial. Estos modelos de deep learning son complejos y el resultado viene influido por múltiples variables. Sin embargo, la tecnología es cada vez más accesible. El MIT ha diseñado una interface fácil de usar, incluso para no expertos que permite realizar mejor las predicciones basadas en la recolección de datos históricos. Este nuevo desarrollo y los posteriores van a permitir que en poco tiempo tengamos realmente “bolas de cristal” que nos van a permitir predecir determinadas ocurrencias. No nos valdrán para predecir el futuro en general, pero si determinados hechos en contextos determinados.

¿Estamos predestinados?

No es mi objetivo entrar en una reflexión filosófica sobre la predestinación o el libre albedrio, y mucho menos pensar en un futuro distópico. Sin embargo, conforme avanza la ciencia y la tecnología hemos descubierto que nuestro ADN nos hace susceptibles a ciertas enfermedades, es decir, algunos están predestinados a sufrir unas patologías y otros no. ¿No es una forma de predestinación?

Ahora y en un futuro no muy lejano, con los datos que se recopilan de nosotros y los algoritmos de IA, se podrán hacer modelos por grupos afines de personas, incluso individuales, y predecir tus tendencias de compras, de ocio, políticas, lo que vas a comer, lo que vas a sentir al ver una película, una noticia, que pareje elegirás, lo que vas a votar, etc. Y si sabe lo que vamos a hacer, ¿no podrá modificarse dicho comportamiento con noticias, mensajes y acciones hasta que nos lleven al resultado que una corporación o varia, o los gobiernos desean? Como ratones de laboratorio gobernados por esos algoritmos.

Hace ya diez años, los algoritmos de Target pudieron identificar que una adolescente estaba embarazada antes de que su padre lo supiera. Hace cinco años, Facebook se jactaba ante los anunciantes de que podía reconocer cuando los adolescentes se sentían inseguros. Más recientemente, a medida que la IA se vuelve más inteligente, puede determinar cuándo morirá una persona. El problema de predecir futuros comportamientos humanos de la misma manera que un meteorólogo pronosticaría el clima es que estamos deshumanizando a las personas.

Todos aprendemos a través de las experiencias únicas en nuestra vida. Pero el éxito de cualquier modelo informático dependerá de su visión del mundo y de los sesgos introducidos por los analistas con un conjunto diferente de valores. Se pueden generar problemas si un algoritmo no entiende tu historial financiero o laboral y determina incorrectamente que no soy de la suficiente confianza para recibir un préstamo o conseguir mi próximo trabajo. En lugar de predecir mi futuro, podría restringir deliberadamente mis opciones y condicionar mi futuro.

Sin embargo, nunca debemos subestimar la capacidad humana de hacer lo inesperado, lo impredecible. Esa es una cosa que los algoritmos de IA aún no pueden entender o predecir.

Así que ahora que llega el verano, disfrutemos de las vacaciones, ya que probablemente un algoritmo nos ha indicado donde ir y que hacer con la completa seguridad de que vamos a disfrutar como nunca de esas vacaciones.

Un algoritmo ha condicionado y predicho donde vas a estar de vacaciones. Pero esta en tu mano aplicar el sentido común.