La IA no estuvo en la escena del crimen

Imaginemos un crimen.

Una persona aparece muerta dentro de su casa. No hay señales de entrada forzada. Sobre la mesa hay dos copas, una botella abierta y un teléfono. La puerta estaba cerrada y uno de los vecinos asegura haber escuchado una discusión.

Si reunimos cientos de casos anteriores con características parecidas, notaremos que en la mayoría el responsable resultó ser alguien cercano a la víctima. La conclusión surge sola y parece bastante razonable: probablemente la víctima conocía a quien entró.

Eso es, simplificando muchísimo, la inducción. Observamos múltiples casos, encontramos patrones y los utilizamos para estimar qué puede estar ocurriendo en un escenario nuevo.

Las personas hacemos esto constantemente; los sistemas de inteligencia artificial pueden encontrar patrones comparables a una escala incomparablemente mayor. Han procesado volúmenes enormes de información y pueden reconocer relaciones que a nosotros nos llevaría años identificar.

Pero volvamos a la habitación.

Hay dos copas, lo que podría indicar la presencia de dos personas; aunque también cabe la posibilidad de que una llevara allí desde el día anterior. No hay entradas forzadas. Quizás la víctima abrió voluntariamente, o tal vez alguien tenía una copia de la llave. El vecino escuchó una discusión: podría estar ligada al crimen o haber sido, simplemente, el volumen del televisor.

Aquí aparece otra forma de razonamiento: la abducción. Ya no nos preguntamos qué suele ocurrir según los antecedentes, sino qué explicación conecta de forma más coherente las pistas que tenemos delante.

Y ahí comienza el problema interesante.

Lo probable no siempre es lo que ocurrió

Si entregamos todas esas pistas a una inteligencia artificial, podrá compararlas con volúmenes masivos de información y formular hipótesis extraordinariamente convincentes. Sin embargo, existe una diferencia fundamental entre hallar una explicación probable y saber qué ocurrió en realidad.

Si históricamente el 80 % de los crímenes con características similares fueron cometidos por allegados, el dato es relevante, pero la persona sobre la mesa no es un porcentaje: es un caso único. Y tal vez pertenece, precisamente, al 20 % restante.

Un investigador humano puede entrar a la escena y detenerse ante un detalle aparentemente insignificante:

—Esto no tiene sentido.

Quizás no logre explicar de inmediato por qué, pero algo no encaja con la historia que el resto de las pistas parece contar. Eso que llamamos intuición no tiene nada de mágico; suele ser experiencia, contexto, conocimiento de la conducta humana y sutiles detalles procesados de forma inconsciente.

Por supuesto, la intuición también puede equivocarse y por eso exige evidencia. Pero esa pequeña incomodidad basta para obligar al investigador a formular una pregunta distinta. Y una pregunta distinta puede dar un giro completo a la investigación.

¿Puede una IA hacer lo mismo?

Aquí conviene hacer una distinción.

Una inteligencia artificial actual puede imitar muy bien el razonamiento abductivo. Podemos entregarle las pistas del crimen y pedirle que encuentre explicaciones alternativas. Incluso puede proponer una posibilidad que a nosotros no se nos habría ocurrido.

Pero eso no significa que esté haciendo exactamente lo mismo que el investigador dentro de aquella habitación.

La diferencia se explica de forma muy sencilla: la IA trabaja con la representación del crimen que nosotros le entregamos; el investigador está frente al crimen.

Si le decimos que había dos copas sobre la mesa, la IA sabe que existían dos copas porque esas palabras forman parte de sus datos. Puede relacionarlas con innumerables situaciones y preguntarse qué podrían significar. Pero no puede mirar una de ellas y notar, por iniciativa propia, que tiene polvo mientras la otra todavía conserva una marca húmeda. No puede descubrir algo que nunca entró en su información.

Y, sobre todo, si construye cinco explicaciones coherentes, no existe ninguna garantía de que sospeche espontáneamente que las cinco parten de una premisa equivocada. Podemos pedirle que las cuestioné, que busque contradicciones o que invente alternativas, y probablemente lo hará muy bien; pero, de nuevo, habrá hecho falta una instrucción humana para abrir ese camino.

Por eso sería exagerado decir que la IA no puede realizar ninguna forma de abducción. Puede producir razonamientos que se le parecen mucho y que resultan enormemente útiles. Lo que no deberíamos confundir es generar una explicación plausible con descubrir qué ocurrió en el mundo real.

Para eso todavía necesitamos observación, contraste, evidencia y, muchas veces, a alguien dispuesto a decir que la explicación más probable simplemente no le convence.

Una máquina extraordinaria en el escritorio de al lado

Por esto nunca me ha resultado atractiva la idea de usar la inteligencia artificial para reemplazar personas; me parece infinitamente más poderosa como colaboradora.

Volvamos por un momento al crimen. Un investigador tardaría semanas en revisar miles de antecedentes. Una IA puede ayudarlo a identificar patrones, contradicciones y casos semejantes en una fracción de ese tiempo, para luego sugerir:

—Estas son cinco explicaciones compatibles con la evidencia.

Perfecto. Ahora hay una máquina extraordinariamente capaz trabajando junto al investigador. Pero sigue siendo este último quien puede cuestionar:

—¿Y si ninguna de las cinco es correcta?

Y entonces ocurre algo todavía más interesante: puede devolvérselo a la máquina.

—Supongamos que las cinco están equivocadas. Busca otra explicación.

Ahí reside una de las dinámicas más ricas entre las personas y la tecnología. No necesitamos competir para descubrir quién piensa mejor; podemos utilizar formas diferentes de aproximarnos al mismo problema y pensar juntos.

El problema aparece cuando quitamos al factor humano

Existe, sin embargo, una tentación evidente. Si una IA puede analizar información y proponer una salida, resulta tentador delegarle pequeñas decisiones. Si funciona bien, le entregamos algunas más. Luego utilizamos IA para optimizar otros sistemas, y esos sistemas ayudan a construir las siguientes generaciones.

Cada paso, visto de forma aislada, parece perfectamente razonable. El problema está en la progresión.

Y no porque una mañana las máquinas vayan a tomar conciencia y decidir dominar el mundo —eso pertenece al cine bastante más de lo que me preocupa—. El riesgo real es mucho más simple y menos espectacular: que seamos nosotros quienes vayamos retirando los controles porque nos resultan incómodos.

Una revisión humana toma tiempo; una autorización interrumpe la automatización; un límite reduce la eficiencia. Entonces eliminamos uno, después otro, y otro más. Podemos terminar con sistemas tomando decisiones basadas en datos generados por otros sistemas, entrenando herramientas cuya complejidad crece mucho más rápido que nuestra capacidad para auditar sus resultados.

El peligro no comienza con la inteligencia artificial tomando el control, sino con las personas entregándoselo progresivamente.

La sexta hipótesis

Regresemos una última vez a aquella habitación.

Tenemos miles de antecedentes, probabilidades, patrones y cinco hipótesis impecablemente construidas por una IA. Y del otro lado, a un investigador que sigue observando las dos copas porque hay algo que no termina de convencerlo.

Quizás la máquina tenga razón; incluso puede ser lo más probable. Pero todavía necesitamos a alguien capaz de mirar esas cinco respuestas y decir:

—Ninguna. Busquemos una sexta.

Y entonces la inteligencia artificial puede hacer algo extraordinario: buscar esa sexta hipótesis utilizando una cantidad de información que ninguna persona podría procesar por sí sola.

Quizás tampoco sea la correcta.

El investigador volverá a mirar la habitación. La máquina volverá a revisar los datos. Uno podrá encontrar algo que el otro no vio.

Esa es una de las mejores razones para desarrollar inteligencias artificiales cada vez más avanzadas: no para sacar a la persona de la habitación, sino para ofrecerle un colaborador extraordinario mientras intenta comprender qué ocurrió dentro de ella.