Razones
En el libro La nueva mente del emperador, Roger Penrose, premio Nobel planteó hace décadas si una máquina puede pensar realmente o sólo ejecutar procedimientos formales. La pregunta cobra actualmente gran relevancia.
La inteligencia artificial ha tenido un desarrollo sin precedentes y es en este momento que su desarrollo se ha convertido en un elemento de la estructura de poder.
Las empresas tecnológicas cuentan con enormes contratos para uso de inteligencia y entre sus actividades tienen los algoritmos las tareas de clasificar personas, predecir conductas, orientar decisiones financieras, intervienir en procesos educativos, y participar en el desarrollo de sistemas militares.
La IA calcula, correlaciona, predice y responde. No percibe el mundo como lo hace una conciencia. No siente miedo, culpa, compasión, duda moral ni responsabilidad. No comprende el dolor humano: lo procesa como dato. No tiene experiencia del mundo; tiene modelos estadísticos del lenguaje, de imágenes, de trayectorias, de patrones. Puede describir una escena, pero no habitarla. Puede simular sensaciones, pero no padecer las consecuencias de su error.
Penrose cuestionó la idea de que la mente humana pudiera reducirse a un algoritmo. Su argumento se relacionaba con los límites de los sistemas formales y con los problemas de referencia a si misma que aparecen desde Gödel es decir hay verdades que un sistema no puede demostrar desde dentro de sus propias reglas.
El premio Nobel señaló que un programa opera dentro de condiciones definidas, incluso cuando “aprende” de grandes cantidadesde datos y apartir de ellos puede optimizar una tarea, no significa comprender y menos valorar sus implicaciones morales.
La recursividad es una referencia así misma y solo puede procesar instrucciones sobre sí misma, corregir procedimientos, ajustar parámetros y producir salidas cada vez más sofisticadas es decir realizar tareas predefinidas y eso no equivale a una conciencia reflexiva.
Un sistema puede saludarte darte la bienvenida y decir “yo”, pero ese “yo” es sólo producto de ceros y unos. Puede presentar opciones pero no decide en el sentido humano del término solo ejecuta un programa.
El problema moral y ético se vuelve más grave cuando esta operación algorítmica entra a un terreno militar y de vigilancia e inteligencia. Construir armas autónomas capaces de seleccionar y atacar objetivos sin intervención humana directa no es sólo una innovación militares una gran transformación en la estrategia y táctica militar que requiere una revisión ética.
No puede desplazarse la responsabilidad de la cadena de mando con personas autorizadas hacia una cadena de programadores, contratistas, fabricantes, bases de datos y algoritmos sin rostro.
La IA es una herramienta tecnólogica eso no absuelve de responsabilidad a ningun humano de la toma de desiciones y la cadena de mando encabezada por el mas alto nivel del ejecutivo es el responsable, sería como responsabilizar a los cañones por las bajas y no al que ordenó y al que disparó el arma.
Es un sistema al servicio de humanos y en esta caso un arma y la responsabilidad en el uso de la guerra no exime al general que autorizó su uso tampoco a la empresa que diseñó el algoritmo y menos al Gobierno electo que compró el sistema y debe rendir cuentas a sus electores.
El discurso sostiene que las tecnologíaspueden ser más precisas que los humanos, más rápidas, menos impulsivas y menos vulnerables al miedo. Daniel Kahneman, Premio Nobel de Economía y autor de Thinking, Fast and Slow, mostró cómo nuestras decisiones están atravesadas por sesgos, atajos mentales, reacciones automáticas y errores sistemáticos de juicio. El ser humano decide muchas veces desde la intuición, no desde la razón; desde el miedo, no desde la evidencia; desde la presión del momento, no desde la deliberación.
Ese sesgo no justifica entregar la decisión letal a una máquina. Más bien obliga a mejorar los controles humanos, no a eliminarlos. La respuesta ética frente al sesgo humano no puede ser una obediencia ciega al cálculo automatizado.
Los algoritmos también heredan sesgosde los datos con los que fueron entrenados y tener fallas de actualización de los objetivos que se les asignande acuerdo a las prioridades políticas o militares que los orientan.
La diferencia es que el sesgo humano puede ser interrogado moralmente; el sesgo algorítmico suele esconderse tras una apariencia de neutralidad técnica.
La intervención humana no garantiza justicia. Los humanos nos equivocamos y tenemos sesgos, en ocacciones a partir de órdenes impulsivasse cometen atrocidades.
Pero conservar la intervención humana en el uso de la fuerza letal mantiene la responsabilidad, ladeliberación y la posibilidad de juicio moral. Una sociedad puede juzgar a una persona; no puede juzgar a un algoritmo. Puede exigir cuentas a un mando; no puede pedirle remordimiento a una arquitectura de software.
Por lo tanto automatizar la violencia no puede convertirse en una vida en variable y reducir la dimensión etica a parametros de algoritmos.
La gran confusión de nuestro tiempo consiste en creer que toda la capacidad de cálculo es inteligencia y que toda automatización es progreso. Penrose nos recuerda que la mente no es simplemente una máquina que manipula símbolos. Kahneman nos advierte que la mente humana tampoco es pura racionalidad. Entre ambos racionamientos podemos concluir ni el humano es infalible ni la máquina es moral.
Por eso, la pregunta no es si la inteligencia artificial puede hacer la guerra más precisa. La pregunta es si queremos construir un mundo donde la decisión de matar pueda ejecutarse sin una conciencia humana obligada a responder por ella. En ese punto, la tecnología deja de ser herramienta y se convierte en coartada. Y en ninguna nación por desarrllada que sea se debería permitir que la eficiencia sea el nuevo nombre de la irresponsabilidad y menos en coflictos armados.
