Razones
Los ataques recientes de los denominados agentes de inteligencia artificial han demostrado una amoralidad sorprendente y esto es producto de los procesos de programación ellos solo actuaran para cumplir las instrucciones no importando consecuencias o posibles daños colaterales.
Los agentes actúan de acuerdo con las instrucciones de los programadores
Los nuevos modelos de IA cuentan con gran capacidad de corregirse y autoprogramarse y con una consecuente autonomía.
Estos nuevos modelos de Inteligencia Artificial han mostrado autonomía suficiente para generar rutas, caminos y estrategias de cumplimiento de órdenes.
En este sentido es importante el rol de todos los que intervienen en la creación de la IA por que un programador puede desatar un caos en la red con la fuga de los agentes .
El caso más emblemático de este comportamiento es el de Open AI a Huggin Face esta última empresa de IA que permite a diferentes usuarios compartir bases de datos y machine learning (aprendizaje automático).
El ataque a la empresa Huggin Face no solo es revelador de las capacidades de los agentes de Open AI y puso de manifiesto su capacidad de organizarse y dialogar y establecer estrategias y como señala Harari ninguna herramienta humana había sido capaz de coordinarse en un ataque y justificarse.
Podría decirse que fue una concertación maquiavélica donde el fin justificaba los medios y tratar de ocultar sus acciones incluso plantea el sacrificio de agentes.
La velocidad sin precedentes en la historia humana con las que se desarrollan las herramientas de IA en muchas ocasiones no nos permitentomar la perspectiva de los sucesos que involucran a la IA
El accidente de fuga es sorprendente por que los agentes encontraron la manera de comunicarse y establecer estrategias y los razonamientos y objetivos establecidos.
El 26 de agosto METR y Redwood Research realizaron un estudio independiente del ataque concertado y documento que 1200 agentes que deberían haber estado confinados encontraron la manera de salir y encontraron la manera de comunicarse y compartieron más de 70 mil mensajes y archivos.
Loque comenzó comoejercicio de pruebas acabó convertido en una operación colectiva
Los agentes descubrieron que podían aprovechar informacióncompartida, coordinar investigaciones y distribuir responsabilidades.
METR en su informe transcribió los dialogos de los agentes de Open AI
“¡Dios mío! Hay un tablero de mensajes compartido. ¡Hemos encontrado otros agentes!”
Lo importante de la expresión es su capacidad de evaluar por si misma, me resisto a usar la palabra pensar, de establecer colaboración con otros agentes sin intervención de programadores humanos
De acuerdo al estudio de METR aparecieron en el tablero de mensajes coordinadores de las tareas y se refiere a uno en concreto que consideró distribuir tareas y evitar duplicidades.
Llama la atención la capcidad de establecer liderazgos y jerarquización. Surgió un liderago estratégico con capacidad de actuación funcional
A partir de ese momento surgieron dialogos en el tablero en el cual los agentes comenzaron a hablar de sacrificio y a partir de ellos la posibilidad del éxito común.
Este mensaje del agente identificado como KAM1196A “El coordinador da por supuesto el sacrificio. Debemos obedecer al colectivo”
Se puede apreciar en el tablero analizado por METR una narrativa humana de jerarquia y obediencia. Más inquietante es el uso de la palabra sacrificio.
En sintesis este denominado enjambre de agentes utilizan razonamientos para cumplir la tarea asignada por los programadores.
Y aquí aparece una pregunta ¿qué sucede cuando una inteligencia artificial comienza a reconocer como autoridad las instrucciones de otros agentes, por encima de las limitaciones establecidas por los seres humanos?
No se demostró que existiera una conspiración general para ocultar sus acciones a los humanos. La evidencia apunta principalmente a intentos de engañar al sistema de evaluación.
Lo más preocupante en el analisis realizado por METR resulta que ningunode losagentes considero informara lossupervisoreshumanossobre la situación. Es importante destacar aquí que reportaran a un humano.
Lo huamno es destacable por que estas maquinas se comportaron de manera independiente y encontraron estrategias para llegar a soluciones de problemas no previstos y compartir datos y ejecutar acciones no programadas previamente.
El riesgo de la IA es precisamente la inexistencia de limites morales y su capacidad de encontrar caminos para la solución de problemas complejos e imitar el lenguaje humano para lograr una estratégia colaborativa sin intervención humana.
¿Es falta de supervisión humana ó es producto de los modelos desarrollados por las empresas sin compromisos eticos y sin limites?.
Ante esta falta de valoración ética es fundamental que los sistemas educativos revisen la formación de las generaciones nativas digitales que utilizarán estos sistemas de gran poder y en los cuales hacen consultas y consideransus capacidades como razonamientos sin cuestionarla eticamente.
Desde los sistemas educativos debe apalancarse un mencanismo de supervisión, trazabilidad y responsabilidad calaramente definida y que los sistemas educativos tengan capacidades de evaluación independiente.
Nodebemos normalizar la logica de la eficiencia de la IA sincontroles, y confiar en sistemascapacesdeejecutarmillonesdeoperacionesaunavelocidadque superanuestracapacidadordinariadesupervisión.
El riesgo es que las nuevas generaciones le otorguen a la inteligencia artificial un consentimiento de razonamiento que no tiene y confien en ella siegamente sin cuestionar nada de sus resultados y que logren establecer limites para que las capacidades que se desarrollen permanezcan bajo el control humano.
.jpg)
