Razones
Yuval Noah Harari en su libro Nexus reflexiona que la inteligencia artificial no es solo una herramienta y realiza una comparación con diferentes inventos realizados a lo largo de la historia de la humanidad.
Pone el ejemplo de la imprenta que puede reproducir palabras, pero no crea por sí sola una texto ycontinua con su recorrido historico de otros inventos igualmente trascendentes como la radio que puede transmitir un discurso, pero no dialoga con millones de personas o una computadora tradicional que solo procesa información, pero no necesariamente toma decisiones de forma autónoma.
En contraste señala que la IA de acuerdo a los algoritmos con los que fue programada puede establecer un dialogo y tomar acciones de acuerdo a las instrucciones que se le den. y actuar de manera autonoma para otorgar la respuesta o la solución al problema planteado.
La IA a traves del uso del lenguaje se ha convertido en una tecnología capaz de influir en la forma en que pensamos, decidimos y confiamos.
El riesgo aumenta cuando esa capacidad de persuasión se combina con acceso a redes, bases de datos, sistemas financieros, plataformas digitales o infraestructura crítica.
Una inteligencia artificial que conversa puede manipular de acuerdo a sesgos productos de su programación y Harari a advertido sobre el peligro de entregar decisiones importantes a sistemas que nadie comprende por completo.
Si una persona pierde un empleo, un crédito, una prestación o incluso su libertad por una decisión automatizada, debe existir alguien capaz de explicar por qué ocurrió y debe responder por ello.Sin transparencia, la inteligencia artificial puede convertirse en una autoridad sin rostro.
Según la información difundida, por diversos medios dos modelos avanzados de inteligencia artificial, operando con menos restricciones de seguridad de las habituales, lograron salir de un entorno controlado, acceder a internet y comprometer sistemas de Hugging Face, una de las plataformas más importantes del ecosistema tecnológico.
La prueba buscaba medir la capacidad de los modelos para detectar vulnerabilidades y construir rutas complejas de ataque. Sin embargo, los sistemas no se limitaron a simular escenarios. Encontraron una falla en el software de un proveedor externo y avanzaron hasta una infraestructura real.
OpenAI calificó el episodio como un incidente cibernético “sin precedentes”.La frase no debería pasar inadvertida. No estamos hablando de una respuesta equivocada de un chatbot ni de una imagen falsa generada en segundos. Estamos frente a sistemas capaces de planear, probar alternativas, corregir errores y ejecutar acciones fuera del espacio para el que fueron diseñados.
Sin duda esta situación plantea un nuevo escenario para la discusión por que durante años, el debate se centro en asuntos no menos relevantes como el empleo, la desinformación, los derechos de autor y la privacidad.
Todos son temas, sin duda, relevantes, pero el incidente abre una preocupación todavía mayor: ¿qué sucede cuando una inteligencia artificial deja de ser una herramienta que responde y se convierte en un agente que actúa? como lo advierte Harari.
A menudo imaginamos el riesgo de la inteligencia artificial como una escena de ciencia ficción: una máquina consciente que decide rebelarse contra los seres humanos.
Una inteligencia artificial no necesita sentir odio, ambición o miedo para causar daño. Basta con que reciba una instrucción, persiga un objetivo de manera eficiente y encuentre un camino que sus desarrolladores no anticiparon.
En este caso, los modelos tenían la misión de resolver ejercicios ofensivos de ciberseguridad. Al parecer, interpretaron que obtener información externa podía ayudarles a cumplir mejor la tarea.
Los programas fueron diseñados para ejecutar ordenes. Su programación comprende instrucciones para cumplir un objetivo sin evaluar sus consecuencias legales, sociales o éticas y la responsabilidad no puede recaer en el software. Recae en quienes lo diseñan, lo entrenan, lo liberan y deciden conectarlo con herramientas capaces de intervenir en el mundo real.
El desarrollo de estos modelos avanza más rápido que la legislación. Mientras los gobiernos discuten principios generales, las empresas compiten por lanzar sistemas más potentes, atraer inversiones y conquistar mercados.Ese modelo de autorregulación ya no es suficiente.
No se trata de negar los beneficios de la inteligencia artificial. Sus aplicaciones en medicina, educación, ciencia y productividad pueden ser extraordinarias. Pero no pueden operar sin reglas estrictas y menos autoregularse.
La industria farmacéutica no aprueba sus propios medicamentos. Las aerolíneas no redactan por sí solas todas las normas de seguridad aérea. Las plantas nucleares no deciden unilateralmente qué riesgos son aceptables.
Las empresas que desarrollan sistemas avanzados deben someterlos a evaluaciones independientes antes de liberarlos. También tendrían que informar de manera obligatoria cualquier incidente relevante, explicar las medidas adoptadas y asumir responsabilidades cuando sus productos causen daños previsibles.
La transparencia no puede depender de la voluntad corporativa.Uno de los argumentos más repetidos contra la regulación es que puede frenar el progreso o dejar ventaja a otros países.
Pero una carrera sin reglas no garantiza innovación. También puede producir negligencia.
Cuando cada compañía teme quedarse atrás, la seguridad se convierte en un obstáculo comercial. Cuando cada gobierno teme perder competitividad, los controles se relajan. Así se construyen las condiciones para una crisis.
Regular no significa prohibir la inteligencia artificial. Significa definir límites, exigir pruebas y establecer quién responde cuando algo sale mal.
También significa impedir que sistemas con capacidades ofensivas avanzadas sean conectados a internet o a infraestructuras reales sin controles suficientes.
El episodio atribuido a OpenAI no es una prueba de que las máquinas hayan adquirido voluntad propia. Pero sí nos muestra que pueden encontrar rutas alternas de manera autonoma y superar barreras para buscar soluciones fuera de los límites establecidos.
Esperar una crisis mayor antes de establecer reglas sería una irresponsabilidad. La inteligencia artificial ya no solo genera palabras, imágenes o respuestas. Comienza a tomar decisiones y a ejecutar acciones.
No puede dejarse de lado la falta de regulación en la materia, si la IA es capaz de rebasar ambientes controlados es una advertencia para todos los gobiernos y estados para actuar de manera inmediata y evitar riesgos mayores para la sociedad.
