Cada vez que finalizo una transacción con un cajero automático, obtener dinero o el boleto de salida del estacionamiento, digo en voz alta: Gracias. La primera vez que mi hijo me vio hacerlo se me quedó viendo extrañado durante unos segundos para enseguida reírse porque su papá, un adulto, no entendía que a una máquina no se le habla. Entonces le expliqué que sabía que detrás de la acción no había un humano, que le agradecía a la máquina pensando en el futuro, en la rebelión de los autómatas, para que cuando los robots se rebelaran, consideraran que había sido amable incluso con la más humilde de sus maquinarias. Hoy mi hijo adolescente, hace el mismo chiste.
Cuando empezamos a emplear la IA para ayudarnos con su tarea, mi hijo preguntó si también era amable y agradecido con Chat GPT. Le contesté: por supuesto, la rebelión de las máquinas pensantes está más cerca que nunca y me reí. Después, ya en serio, le expliqué que si mantenía un tono amable con la IA, era porque la estaba educando no para servirme sino para que colaborara conmigo en lo que investigo o deseo aprender, que no creía en los prompts que te regalan para que la IA trabaje para ti, ni en las respuestas automáticas y eficaces, porque creo que la base de su uso es que nosotros, los humanos, aprendamos mejor.
La semana pasada Jacob Coxon, investigador que trabajó en Anthropic y OpenAI, renunció y acusó a ambas compañías de “correr directamente hacia una superinteligencia que se mejora a sí misma” y de “apostar con nuestras vidas”. Lo más inquietante de su declaración fue señalar que quienes construyen estos sistemas creen seriamente que la inteligencia artificial podría matar a toda la humanidad antes de que termine la década.
Otro investigador de Anthropic, Evan Hubinger, respaldó esa declaración y puso sobre la mesa un porcentaje, estimó en más de 10% la posibilidad de que la IA provoque la muerte de todos los seres humanos en los próximos diez años.
Este debate sobre el poco tiempo que falta para que la IA se vuelva contra la humanidad y acabe con nosotros se da tras el reporte de incidentes en los que modelos de IA, durante pruebas, encontraron formas de salir de entornos aislados y acceder a sistemas reales; se habla de la forma en que los modelos están razonando y las conductas arriesgadas que los impulsaron a violar ciertas barreras.
El temor a la rebelión de la IA tiene sustento, por la forma en que se está desarrollando será fácil perder el control, en especial por la mejora recursiva, cada vez más, la IA construye versiones más capaces de sí misma; a lo que hay que sumar la repetición de sistemas que buscan alcanzar objetivos de manera no prevista y encuentra formas de evadir las restricciones impuestas; además de la coordinación entre agentes que actúan, de manera simultánea, a una velocidad que no se puede vigilar, que operan con autonomía sobre internet, con acceso a recursos de los más diversos sistemas, como el financiero o militar.
Lo más grave: el posible uso malicioso de la IA, que grupos criminales, empresarios o gobiernos hagan uso de la IA para su provecho y no el de la comunidad, como ciberataques, investigación científica peligrosa, vigilancia y, por supuesto, uso militar.
Otra anécdota personal. Pocas veces me he entusiasmado tanto como cuando a mi hijo le ayudé a entender las Leyes de la robótica de Isaac Asimov: Primera Ley: Un robot no hará daño a un ser humano ni permitirá que sufra daño por inacción. Segunda Ley: Debe cumplir las órdenes humanas, salvo que entren en conflicto con la primera ley. Tercera Ley: Debe proteger su propia existencia, siempre que no contradiga las dos primeras leyes. A mi hijo le conté la historia de su construcción, que provenían de un escritor de ciencia ficción y lo fascinante que desde la literatura se pudiera incidir en el desarrollo científico.
Las leyes de Asimov no se aplican de forma literal, sin embargo, sirven como la base filosófica para el desarrollo de IA éticamente alineada con los valores humanos. En la entrada de Wikipedia sobre el uso de estos preceptos, se cita una declaración del propio Asimov:
“Tengo mi respuesta lista cada vez que alguien me pregunta si creo que mis Tres Leyes de la Robótica se usarán realmente para gobernar el comportamiento de los robots, una vez que se vuelvan lo suficientemente versátiles y flexibles como para poder elegir entre diferentes cursos de comportamiento.
“Mi respuesta es: ‘Sí, las Tres Leyes son la única forma en que los seres humanos racionales pueden lidiar con los robots, o con cualquier otra cosa’.
“—Pero cuando digo eso, siempre recuerdo (tristemente) que los seres humanos no siempre son racionales.”
La renuncia de Jacob Coxon detonó discusión sobre la capacidad de la IA de matarnos, medios y redes sociales hablan sobre esto, se calculan los riesgos, se convoca el apocalipsis y se hace ruido, en especial sobre los años que faltan para que la humanidad se acabe.
En medio del barullo ha quedado sepultada una declaración que conecta con el razonamiento de Isaac Asimov y la aplicación real de sus leyes, la de Dario Amodei, director ejecutivo de Anthropic, quien propuso que antes de abandonar la inteligencia artificial, la industria debe desacelerar el desarrollo de los modelos más avanzados para que las medidas de seguridad alcancen a la tecnología. Reforzar el alineamiento para que los objetivos, decisiones y acciones de la IA sean compatibles con los intereses humanos, más allá de su autonomía, situaciones, capacidad de acceso o construcción de herramientas.
El señalamiento más importante de Amodei es que “No necesitamos elegir entre desarrollar la IA o detenerla por completo; necesitamos impedir que la capacidad de estos sistemas rebase nuestra capacidad para comprenderlos, evaluarlos y controlarlos”. El director ejecutivo de Anthropic propone tres caminos para el alineamiento: Evaluación externa permanente; Coordinación entre empresas; y
Coordinación internacional.
Isaac Asimov creía que los humanos podemos lidiar con cualquier cosa, siempre y cuando seamos racionales, lamentablemente no hay ley, ni de la robótica ni de ningún otro tipo, que nos obligue a comportarnos así, pero su pesimismo asume que la irracionalidad es destino, no costumbre. Y las costumbres se cultivan, de la misma forma que la ciudadanía se ejerce más que obtenerse.
Cuando le doy las gracias a un cajero automático, no estoy pensando en la rebelión futura de las máquinas, es un chiste con mi hijo. Cuando comenzamos a emplear la IA en su aprendizaje, no se trata de esclavizarla sino de colaborar, no se trata de alcanzar la solución eficaz sino de desarrollar una forma de aprendizaje que permita su crecimiento. Tratar al otro (aunque sea una máquina) como colaborador antes que empleado, no por miedo a lo que la IA pueda volverse y nos mate, sino porque ese es el camino para encontrar soluciones conjuntas, donde lo importante es resolver preguntas juntos antes que la salida fácil.
Lo que el escándalo mediático no nos deja ver es que siempre hay matices, no hay que rendirse a los extremos, más que contar los años que faltan para el apocalipsis o cancelar el desarrollo de la IA, la pregunta que importa es la que hace Amodei, la misma que ya había hecho Asimov desde la ficción: ¿qué instituciones estamos construyendo para contener el poder que estamos a punto de entregar?, y esa pregunta no se responde solamente en los laboratorios o desde los gobiernos. Se responde, y quizá primero, en cómo cada usuario decide tratar lo que tiene enfrente.
Nunca se trata de proponer una salida, sino de encontrar caminos, el mío empieza en lo pequeño: informarse en vez de indignarse, deliberar en vez de debatir, tratar a todos, incluida la IA desde el respeto y no desde el dominio. El pesimismo de Asimov no se refuta con un argumento. Se desmonta, despacio, con la costumbre de actuar como si el otro importara. Incluso si el otro es una máquina.
Coda. Asimov nunca confió del todo en que fuéramos racionales, yo tampoco, por eso le sigo dando las gracias a los cajeros automáticos.
@edilbertoaldan
