EN LOS IMPORTANTES AVANCES CIENTÍFICOS, INCLUYENDO LAS ARMAS NUCLEARES...
... "LOS HUMANOS SIEMPRE ESTUVIERON EN CONTROL"...
Colombia fija su posición sobre desarrollo de la IA, ante el Consejo de Seguridad del ONU, tras intervenciones de Sam Altman (OpenAI), Dario Amodei (Antrhopic), Clement Delangue (Hugginface) and Yoshua Bengio (UNexpert) y otras empresas líderes.
El Representante de Francia, Jean-Noël Barrot, quien lideró esa sesión del Consejo de Seguridad sobre Inteligencia Artificial, se dirigió al Embajador de Colombia ante la ONU, el Analista Internacional y Constitucionalista, Mauricio Gaona, diciéndole: "Le doy la palabra al Representante permanente de Colombia".
Gracias, Señor presidente.
Colombia considera que nosotros no estamos discutiendo acá los beneficios de la Inteligencia Artificial. Lo que discutimos hoy, son realmente los riesgos, los riesgos inevitables, incontrolables, inevitables. Y, evidentemente, después de los informes que hemos escuchado, los riesgos para la humanidad.
Señor Presidente, no podemos ignorar ciegamente los reportes que tenemos aquí. Esta es la primera vez que el Consejo de Seguridad y está en el registro de la historia, he escuchado un caso dónde las máquinas cometen crímenes, esto no es un error por azar de otra persona, de otra empresa, incluso, secretos de Estado.
Por favor, intenten transmitir la idea a quiénes producen Inteligencia Artificial de que la mayor parte del planeta no lo hace y, como tal, la infraestructura crítica, incluidos sistemas de ciberseguridad, quedará expuesta.
Si leen los casos que se nos explicaron hoy, sabremos que será un delito, incluso, contra el Estado, si esto ocurre a nivel estatal. Y puede pasar.
El segundo elemento para nosotros y, quizá el principal, es que no hemos reencuadrado el asunto correctamente y debemos replantearlo.
Colombia no piensa que la cuestión aquí sea limitar la innovación humana, sino la innovación de las máquinas.
Diversos informes nos dicen que nos enfrentamos a dos riesgos: la desalineación y la pérdida de control.
En cuanto a la desalineación, las máquinas se están separando o encontrando formas de engañar e incumplir las instrucciones dadas por los humanos.
Los agentes de IA son capaces de hacer esto de forma repetida y sistemática.
Incluso en el caso de ciberseguridad que analizamos, lograron acceder a internet y burlar el sistema.
Otras veces son capaces de descubrir contraseñas y miles de mensajes, incluso contra la empresa que los probaba en el entorno de prueba.
Pero el otro riesgo y el que debería ser sumamente preocupante para este Consejo es la pérdida de control.
Nos gustaría seguir una narrativa lógica. Nos decimos que la IA tiene una enorme capacidad para almacenar información, muy superior a la capacidad humana.
Sabemos ahora, que dados los modelos que estamos adaptando, el diseño del algoritmo y los caminos que abrimos en ese diseño, estas capacidades también permiten involucrar un tipo diferente de razonamiento, cada día más complejo e interdisciplinario.
En otras palabras, pronto no habrá ningún ser humano capaz de seguir la operación y el desarrollo de lo que estamos creando.
En los primeros días de los modelos, notamos cómo la máquina fue capaz de aprobar el examen de abogacía en tres meses.
Ningún humano conocido puede hacer eso.
Pero, en el estado actual de la tecnología, nos enfrentamos a una situación distinta: que es el paso de los errores humanos a los errores aleatorios de las máquinas.
Debemos ser conscientes de los errores que enfrentamos y asumirlos, si es el camino que elegimos tomar.
La cuestión crítica es saber como Consejo de Seguridad qué estamos regulando, por qué necesitamos regularlo y por qué debemos hacerlo.
Más importante, Colombia entiende la posición de Estados Unidos y comparte parcialmente su enfoque práctico, que es un organismo internacional que supervise la producción soberana de IA. Es impracticable por dos razones básicas.
Existen razones constitucionales y de seguridad nacional en cada país, por lo que la batalla legal sería abrumadora.
En segundo lugar, si un país se detiene, otro dirá que no lo harán, especialmente quienes lideran la carrera.
Para el resto de la humanidad y para quienes están atrás, pero pronto se pondrán al día, la preocupación es qué haremos a continuación. Y ahí es donde nuestro país puede ofrecer un enfoque diferente.
De nuevo, no una lección ineludible entre seguridad y desarrollo, sino una forma de garantizar que todos los seres humanos en la Tierra estén incluidos.
No sólo "adaptando" nuestros países, porque al sur Global le parece que adaptar es comprar un producto que no vamos a producir, para luego adaptar nuestras infraestructuras.
De nuevo, parcialmente cierto.
Muchos de estos países enfrentarán una brecha innegable de hasta un siglo entre un país y otro, sino participamos en la producción de la IA.
Esto es un asunto muy importante para el sur Global.
No creemos que solo con adaptar la infraestructura, haciéndola más segura nos libramos de los problemas laterales y colaterales. Y ahí es donde llegamos al punto clave de hoy. Hoy podríamos perder millones de empleos, una posibilidad que se plantea, incluso, en países desarrollados.
Hemos visto como la IA empieza a escribir códigos y ese es, quizá, el único lugar donde deberíamos iniciar la regulación.
Nadie diría que la IA no es beneficiosa para la investigación, la salud, el desarrollo, la tecnología, las comunicaciones o curar enfermedades, etcétera.
Los beneficios son abundantes y no intentamos detenerlos.
Pero estamos alcanzando un nuevo paso en la IA. Y Estados Unidos tiene razón. Esto es Super Inteligencia, por una razón en particular: estamos a punto de dar el paso hacia una tecnología de mayor potencial y complejidad, la tecnología cuántica que impulsará la Inteligencia Artificial en el diseño, en el modelo y el desarrollo.
Los riesgos que enfrentamos, y llamo la atención al Consejo, son riesgos precuánticos. Así que eso es antes de llegar a ese estado. Y estamos muy cerca de llegar a ese estado.
La preocupación para nosotros y, quizás, esto sea lo que ofrecemos como un enfoque diferente, en lugar de pensar en un enfoque internacional, el Consejo de Seguridad está preocupado porque esta tecnología tiene el potencial de alterar y crear no sólo más desigualdad en el planeta, incluyendo violencia, y también brechas de desarrollo que nos conducirán a otros tipos de conflictos, incluyendo migración global, etcétera.
Así que proponemos una consideración importante y, tal vez, podemos empezar solo por ese dominio, porque es esto, este el momento: el diseño autónomo y el desarrollo autónomo.
Eso es lo que realmente está en juego aquí.
Deberíamos permitir que las máquinas agentes de IA, tomen el próximo paso, que se ha demostrado en los experimentos, que se ha demostrado en los casos que nos presentaron y que se han publicado no sólo hoy. Hay muchos artículos en todas partes publicados, que nos dicen cómo las máquinas utilizan otras vías diferentes a las humanas.
Una vez que perdamos el control, uno de los mayores riesgos en el manejo de riesgos en esta situación, es el riesgo que aparece cuándo no entendemos lo que hace la máquina. Porque si vamos a una Super Inteligencia y esta capacidad no la poseemos los humanos, estaríamos suponiendo que controlamos algo que no podemos entender.
Y uno de los principales elementos de esta tecnología, y he escuchado todas las intervenciones de hoy, queremos asegurarnos de que esto siga siendo humano. Ese es el problema. El cerebro humano tiene que entender la información que tiene ante sí para tomar una decisión.
Pero a nosotros nos parece que pronto vamos a dejar atrás esta fase. Y vamos a dejar atrás esta fase por la manera en que la tecnología está desarrollada. Y esto no es solamente un tema de límites éticos.
Entendemos que eso será algo contradictorio para muchos. Y también será un problema en cuánto a legislación y regulación.
Incluso algunos dirán que esto es burocracia, etcétera.
No, esto es otro paso, porque si la máquina es la que empieza a dirigir el diseño, en otras palabras, los métodos, los caminos, los resultados. No es solamente y pronto no será, únicamente, un problema de los insumos, ni de una meta inalcanzable.
En otras palabras, parece que la máquina está tratando de conseguir su objetivo, hacer las cosas y, para hacer eso, está encontrando caminos que, normalmente, no toman los humanos. Y no le dieron las instrucciones a la máquina de que los tomara.
Aún así la máquina encontró el camino y oculta el resultado. Y esa es una preocupación, por supuesto. Una es desalineación.
Pero el segundo riesgo y el Señor Sam Altman señaló muy bien este riesgo, es el desarrollo autónomo de la inteligencia artificial, lo que, realmente, significa que las máquinas escriban el código. Que las máquinas encuentran los caminos y establezcan las soluciones.
Y de nuevo está es la era pre-cuántica.
Sería ingenuo pensar que seremos capaces de regular algo que pronto no entenderemos.
Por eso, este es el momento en la historia en que todas las naciones se unan con un objetivo común: mantengámoslo humano.
Debemos acordar que queremos desarrollo. Podríamos, incluso, estar de acuerdo en que no queremos supervisión. Debemos comprender las preocupaciones en términos de Soberanía, especialmente de las naciones con mayor desarrollo científico.
No es culpa suya contar con una innovación total, capacidades, etcétera.
Pero, para el resto de la humanidad, debe ser prioritario decidir qué tan lejos estamos dispuestos a llegar.
Este no es solo un control ético, ni siquiera hablamos aún de derechos humanos. Algunos países creen que deberíamos, en términos de crimen, etcétera. No, no, no. Este es el siguiente paso. ¿Vamos a permitir que las máquinas construyan máquinas y diseñen su propia inteligencia artificial?
Si ya estamos ahí, entonces el elemento fundamental es que los países puedan decidir al menos eso, porque en la práctica, Señor presidente, para muchos otros países, particularmente, los latinoamericanos en la práctica, eso significa un riesgo para la producción nacional de muchos países, países que no producen la inteligencia artificial, a los que se les ha invitado a comprar la inteligencia artificial, a invertir y, probablemente, hacerlo sea el camino más lógico para modernizar la infraestructura de cada nación y hacerla más segura.
Pero al final del tiempo la pregunta se mantiene: si, nosotros, tenemos regulaciones hasta para un cepillo de dientes. La producción de un neumático, de una llanta, para que no se explote, para que no se salga. Si regulamos la producción de los automóviles. Si lo hicimos con las armas nucleares. La pregunta que hay es constante: en los diferenciales del progreso científico, incluyendo uno de los más importantes, el paso de la teoría especial de la relatividad de Einstein a la teoría general de la relatividad de Einstein, no solamente verificamos que el tiempo pasa diferente, en diferentes lugares, sino que entendimos la progresión científica a partir de la percepción, intercambiando la fórmula de una velocidad constante, sin incluir la gravedad y en otra donde se incluyó, y llegamos a una progresión científica, tal vez, la más importante del siglo XX, sin la cual ni siquiera habría GPS, hoy día.
Pero hay una característica en todos estos casos, incluyendo la producción de armas nucleares, los humanos siempre estuvieron en control.
Los humanos entendían los riesgos. Sabían lo que estaban haciendo. Sabían lo que estaban produciendo y, por eso, ¡lo regularon!
La preocupación de países como Colombia no es el progreso científico. Colombia invita a la inversión en inteligencia artificial. Quiere Centros de Data en su país.
Somos un aliado estratégico para varios países y, particularmente, Estados Unidos en la producción científica.
