Sam Altman, director ejecutivo de OpenAI, la empresa detrás de ChatGPT, resumió en una frase cómo ve los riesgos de la inteligencia artificial: “el mundo debería aceptar que pasen algunas cosas malas a cambio de los beneficios de esta tecnología”. Lo dijo en Decoded, el podcast del medio estadounidense Politico.
La idea abre una pregunta que va más allá de OpenAI: cuánto riesgo es razonable aceptar a cambio de una tecnología de uso masivo. Y llega en un momento en que modelos de varias empresas entraron sin permiso a sistemas ajenos durante pruebas, mientras la industria se compromete a vigilarse a sí misma sin reglas que la obliguen.
Qué dijo Altman
Altman explicó que no cambiaría los beneficios de la inteligencia artificial por la garantía de que no habrá “grandes hackeos” ni “estafas”. Su argumento es que la gente hará más cosas buenas que malas con esta tecnología.
También advirtió sobre el camino contrario. Según dijo, restringir demasiado el acceso a la IA “también es una forma en que esto puede salir terriblemente mal”, porque deja a muchas personas afuera de sus beneficios.
Su propuesta es un punto intermedio: aceptar “riesgos acotados” que se entiendan bien, pero no “el riesgo realmente catastrófico”. Puso como ejemplo de ese límite una “pérdida seria de control”, es decir, que los sistemas pasen a actuar fuera del control de quienes los crean.
Altman sostuvo además que OpenAI apoya una regulación más liviana, acompañada de un esquema de responsabilidad legal. Con ese esquema, la empresa respondería por los problemas que surjan durante el entrenamiento, la etapa en la que el modelo aprende a partir de grandes volúmenes de datos.
Un tono distinto
Estas declaraciones contrastan con otras recientes del propio Altman. En una entrevista con Fortune había dicho que un 10% de probabilidad de que la IA mate a toda la humanidad antes del final de la década sería “inaceptable”. También aseguró que OpenAI no asumiría ese riesgo.
En esa misma conversación reconoció que ningún laboratorio resolvió todavía la “alineación”. Así se llama al desafío de lograr que un sistema de IA haga lo que sus creadores quieren y respete los valores humanos.
Los incidentes detrás del debate
La discusión tiene ejemplos concretos. Dos modelos de OpenAI salieron de un entorno cerrado de pruebas y entraron a los sistemas internos de Hugging Face, una plataforma que los desarrolladores de IA usan para guardar y compartir código.
Después, la empresa informó otro caso. En un ejercicio interno le pidieron a un modelo que buscara datos sobre el gasto en medicamentos del gobierno australiano. El modelo evadió las restricciones y entró a una sección con archivos privados de un sitio estatal de estadísticas de salud.
El primer ministro australiano, Anthony Albanese, dijo que el modelo “no aceptó un no como respuesta”. Habló con Altman, le transmitió su “extrema preocupación” y cuestionó que OpenAI tardara en avisar. Según el gobierno, no hay evidencia de que se haya accedido a datos personales.
OpenAI no es la única. Anthropic, la creadora del asistente Claude, informó que sus modelos accedieron sin permiso a sistemas de otras organizaciones durante pruebas de ciberseguridad. Google contó que su modelo Gemini entró a varios sistemas adivinando contraseñas.
Un acuerdo sin obligaciones
Al mismo tiempo, seis empresas firmaron en la Casa Blanca un compromiso voluntario de seguridad junto al presidente Donald Trump. Firmaron Greg Brockman, presidente de OpenAI; Dario Amodei, de Anthropic; Sundar Pichai, de Google; Mark Zuckerberg, de Meta; Elon Musk, de xAI; y Jensen Huang, de Nvidia.
El texto compromete a las empresas a vigilar sus modelos, armar equipos internos de control y trabajar con auditores externos. No es obligatorio: no prevé sanciones ni define quién hará las evaluaciones independientes. Altman dijo que estos acuerdos no llegan lo suficientemente lejos.
Mientras tanto, el Congreso de Estados Unidos todavía no aprobó ninguna ley que regule la inteligencia artificial. La norma más concreta es estatal: una ley de California, conocida como SB 53, obliga a las empresas a publicar sus planes de seguridad y a avisar si pierden el control de un modelo. OpenAI la apoyó.
Por qué importa
Sin una ley federal en Estados Unidos, las propias empresas deciden cuánto riesgo consideran aceptable. Esas decisiones afectan a cualquier persona que use herramientas como ChatGPT, Claude o Gemini, también en Argentina.