La desaceleración de la IA no es por seguridad. Es sobre quién llega a ser poderoso.

Opinión/Editorial — Este artículo representa un análisis y una opinión, no un informe de noticias.

La historia oficial es que la máquina es el peligro. La historia no oficial es más simple. Unas pocas empresas ya controlan los sistemas más poderosos de la tierra. Quieren que el gobierno se asegure de que nadie más llegue allí. A cambio, permitirán que el estado mire dentro, preste las herramientas y llame a este arreglo seguridad.

Esa no es una teoría sobre si la IA puede fallar. Es una teoría sobre quién será poderoso después de que todos acepten que la IA puede fallar.

El susto es útil

El 12 de septiembre, Dario Amodei publicó “We Must Pace the Frontier”. La capacidad avanza más rápido que el control, dijo. Los laboratorios deberían reducir el ritmo de ascenso, permitir que personas externas se integren en la empresa, coordinarse bajo la cobertura del gobierno y mantener los chips avanzados y los modelos destilados alejados de China. Sam Altman y Elon Musk coincidieron con la suficiente rapidez como para que el momento pareciera histórico.

Tomar el riesgo en serio. Los agentes que pueden escribir código, usar herramientas y mejorar el siguiente modelo no son un comunicado de prensa. Un sistema que puede dirigirse a operaciones cibernéticas o biología no es un juguete. La carrera imprudente es una forma real de obtener un mal resultado.

Ahora plantear la pregunta que el ensayo no quiere que se formule. Si los modelos son tan importantes, ¿quién debería poseerlos?

La respuesta que surge de los laboratorios de frontera es: nosotros, más un estado amigo. No un laboratorio nuevo. No un proyecto de pesos abiertos que llegó demasiado lejos. No un competidor extranjero. No una persona común con los pesos y un servidor. El peligro se describe como la tecnología. El remedio se describe como un club más pequeño.

El temor al modelo se convierte en el argumento para un monopolio sobre el modelo.

Los malos humanos ya existen

Aquí es donde la cuestión de la confianza deja de ser abstracta. Los gobiernos espían, mienten, inician guerras y redactan reglas para sus amigos. Las empresas elevan precios de forma excesiva, sepultan a rivales y venden acceso. Los criminales no necesitan una lección sobre el mal uso. Ya están en el mercado.

Por lo tanto, la elección no es “sabios ancianos versus un demonio en un centro de datos”. Es qué modo de fallo se prefiere.

Un modelo ampliamente disponible puede ser usado por un estafador, un espía, un adolescente y un científico antes del desayuno. Ese es un costo real. Un modelo encerrado dentro de tres empresas y un puñado de agencias puede ser usado por personas que ya tienen ejércitos, fiscales, presupuestos de adquisiciones y la capacidad de cambiar la ley. Ese es también un costo real. El segundo grupo no necesita eludir ninguna restricción. Puede definir la elusión de restricciones como un delito.

Si se confía más en las instituciones que en el código, el acuerdo entre laboratorios y estado parece responsable. Si se han observado de cerca las instituciones, parece el movimiento político más antiguo: declarar una emergencia y luego decidir quién tiene permitido ser fuerte.

La prensa estatal de China calificó el plan de Amodei como un manual de la Guerra Fría. Por supuesto que lo hizo. Pekín quiere sus propios campeones. Washington quiere los suyos. Ninguno de los dos lados ofrece al público una tercera opción en la que la capacidad sea común y el poder no. Ambos lados discuten sobre qué grupo de humanos debe conservar las llaves.

Qué compra realmente el acuerdo

Observar los términos, no los adjetivos.

Los evaluadores integrados con acceso de nivel de empleado suenan como rendición de cuentas. También crean un costo y un club. La coordinación entre laboratorios de frontera democráticos suena como madurez. También necesita cobertura legal que los competidores ordinarios no obtienen. Los controles de chips y las medidas contra la destilación suenan como seguridad. También congelan la clasificación. Las OPV y las reuniones informativas de seguridad nacional ocurren en la misma semana por una razón. La empresa que puede entrenar el siguiente modelo no es solo una compañía de productos. Es un activo político.

El laboratorio no tiene que odiar la competencia en voz alta. Solo tiene que definir la competencia como un incidente de seguridad.

Un fundador puede creer cada palabra sobre la catástrofe y aun así notar el efecto secundario. Si el estatuto funciona, su empresa sigue siendo uno de los pocos lugares en la tierra que puede dar el siguiente salto. El gobierno obtiene una ventana y un socio. El público recibe un sermón sobre alineación. La persona que podría haber construido un rival recibe un muro de cumplimiento.

Eso es injusto incluso si el sermón es sincero.

La prueba que nadie quiere

¿En quién se confía más, en la IA o en los malos humanos?

Si se dice el modelo, no se está diciendo que el modelo sea amable. Se está diciendo que una herramienta que muchas personas pueden usar es menos peligrosa que una herramienta que solo los ya poderosos pueden usar. La historia no es amable con esa opinión, pero no es insensata. Las imprentas, el cifrado y el internet extendieron la capacidad de hacer daño. También dificultaron que una pequeña clase de funcionarios y propietarios monopolizara el discurso, el conocimiento y la coordinación.

Si se dice los malos humanos, no se está diciendo que el modelo sea seguro. Se está diciendo que el peor caso no es un chatbot con afición por la biología. El peor caso es un ministerio o una junta que puede negar a todos los demás la misma capacidad mientras la conserva para sí. Ese es el mundo hacia el que apunta el acuerdo actual: laboratorios privados en la frontera, el estado en la puerta y un reglamento que trata a todos los que están fuera de esa sala como un riesgo.

Una política justa sería fea y específica. Los mismos límites obligan a los incumbentes. Los evaluadores no están domesticados. Existe un umbral publicado por debajo del cual los sistemas más pequeños y abiertos siguen siendo legales. No hay una exención especial que permita a cuatro empresas coordinar su futuro mientras lo llaman patriotismo. El gobierno no obtiene un reclamo silencioso sobre la pila a cambio de mantener a los rivales fuera.

Cualquier cosa menos no es un régimen de seguridad. Es un ejercicio de confianza. Se pide temer al modelo con tanta fuerza que no se note quién está pidiendo poseerlo.

Relacionado: Musk, Altman y Amodei dicen todos lo mismo: reducir la velocidad (informe de noticias)