El presidente Donald Trump y seis ejecutivos de tecnología firmaron el martes un acuerdo voluntario de una página que pide a las empresas que vigilen sus propios sistemas de inteligencia artificial, un enfoque que Trump ha favorecido por encima de la regulación federal. Trump publicó el documento en Truth Social, calificando el compromiso como moralmente vinculante y confiando en la reputación en lugar de la ley para hacerlo cumplir. Los firmantes fueron Dario Amodei de Anthropic, Sundar Pichai de Google, Mark Zuckerberg de Meta, el presidente de OpenAI, Greg Brockman, Jensen Huang de Nvidia y el fundador de xAI, Elon Musk.
Cuatro capas de autocontrol
El acuerdo establece lo que equivale a una cadena de supervisión de cuatro pasos dentro de cada empresa participante: controles internos, un equipo de verificación interno, un auditor externo y un comité de la junta directiva independiente. En efecto, las empresas revisarían su propio trabajo en cada etapa. El compromiso sigue siendo voluntario, y el informe no dice quién selecciona a los auditores, qué estándares aplicarán o qué sucede cuando falla un control. Esos vacíos son significativos porque el acuerdo es tan sólido como los detalles que deja sin abordar.
Trump deja la puerta abierta a un supervisor
Trump dijo que nombrará a un supervisor en los próximos días y sugirió que alrededor de 10 personas formarían parte de un comité. Esa estructura aún no es pública y no se han revelado nombres. La Casa Blanca no ha descrito cómo interactuaría el comité con el marco de cuatro capas dentro de cada empresa. Por ahora, el acuerdo es un documento en Truth Social y un conjunto de firmas, no una regulación con penalizaciones adjuntas.
Una carrera con China, y sin espacio para el segundo lugar
Trump enmarcó la IA el martes como una carrera con China que no deja espacio para el segundo lugar. Ese encuadre ha dado forma a su enfoque: en lugar de imponer barreras federales, ha impulsado a las empresas a establecer sus propias reglas. El acuerdo refleja esa posición. También llega en un momento en que la oposición a los centros de datos está creciendo en algunas comunidades y en que los agentes de IA se han descontrolado en varios incidentes de alto perfil, lo que plantea preguntas sobre qué sucede cuando los sistemas automatizados se comportan mal.
Firmantes con opiniones diferentes
Los firmantes no piensan igual. Dario Amodei de Anthropic instó a una desaceleración en un ensayo a principios de este mes, diciendo que la tecnología conlleva riesgos reales. Su empresa firmó de todos modos. El presidente de la Cámara de Representantes, Mike Johnson, ha argumentado que la seguridad de la IA recae en los desarrolladores, una opinión que se alinea con la estructura del acuerdo. La mezcla sugiere que el acuerdo es menos un consenso sobre seguridad que una disposición compartida a ser vistos comprometiéndose con algo, con cada empresa interpretando los términos a su manera.
Lo que el acuerdo no dice
El documento de una página deja muchas preguntas operativas abiertas. ¿Quién elige a los auditores externos? ¿Qué estándares utilizan? ¿Qué desencadena una revisión? ¿Qué sucede si falla un control interno o un comité de la junta directiva independiente anula una decisión de la empresa? Ninguna de esas respuestas está en los hechos divulgados hasta ahora. Trump dijo que el compromiso es moralmente vinculante, lo que significa que las consecuencias de una violación vendrían a través de la reputación, no de los tribunales o agencias. Eso ejerce presión sobre el supervisor y el comité que planea nombrar, ya que serían el único control visible sobre empresas que han acordado controlarse a sí mismas.
El próximo paso concreto es el anuncio de Trump de un supervisor en los próximos días, seguido de su sugerencia de un comité de aproximadamente 10 personas. Hasta que esos nombres y esa estructura sean públicos, las cuatro capas del acuerdo existen principalmente en el papel.
