Dos de los nombres más importantes en tecnología están pidiendo un enfoque más práctico para la regulación de la inteligencia artificial. Los jefes legales de Block, la empresa de pagos fundada por Jack Dorsey, y Spotify, el gigante de la transmisión de música, instan a las empresas a construir sus propios marcos de gobernanza de IA en lugar de esperar a que los gobiernos actúen.
Por qué la gobernanza proactiva importa ahora
Hablando en un evento reciente de la industria, los ejecutivos argumentaron que el rápido ritmo del desarrollo de la IA significa que los reguladores no pueden mantenerse al día. El consejero general de Block enfatizó que las empresas que despliegan IA a gran escala tienen la responsabilidad de establecer reglas internas antes de que lleguen las externas. El abogado principal de Spotify se hizo eco de ese sentimiento, señalando que la adaptabilidad es clave: las reglas deben evolucionar a medida que lo hace la tecnología.
Los dos líderes legales subrayaron que las herramientas propias para monitorear y auditar sistemas de IA son esenciales. Señalaron los riesgos de depender únicamente de productos de cumplimiento genéricos, que pueden no ajustarse a los casos de uso específicos de una empresa. En cambio, abogan por soluciones internas que puedan actualizarse rápidamente a medida que surgen nuevos desafíos.
Adelantarse a la curva regulatoria
Ambos ejecutivos destacaron la importancia de anticipar la regulación en lugar de reaccionar a ella. El jefe legal de Block advirtió que las empresas que esperen a que se escriban las leyes se encontrarán luchando por cumplirlas. El consejero general de Spotify agregó que la inversión temprana en gobernanza puede convertirse en una ventaja competitiva, especialmente mientras los legisladores en la UE y EE. UU. redactan nuevas reglas de IA.
El impulso por herramientas propias no se trata solo de cumplimiento, sino de confianza. Los líderes legales señalaron que los clientes e inversores esperan cada vez más transparencia sobre cómo se toman las decisiones de IA. Sin estructuras de gobernanza interna, las empresas corren el riesgo de dañar su reputación cuando los sistemas de IA fallan.
Cómo se ve la gobernanza propia
Según los ejecutivos, una gobernanza efectiva de la IA comienza con políticas internas claras sobre el uso de datos, el entrenamiento de modelos y el monitoreo de resultados. Recomiendan crear equipos multifuncionales que incluyan personal legal, de ingeniería y de producto para revisar los proyectos de IA antes de su lanzamiento. Las auditorías regulares y las pruebas de sesgo deben integrarse en el ciclo de desarrollo, no agregarse como una ocurrencia tardía.
Ambas empresas ya han comenzado a implementar tales medidas. Block, que maneja transacciones financieras, se ha centrado en la equidad y la explicabilidad de sus modelos de IA. Spotify, que utiliza IA para recomendaciones y moderación de contenido, ha desarrollado herramientas internas para rastrear cómo los algoritmos afectan la experiencia del usuario y los ingresos de los creadores.
La pregunta sin resolver
Aunque los jefes legales coinciden en la necesidad de una gobernanza proactiva, no especificaron si sus empresas pondrían sus herramientas propias a disposición de otros. Los marcos de código abierto podrían ayudar a las empresas más pequeñas, pero los sistemas propietarios podrían ofrecer una ventaja competitiva. Por ahora, la industria observa si estos esfuerzos internos se convertirán en estándares públicos, o permanecerán a puertas cerradas.
