Le cofondateur d'OpenAI, Greg Brockman, a récemment évoqué le passage de l'entreprise d'une structure à but non lucratif à une structure lucrative, mettant en lumière la friction entre le développement éthique de l'intelligence artificielle et la nécessité de répondre aux exigences financières liées à l'innovation. Les remarques de Brockman, faites lors d'une discussion publique, abordent une question qui plane sur l'organisation depuis sa restructuration : un laboratoire d'IA guidé par une mission peut-il rester fidèle à ses idéaux fondateurs lorsqu'il doit répondre aux attentes des investisseurs ?
Des racines non lucratives à un modèle lucratif
OpenAI a été lancé en 2015 en tant qu'organisation à but non lucratif avec l'engagement de construire une intelligence générale artificielle qui profiterait à l'humanité. La configuration initiale visait à maintenir l'entreprise à l'abri des motivations de profit. Mais en 2019, la direction a décidé de créer une branche lucrative, arguant que le capital nécessaire pour la recherche de pointe en IA ne pouvait plus être réuni uniquement par des dons. Ce changement a permis à OpenAI d'attirer des milliards d'investissements, notamment de la part de Microsoft, mais a également suscité des critiques de la part de ceux qui y ont vu une trahison de la mission initiale.
Ce qu'a dit Brockman
Brockman n'a ni justifié ni présenté d'excuses pour ce changement. Il a plutôt décrit la tension inhérente entre le maintien d'une éthique et la survie financière. Il a souligné la pression exercée pour fournir des produits générateurs de revenus tout en continuant à orienter le développement vers des résultats sûrs et largement bénéfiques. Les commentaires du cofondateur interviennent alors qu'OpenAI fait l'objet d'un examen de plus en plus minutieux sur la manière dont elle traite des questions telles que les biais dans ses modèles, la confidentialité des données et la concentration du pouvoir entre les mains de quelques géants de la technologie.
Le débat plus large sur la gouvernance de l'IA
OpenAI est loin d'être la seule à être confrontée à ce conflit. De nombreux laboratoires et startups d'IA fonctionnent désormais comme des entités lucratives tout en professant leur engagement en faveur d'une IA responsable. Les critiques soutiennent que cette structure rend presque impossible de donner la priorité à la sécurité plutôt qu'aux rendements pour les actionnaires. Les partisans rétorquent que sans l'incitation au profit, le domaine évoluerait trop lentement pour concrétiser les avantages potentiels de l'IA. La réflexion de Brockman ne résout pas ce débat, mais elle reconnaît la difficulté de naviguer sur les deux chemins à la fois.
Quelles sont les prochaines étapes ?
OpenAI continue d'exploiter sa branche lucrative tout en conservant un conseil d'administration à but non lucratif qui supervise la charte de l'entreprise. L'organisation n'a annoncé aucun changement structurel supplémentaire. La manière dont elle équilibrera sa croissance financière avec ses promesses initiales de sécurité reste une question ouverte – une question pour laquelle Brockman lui-même suggère qu'il n'y a pas de réponse facile.
