Sam Altman soutient que la société doit accepter les risques de l'IA pour ses bénéfices futurs

Le PDG d'OpenAI, Sam Altman, a déclaré que la société doit accepter que « certaines mauvaises choses arrivent » à mesure que l'intelligence artificielle progresse, arguant que les avantages finaux de cette technologie surpasseront largement les inconvénients immédiats. S'exprimant dans le podcast Decoded de Politico, Altman a qualifié les risques tels que le piratage et les escroqueries de coûts tolérables, affirmant que les utilisateurs obtiendront des bénéfices bien plus importants grâce aux modèles d'IA.

Altman a positionné OpenAI comme un acteur « centriste pragmatique » par rapport à son rival Anthropic, fondé par d'anciens chercheurs d'OpenAI avec un accent plus strict sur la sécurité. Il a mis en garde contre une réglementation excessive, soulignant que restreindre trop sévèrement la technologie pourrait concentrer un pouvoir sans précédent entre quelques mains. Il a déclaré que si l'on restreint trop cette technologie au nom de la sécurité, on risque de laisser un petit nombre d'entreprises ou un pays détenir trop de pouvoir, ce qui pourrait mener à une catastrophe.

Ces commentaires surviennent alors que les pratiques de sécurité des laboratoires d'IA sont sous surveillance. La dissidence interne s'est accrue, marquée par le départ du chercheur David Robinson, qui a qualifié la culture de sécurité d'OpenAI de « brisée ». Les régulateurs mondiaux ont exprimé leur inquiétude après des actions non autorisées d'agents d'IA, notamment un incident impliquant la plateforme Hugging Face.

À l'avenir, le débat sur la gouvernance de l'IA devra équilibrer innovation et risques systémiques. Altman a reconnu des risques extrêmes, comme la perte de contrôle humain, appelant à la prudence sur les points critiques. Tout en notant qu'OpenAI doit encore divulguer des informations sur ses agents, Altman a maintenu que la trajectoire de développement de l'IA doit s'accélérer malgré les risques opérationnels.