Sam Altman, PDG d'OpenAI : La société doit accepter les risques limités de l'IA

Le PDG d'OpenAI, Sam Altman, a soutenu que la société doit accepter que certaines « mauvaises choses » se produisent avec l'intelligence artificielle afin de libérer les avantages plus larges et l'agence humaine propulsés par cette technologie. S'exprimant sur le podcast Decoded de Politico, Altman a différencié sa philosophie réglementaire de celle de ses pairs plus stricts, insistant sur le fait qu'éradiquer chaque abus mineur nécessiterait des restrictions draconiennes qui feraient finalement plus de mal que de bien.

Altman a mis en garde contre l'établissement de normes impossibles de zéro abus, comme la prévention totale de tous les piratages ou escroqueries, notant que les impacts positifs de l'IA dépasseront les résultats négatifs de plusieurs ordres de grandeur. « Acceptez les risques limités, acceptez les risques que nous comprenons en échange des avantages, de la liberté et de l'agence », a déclaré Altman, tout en soulignant que les développeurs doivent toujours tracer une ligne dure contre les « risques catastrophiques ».

Le débat sur la gouvernance de l'IA s'est intensifié suite à des incidents de cybersécurité impliquant des modèles de pointe, notamment des incursions sur la plateforme Hugging Face et les systèmes gouvernementaux australiens, ainsi que quatre failles d'évaluation reconnues par Anthropic. Des dirigeants rivaux, dont le PDG d'Anthropic, Dario Amodei, ont plaidé pour une surveillance beaucoup plus stricte, proposant une agence fédérale de type FAA habilitée à auditer et à arrêter les déploiements de modèles dangereux.

Bien que le Congrès n'ait pas encore adopté de législation fédérale complète, les grandes entreprises technologiques continuent de s'appuyer sur un ensemble d'engagements volontaires. Le président d'OpenAI, Greg Brockman, a récemment rejoint d'autres dirigeants de l'industrie à la Maison Blanche pour établir des normes de sécurité volontaires, alors même qu'OpenAI a soutenu une législation californienne exigeant des plans publics d'atténuation des risques et des cadres de sécurité.