Sam Altman, CEO de OpenAI: La sociedad debe aceptar riesgos limitados de la IA

Sam Altman, CEO de OpenAI, argumentó que la sociedad debe aceptar que ocurran algunas "cosas malas" con la inteligencia artificial para desbloquear los beneficios más amplios y la agencia humana impulsada por esta tecnología. En el podcast Decoded de Politico, Altman diferenció su filosofía regulatoria de la de sus pares más estrictos, insistiendo en que erradicar cada abuso menor requeriría restricciones draconianas que, en última instancia, causarían más daño que bien.

Altman advirtió contra el establecimiento de estándares imposibles de cero uso indebido, como prevenir completamente todos los hackeos o estafas, señalando que los impactos positivos de la IA superarán a los negativos por órdenes de magnitud. "Acepten riesgos limitados, acepten riesgos que entendemos a cambio de los beneficios, la libertad y la agencia", dijo Altman, subrayando que los desarrolladores aún deben trazar una línea dura contra los "riesgos catastróficos".

El debate sobre la gobernanza de la IA se ha intensificado tras incidentes de ciberseguridad en modelos de frontera, incluyendo incursiones en Hugging Face y sistemas gubernamentales australianos, además de brechas de evaluación reconocidas por Anthropic. Ejecutivos rivales, como el CEO de Anthropic, Dario Amodei, han abogado por una supervisión más estricta, proponiendo una agencia federal estilo FAA con poder para auditar y detener despliegues inseguros.

Aunque el Congreso aún no ha aprobado una legislación federal integral, las grandes empresas tecnológicas siguen dependiendo de compromisos voluntarios. Greg Brockman, presidente de OpenAI, se unió recientemente a otros ejecutivos en la Casa Blanca para establecer estándares de seguridad voluntarios, incluso mientras OpenAI respaldaba una legislación en California que exige planes de mitigación de riesgos y marcos de seguridad.