Legisladores del Reino Unido advierten: las promesas de seguridad en IA se están convirtiendo en mera fachada

Un grupo de 60 legisladores del Reino Unido ha firmado una carta abierta acusando a Google DeepMind de no cumplir con sus compromisos de seguridad en IA, particularmente en relación con el retraso en la publicación de información detallada sobre la seguridad de su modelo Gemini 2.5 Pro [1]. La carta, publicada por el grupo activista político PauseAI, critica a la compañía por no proporcionar una tarjeta de modelo completa en el momento del lanzamiento del modelo, un documento clave que describe cómo se probó y construyó el modelo [1]. Argumentan que este incumplimiento constituye una violación de los Frontier AI Safety Commitments asumidos en una cumbre internacional en febrero de 2024, donde los firmantes —incluido Google— se comprometieron a informar públicamente sobre las capacidades del modelo, evaluaciones de riesgos y la participación de pruebas de terceros [1].

Google lanzó Gemini 2.5 Pro en marzo de 2025 pero no publicó una tarjeta de modelo completa en ese momento, a pesar de afirmar que el modelo superaba a los competidores en los principales puntos de referencia [1]. En su lugar, se publicó una tarjeta de modelo simplificada de seis páginas tres semanas después, que algunos expertos en gobernanza de IA describieron como insuficiente y preocupante [1]. La carta destaca que el documento carecía de detalles sustantivos sobre evaluaciones externas y no confirmaba si agencias gubernamentales, como el U.K. AI Security Institute, participaron en las pruebas [1]. Estas omisiones generan preocupaciones sobre la transparencia de las prácticas de seguridad de la compañía.

En respuesta a las críticas, un portavoz de Google DeepMind declaró previamente a Fortune que cualquier sugerencia de que la compañía estaba incumpliendo sus compromisos era "inexacta" [1]. La compañía también afirmó en mayo que se publicaría un informe técnico más detallado cuando la versión final de la familia de modelos Gemini 2.5 Pro estuviera disponible. Finalmente, un informe más completo fue publicado a finales de junio, meses después de que la versión completa estuviera disponible [1]. El portavoz reiteró que la compañía está cumpliendo con sus compromisos públicos, incluidos los Seoul Frontier AI Safety Commitments, y que Gemini 2.5 Pro había pasado rigurosos controles de seguridad, incluidas evaluaciones por parte de testers externos [1].

La carta también señala que la ausencia de la tarjeta de modelo para Gemini 2.5 Pro parecía contradecir otros compromisos asumidos por Google, como los White House Commitments de 2023 y un Código de Conducta voluntario sobre Inteligencia Artificial firmado en octubre de 2023 [1]. La situación no es exclusiva de Google. Meta enfrentó críticas similares por su tarjeta de modelo mínima y limitada para el modelo Llama 4, mientras que OpenAI optó por no publicar un informe de seguridad para su modelo GPT-4.1, citando su estatus de no-frontera [1]. Estos desarrollos sugieren una tendencia más amplia en la industria donde las divulgaciones de seguridad son cada vez menos transparentes o se omiten por completo.

La carta insta a Google a reafirmar sus compromisos de seguridad en IA definiendo claramente el despliegue como el momento en que un modelo se vuelve accesible al público, comprometiéndose a publicar informes de evaluación de seguridad en un plazo establecido para todos los lanzamientos futuros de modelos, y proporcionando total transparencia en cada lanzamiento al nombrar las agencias gubernamentales y terceros independientes involucrados en las pruebas, junto con los plazos exactos de las pruebas [1]. Lord Browne of Ladyton, firmante de la carta y miembro de la Cámara de los Lores, advirtió que si las principales compañías de IA tratan los compromisos de seguridad como opcionales, podría conducir a una peligrosa carrera por desplegar sistemas de IA cada vez más potentes sin las salvaguardas adecuadas [1].

Fuente: