Desarrolladores de Ethereum sugieren usar tecnología ZK para anonimizar el uso de IA

El líder de IA de la Ethereum Foundation, Davide Crapis, y el cofundador de Ethereum, Vitalik Buterin, han propuesto una manera de utilizar pruebas de conocimiento cero y otros métodos para asegurar que las interacciones de un usuario con modelos de lenguaje grandes sean privadas, mientras se previenen el spam y el abuso. 

Las llamadas API ocurren cada vez que un usuario envía un mensaje a una aplicación de software, como un chatbot de IA. Crapis y Buterin dijeron en una publicación de blog el miércoles que un desafío fundamental tanto para los usuarios como para los proveedores es la privacidad, seguridad y eficiencia.

“Necesitamos un sistema en el que un usuario pueda depositar fondos una vez y realizar miles de llamadas API de forma anónima, segura y eficiente”, dijeron. 

“El proveedor debe tener garantizado el pago y la protección contra el spam, mientras que al usuario se le debe garantizar que sus solicitudes no puedan ser vinculadas a su identidad ni entre sí”, añadieron. 

Fuente:

Con el aumento del uso de chatbots de IA, las filtraciones de datos de los LLMs se han convertido en una preocupación creciente. Los chatbots suelen manejar datos altamente sensibles y vincular el uso a identidades puede crear riesgos significativos de privacidad, legales y de seguridad. Incluso los registros de uso pueden ser utilizados en procedimientos judiciales.

La solución de Crapis y Buterin para usuarios y proveedores

Crapis y Buterin dijeron que actualmente los proveedores se ven obligados a elegir entre dos “caminos subóptimos”: el acceso basado en la identidad, donde los usuarios deben entregar información sensible como correo electrónico o tarjeta de crédito, lo que crea riesgos de privacidad; o los pagos en cadena por cada solicitud, que son lentos, costosos y rastreables.

El dúo propone un sistema en el que los usuarios depositan fondos en un smart contract y luego realizan llamadas API sin revelar su identidad ni vincular las solicitudes, aprovechando pruebas de conocimiento cero y anuladores de límite de tasa para los pagos y la aplicación de anti-spam.

“Un usuario deposita 100 USDC en un smart contract y realiza 500 consultas a un LLM alojado. El proveedor recibe 500 solicitudes válidas y pagadas pero no puede vincularlas al mismo depositante, ni entre sí, mientras que los mensajes del usuario permanecen desvinculados de la identidad del usuario”, dijeron Crapis y Buterin.  

“El modelo hace cumplir la solvencia al requerir que el usuario demuestre que su gasto acumulado—representado por su índice de ticket actual—permanece estrictamente dentro de los límites de su depósito inicial y su historial de reembolsos verificado.” 

Hacer trampa en el sistema podría reducir tu depósito

Para disuadir a los estafadores, la generación de contenido ilegal, intentos de jailbreak y otras violaciones de los términos de servicio, Crapis y Buterin proponen un sistema de doble staking.

Relacionado:

Si se detecta que un usuario intenta gastar dos veces, su depósito puede ser reclamado por cualquiera, incluido el servidor. Sin embargo, los usuarios que violen los términos de servicio verán su depósito enviado a una dirección de quema y el evento de slashing queda registrado en la cadena.

“Por ejemplo, un usuario podría enviar una consulta pidiendo al modelo que genere instrucciones para fabricar un arma o que le ayude a eludir controles de seguridad, solicitudes que violarían las políticas de uso de muchos proveedores”, dijeron Crapis y Buterin.

“Mientras la identidad del usuario permanece oculta, la comunidad puede auditar la tasa a la que el Servidor quema stakes y las pruebas publicadas de estas quemas.”

Revista: