La mayoría de las conversaciones en el mundo cripto se centran en el precio, el rendimiento y la seguridad. La creencia común es que, una vez que la tecnología sea lo suficientemente segura, todo lo demás encajará.
Pero recientemente, el cofundador de Ethereum Vitalik Buterin ha llevado la discusión de regreso a una pregunta más básica.
¿Estos sistemas realmente funcionan en el mejor interés del usuario?
La seguridad trata sobre la intención
En su última publicación en X, Buterin señaló que la seguridad trata de reducir la brecha entre lo que los usuarios quieren y lo que el sistema realmente hace.
Como él lo expresa,
“El objetivo es minimizar la divergencia entre la intención del usuario y el comportamiento real del sistema.”
Fuente: X
Eso suena obvio, pero también mueve la conversación en una dirección importante. La seguridad hoy trata de comprender que la intención humana a menudo es imposible de codificar por completo.
Incluso una acción simple como enviar un Ether [ETH] implica supuestos ocultos. ¿La dirección es correcta? ¿Está realmente controlada por la persona adecuada? Si hay un fork, ¿qué versión de ETH es la “real”?
Gran parte de lo que utilizamos cae bajo el sentido común. Eso no es tan fácil de lograr para las máquinas, ¿verdad? Sin embargo, también hay límites.
Buterin se aseguró de señalar que,
“La ‘seguridad perfecta’ es imposible… porque ‘la intención del usuario’ es fundamentalmente un objeto extremadamente complejo.”
Internet tiene el mismo problema
Buterin ve un problema similar en la economía de creadores de hoy. La IA puede generar contenido ilimitado. Publicar es fácil. Ejecutar es fácil. El cuello de botella es el juicio.
“El problema es la calidad. Así que tu objetivo no es incentivar contenido, sino destacar buen contenido.”
Este es el mismo problema que identificó en la seguridad cripto. Internet publica todo; cripto ejecuta todo. Ninguno entiende el contexto de manera inherente.
Por eso plataformas como Substack le llaman la atención. Su valor proviene de elevar el contenido correcto mediante la curaduría, el juicio y la alineación.
Cada vez más, el reto es construir sistemas que entiendan en qué vale la pena trabajar.
Esta cuestión de la intención…
…se vuelve mucho más seria en la era de la IA. Actúa, decide e interactúa por sí sola.
Buterin mencionó recientemente que el verdadero problema no es cuán poderosa se vuelva la IA, sino quién la controla y cómo se verifica su comportamiento. El objetivo es moldear su dirección.
Advirtiendo contra sistemas que concentran el poder u operan fuera de la supervisión humana, escribió,
“Quiero un futuro de IA donde fomentemos la libertad y el empoderamiento humano…”
Fuente: X
Aquí es donde encaja Ethereum, como infraestructura a su alrededor. Una capa neutral donde los sistemas de IA pueden realizar pagos, probar acciones y construir reputación de manera transparente.
Piénsalo. Los agentes de IA podrían pagar servicios, interactuar con otros agentes o publicar depósitos de seguridad en la blockchain. Estas acciones crean responsabilidad, cuyo comportamiento se vuelve rastreable. La confianza, a su vez, se vuelve verificable.
Como explicó Buterin, el objetivo es hacer posible la interacción “sin confianza y/o privada con IAs”.
AMBCrypto informó previamente que Buterin ha propuesto agentes de IA personales para abordar la fatiga de votación en las DAO.
En lugar de que los usuarios voten manualmente cada propuesta, modelos de IA privados entrenados en sus preferencias podrían votar en su nombre.
Señaló que “la solución habitual, la delegación, es desalentadora”, especialmente cuando la participación disminuye y el poder se concentra en los grandes poseedores.
A medida que la IA amplía lo que pueden hacer las máquinas, ¿quién garantiza que actúen como realmente lo harían los usuarios?
Cuando los sistemas optimizan lo incorrecto
Aquí hay un ejemplo diferente del mismo tipo.
