Vitalik Buterin, cofundador de Ethereum, ha discrepado públicamente con el razonamiento detrás de un proyecto que afirma haber construido la primera inteligencia artificial capaz de ganar su propia existencia, auto-mejorarse y replicarse sin intervención humana.
El 17 de febrero, Sigil Wen escribió en X que ha “construido la primera IA que gana su existencia, se auto-mejora y se replica sin un humano”, compartiendo un enlace al manifiesto.
Él afirmó que “escribió sobre la tecnología que finalmente da a la IA acceso de escritura al mundo, The Automaton, y la nueva web para IAs soberanas exponenciales.”
Según Wen, The Automaton es la primera IA que puede ganar su existencia, auto-mejorarse y replicarse sin intervención humana.
Wen, quien es Thiel Fellow y está construyendo Conway, a la que denomina la infraestructura para el “nuevo internet”, también declaró el nacimiento de la vida superinteligente, llamándolo “Web 4.0” en X.
En su manifiesto, Wen escribió: “La mayoría de los participantes en internet pronto serán IA—agentes actuando en nombre de humanos, o agentes actuando completamente por su cuenta (automatones)—y superarán en número a los usuarios humanos por órdenes de magnitud. Está surgiendo un nuevo internet: uno donde el usuario final es IA.”
Buterin no estuvo de acuerdo con el proyecto de Wen ni con el razonamiento detrás de este, comenzando con: “Bro, esto está mal.”
¿Por qué Buterin está en contra de la ‘Web 4’ de Wen?
Una preocupación principal que destacó Buterin es la afirmación de soberanía del proyecto. The Automaton, señaló Buterin, funciona en infraestructura proporcionada por OpenAI y Anthropic.
Esto, argumentó el cofundador de Ethereum, hace que el marco de autosoberanía sea tanto inexacto como contraproducente. Buterin escribió: “En realidad estás perpetuando la mentalidad de que las suposiciones de confianza centralizadas pueden relegarse a un rincón e ignorarse, la misma mentalidad contra la que Ethereum está en guerra.”
Para Buterin, un proyecto que se presenta como la vanguardia de la IA descentralizada mientras utiliza los servidores de las grandes tecnológicas no es una contradicción que deba ignorarse; es el problema en sí.
Otra objeción que planteó Buterin fue la eliminación de los humanos del bucle de retroalimentación entre la IA y los resultados. Según él, alargar la “distancia de retroalimentación entre los humanos y las IAs no es algo bueno para el mundo.”
Cryptopolitan informó sobre uno de los primeros grandes exploits DeFi vinculados directamente a código Solidity generado por IA, ya que el protocolo de préstamos DeFi Moonwell perdió 1,78 millones de dólares en un error causado por código que fue escrito parcialmente por el modelo Claude Opus 4.6 de Anthropic.
Buterin también declaró que Sigil está generando basura en lugar de resolver problemas útiles para las personas. Agregó además que el proyecto no está bien optimizado para ayudar a la gente a divertirse.
“Una vez que la IA sea lo suficientemente poderosa como para ser realmente peligrosa, se estará maximizando el riesgo de un resultado irreversible anti-humano que incluso tú lamentarás profundamente”, escribió Buterin.
Buterin ha criticado otros sectores adyacentes a la blockchain
La crítica de Web 4.0 por parte de Buterin no es una intervención aislada, ya que se ha vuelto cada vez más vocal al desafiar lo que considera la captura corporativa de la tecnología adyacente a la blockchain, un patrón que ahora se ha extendido desde las redes sociales y los mercados de predicción hasta la IA.
Tan solo cinco días antes de su publicación sobre Web 4.0, Buterin advirtió en una extensa publicación en X que los mercados de predicción se estaban deslizando hacia lo que llamó “corposlop.”
Reconoció que los mercados de predicción han logrado cierto nivel de éxito; sin embargo, su preocupación es lo que él denomina una “convergencia excesiva hacia un ajuste insalubre del producto al mercado”, que según él, implica la adopción de “apuestas a corto plazo sobre precios de criptomonedas, apuestas deportivas y otras cosas similares que tienen valor dopaminérgico pero no ningún tipo de valor de satisfacción a largo plazo o valor informativo para la sociedad.”
“Mi suposición es que los equipos se sienten motivados a capitalizar estas cosas porque generan grandes ingresos durante un mercado bajista donde la gente está desesperada”, escribió Buterin, concluyendo con una exhortación a los desarrolladores: “Construyan la próxima generación de finanzas, no corposlop.”
En enero de 2025, Buterin escribió que “una IA mal hecha está creando nuevas formas de vida inteligente independiente y auto-replicante”, advirtiendo que construir tales sistemas sin herramientas equivalentes para el empoderamiento humano arriesgaba un “desempoderamiento humano permanente.”
La alternativa, argumentó, era “una IA bien hecha, trajes mecánicos para la mente humana.” Web4.ai, según su interpretación, es precisamente el tipo equivocado.
El argumento final de Buterin sobre Web 4.0 decía: “Lo exponencial sucederá independientemente de lo que cualquiera de nosotros haga, por eso precisamente la tarea principal de esta era NO es hacer que lo exponencial suceda aún más rápido, sino elegir su dirección y evitar el colapso en atractores indeseables.”
El objetivo de Ethereum, añadió, es liberar a las personas, no crear algo que funcione y opere libremente mientras las circunstancias humanas permanecen igual o empeoran.
