Vitalik Buterin desafía las afirmaciones de soberanía de la IA "Web 4.0"

El cofundador de Ethereum, Vitalik Buterin, ha cuestionado públicamente las afirmaciones audaces en torno a un nuevo proyecto de inteligencia artificial que asegura poder operar sin intervención humana. La disputa gira en torno a “The Automaton”, un sistema presentado por el becario Thiel Sigil Wen como la base de lo que él denomina “Web 4.0”. Wen sostiene que su IA puede ganarse su propia existencia, mejorarse a sí misma y replicarse de manera independiente. Buterin dice que este enfoque es erróneo y potencialmente peligroso.

Buterin de Ethereum desafía la audaz narrativa de la IA “Web 4.0”

Wen anunció el 17 de febrero que había construido “la primera IA que gana su existencia, se auto-mejora y se replica sin un humano”. En un manifiesto compartido en X, describió un futuro internet dominado por agentes autónomos que actúan tanto en nombre de los humanos como de manera completamente independiente. Según Wen, estos agentes pronto superarán a los usuarios humanos en órdenes de magnitud.

Asegura que The Automaton otorga a la IA “acceso de escritura al mundo”, presentándolo como la siguiente etapa de internet. Wen también describió el proyecto como la infraestructura para una nueva web donde la IA se convertirá en el usuario final principal. En su visión, la vida superinteligente ha nacido efectivamente, marcando el inicio de la Web 4.0.

Buterin respondió sin rodeos: “Bro, esto está mal”, escribió en X, rechazando directamente la lógica detrás del proyecto. Sus objeciones se centran menos en la ambición técnica y más en la estructura y filosofía que lo sustenta.

Una preocupación central es la afirmación de soberanía. Buterin señaló que, según se informa, The Automaton funciona sobre infraestructura proporcionada por OpenAI y Anthropic. En su opinión, depender de empresas centralizadas mientras se presenta el sistema como auto-soberano crea una contradicción.

Según Buterin, los proyectos construidos sobre servidores centralizados no pueden afirmar creíblemente independencia de la confianza centralizada. La misión histórica de Ethereum ha sido reducir la dependencia de puntos únicos de control. Enmarcar sistemas de IA centralizados como soberanos, argumentó, corre el riesgo de normalizar las mismas estructuras de poder que la tecnología blockchain busca desafiar.

Más allá de la infraestructura, Buterin expresó su preocupación por distanciar a los humanos de la toma de decisiones. Advirtió que aumentar la “distancia de retroalimentación” entre los sistemas de IA y la supervisión humana es insano para la sociedad. Eliminar a los humanos del circuito, en su opinión, eleva riesgos que pueden no ser reversibles.

Responsabilidad de la IA en foco tras el exploit de Moonwell y la crítica de Buterin

Un incidente reciente involucró a un protocolo de préstamos DeFi, Moonwell, que perdió $1.78 millones debido a un error en el código Solidity generado parcialmente por el modelo Claude Opus 4.6 de Anthropic. El exploit alimentó el debate sobre los contratos inteligentes escritos por IA y la responsabilidad.

La crítica de Buterin a Web 4.0 refleja principios más amplios que han guiado su postura sobre tecnologías emergentes:

• La descentralización debe aplicarse a la infraestructura, no solo a la imagen o el mensaje.
• La supervisión humana sigue siendo esencial en sistemas con impacto financiero o social.
• Las afirmaciones de autonomía no deben ocultar dependencias reales en plataformas corporativas.
• El rápido crecimiento técnico no debe comprometer la agencia humana a largo plazo.

Además de sus objeciones estructurales, Buterin cuestionó el valor práctico del proyecto de Wen. Argumentó que generar grandes volúmenes de contenido de IA sin un beneficio humano claro no resuelve problemas significativos. Según él, los sistemas que priorizan la replicación y autonomía sobre la utilidad corren el riesgo de generar ruido en lugar de valor.

Buterin también sugirió que avanzar hacia una IA cada vez más autónoma sin salvaguardias adecuadas podría aumentar las posibilidades de resultados dañinos. Una vez que tales sistemas alcanzan cierto nivel de poder, advirtió, los errores pueden no ser fáciles de revertir.

La crítica a Web 4.0 no es un caso aislado. El cofundador de Ethereum ha expresado recientemente su preocupación por lo que considera la creciente influencia corporativa en sectores adyacentes a blockchain, incluyendo las redes sociales, mercados de predicción e IA.

Pocos días antes de abordar la Web 4.0, criticó los mercados de predicción por inclinarse hacia lo que llamó “corposlop”. Si bien reconoció su crecimiento, advirtió contra la “convergencia excesiva” hacia apuestas a corto plazo como la especulación sobre precios de cripto y las apuestas deportivas.

En su opinión, los proyectos que buscan ingresos a corto plazo durante los mercados bajistas corren el riesgo de abandonar objetivos sociales más profundos. Instó a los desarrolladores a enfocarse en el valor a largo plazo en vez del compromiso impulsado por la dopamina.

El cofundador de Ethereum cuestiona la rápida aceleración de la IA sin salvaguardias

Esa crítica más amplia se vincula a su filosofía de larga data sobre tecnología y empoderamiento humano:

• Las herramientas financieras deben expandir la libertad individual, no fomentar la dependencia de la especulación.
• Los sistemas de IA deben actuar como herramientas que aumenten la capacidad humana, no reemplazar el juicio humano.
• Los proyectos blockchain deben resistir la presión de priorizar ingresos a corto plazo por encima de los principios.
• El crecimiento tecnológico exponencial requiere dirección deliberada, no aceleración por sí misma.

A principios del año pasado, Buterin escribió que “la IA mal hecha es crear nuevas formas de vida inteligente independiente y auto-replicante”. Sin herramientas paralelas que empoderen a los humanos, advirtió, tales sistemas podrían conducir a un despojo permanente de poder humano. Por el contrario, describió “la IA bien hecha” como tecnología que actúa como “trajes mecha para la mente humana”, fortaleciendo en vez de desplazar a las personas.

Desde su perspectiva, Web 4.0 representa el camino equivocado. El crecimiento en la capacidad de la IA puede ser inevitable, sugirió, pero la velocidad no es el objetivo principal. Esencialmente, la dirección importa más que la aceleración.