"No son tus claves, no son tus bots": Balaji Srinivasan dice que el control de la IA dependerá de las claves cripto

El debate sobre la inteligencia artificial (IA) ya no se limita a la precisión de los modelos o la regulación. Las preguntas sobre control, propiedad y autonomía a largo plazo están pasando al centro de la discusión. En una reciente publicación en X titulada “Not Your Keys, Not Your Bots”, el inversor cripto y autor Balaji Srinivasan propuso un marco directo: quien controla las llaves, controla las máquinas.

Srinivasan: la IA aún necesita que los humanos establezcan sus objetivos

Srinivasan plantea el tema en términos sencillos, diciendo: “La cuestión fundamental es si la IA permanece atada.” Por ahora, afirma que los humanos siguen teniendo el control. Aunque la IA puede mejorar indicaciones, analizar problemas y corregir sus propios errores, una persona sigue decidiendo el objetivo. Los humanos marcan la dirección en función de los mercados, la política y los cambios sociales.

Aun así, se pregunta si este orden durará para siempre. A medida que los sistemas de IA mejoran y se vuelven mejores comprobando hechos y razonando, podrían realizar muchas tareas mejor que los humanos. Pero aún no está claro si la IA puede crear sus propios objetivos fundamentales. Srinivasan duda que la IA deje de necesitar que los humanos le den dirección en el corto plazo.

Él vincula esa incertidumbre con la biología. Las motivaciones humanas tienen sus raíces en presiones evolutivas como la supervivencia y la reproducción. A menos que los sistemas de IA puedan reproducirse independientemente de los humanos, sostiene, seguirán ligados a los objetivos definidos por sus creadores o propietarios.

La gobernanza podría pasar a la blockchain, sugiere Balaji

El inversor esboza un escenario más extremo para poner a prueba esa hipótesis. Una IA verdaderamente autónoma, argumenta, requeriría control sobre la infraestructura física sin supervisión humana. Eso incluiría:

• Robots humanoides capaces de actuar de manera independiente.
• Drones operando sin comando humano centralizado.
• Centros de datos funcionando fuera de estructuras corporativas o estatales tradicionales.
• Sistemas energéticos y líneas de ensamblaje gestionados completamente mediante coordinación entre máquinas.

Dicho desarrollo “no es técnicamente inconcebible”, escribió, pero las realidades geopolíticas pueden influir en el resultado. En China, argumenta, las autoridades probablemente diseñarán sistemas estrictamente controlados en lugar de sistemas autónomos. Bajo esa estructura, los robots y agentes digitales estarían ligados a identidades humanas mediante controles criptográficos.

Más allá de China, Srinivasan ve la criptografía basada en blockchain como una posible capa de gobernanza para la IA. La propiedad privada, en su opinión, podría adoptar cada vez más la forma de llaves privadas. Los robots y agentes de software funcionarían como extensiones de sus propietarios, asegurados mediante autenticación criptográfica. En ese modelo, el control sobre las llaves equivale al control sobre las máquinas.

Los robots independientes y sin ataduras serían considerados riesgos de seguridad más que avances. Humanos y máquinas cumplidoras cooperarían para evitar que cualquier sistema se replique fuera del control autorizado.

Aunque especulativo, el argumento de Srinivasan se cruza con debates más amplios sobre alineación de la IA, soberanía digital y propiedad de la infraestructura. Mientras los gobiernos redactan nuevas reglas y las empresas compiten por construir modelos más capaces, su mensaje para la comunidad cripto es directo: asegura las llaves y asegurarás los bots.