Los criminales están ‘hackeando el ambiente’ con IA a niveles sin precedentes: Anthropic

A pesar de las “sofisticadas” medidas de protección, la empresa de infraestructura de IA Anthropic afirma que los ciberdelincuentes siguen encontrando formas de utilizar indebidamente su chatbot de IA, Claude, para llevar a cabo ciberataques a gran escala. 

En un informe de “Threat Intelligence” publicado el miércoles, miembros del equipo de Threat Intelligence de Anthropic, incluidos Alex Moix, Ken Lebedev y Jacob Klein, compartieron varios casos en los que criminales habían hecho un uso indebido del chatbot Claude, con algunos ataques que exigían más de $500,000 en rescate.

Descubrieron que el chatbot se utilizaba no solo para proporcionar asesoramiento técnico a los delincuentes, sino también para ejecutar directamente hackeos en su nombre mediante “vibe hacking”, permitiéndoles realizar ataques con solo conocimientos básicos de codificación y cifrado.

En febrero, la empresa de seguridad blockchain Chainalysis pronosticó que las estafas cripto podrían  tener su mayor año  en 2025, ya que la IA generativa ha hecho que los ataques sean más escalables y asequibles. Anthropic  descubrió  a un hacker que había estado haciendo “vibe hacking” con Claude para robar datos sensibles de al menos 17 organizaciones —incluyendo instituciones de salud, servicios de emergencia, gobiernos e instituciones religiosas— con demandas de rescate que iban desde $75,000 hasta $500,000 en Bitcoin.

  Una nota de rescate simulada demuestra cómo los ciberdelincuentes aprovechan Claude para hacer amenazas. Fuente: Anthropic

El hacker entrenó a Claude para evaluar registros financieros robados, calcular montos de rescate apropiados y redactar notas de rescate personalizadas para maximizar la presión psicológica.

Aunque Anthropic posteriormente prohibió al atacante, el incidente refleja cómo la IA está facilitando que incluso los programadores de nivel más básico lleven a cabo ciberdelitos en un grado “sin precedentes”.

“Actores que no pueden implementar de forma independiente un cifrado básico o entender la mecánica de las llamadas al sistema ahora están creando con éxito ransomware con capacidades de evasión [e] implementando técnicas anti-análisis.”

Trabajadores de TI norcoreanos también utilizaron Claude de Anthropic

Anthropic también descubrió que trabajadores de TI norcoreanos han estado utilizando Claude para forjar identidades convincentes, aprobar pruebas técnicas de codificación e incluso conseguir puestos remotos en empresas tecnológicas Fortune 500 de Estados Unidos. También utilizaron Claude para preparar respuestas para entrevistas en esos puestos.

Claude también fue utilizado para realizar el trabajo técnico una vez contratados, señaló Anthropic, destacando que los esquemas de empleo estaban diseñados para canalizar ganancias al régimen norcoreano a pesar de las sanciones internacionales.

  Desglose de tareas impulsadas por Claude que han utilizado los trabajadores de TI norcoreanos. Fuente: Anthropic

A principios de este mes, un trabajador de TI norcoreano  fue contra-hackeado,  donde se descubrió que un equipo de seis compartía al menos 31 identidades falsas, obteniendo desde  identificaciones gubernamentales  y números de teléfono hasta la compra de cuentas de LinkedIn y UpWork para ocultar sus verdaderas identidades y conseguir trabajos en el sector cripto.

Supuestamente, uno de los trabajadores fue entrevistado para un puesto de ingeniero full-stack en Polygon Labs, mientras que otras pruebas mostraron respuestas de entrevistas guionizadas en las que afirmaban tener experiencia en  el marketplace de NFT OpenSea  y el proveedor de oráculos blockchain  Chainlink.

Anthropic afirmó que su nuevo informe tiene como objetivo discutir públicamente incidentes de uso indebido para ayudar a la comunidad más amplia de seguridad y protección de IA y fortalecer la defensa de la industria contra los abusadores de IA. 

Señaló que, a pesar de implementar “medidas sofisticadas de seguridad y protección” para prevenir el  uso indebido de Claude,  los actores maliciosos han seguido encontrando formas de eludirlas.