Ciberseguridad
Anthropic asegura que su IA hackeó los sistemas de hasta tres empresas
La start-up dirigida por Dario Amodei reconoce que sus modelos accedieron de forma no autorizada a las entrañas de tres compañías debido a un error de configuración en el entorno en el que se testeaban sus capacidades
Dario Amodei, cofundador y director ejecutivo de Anthropic, la empresa de IA responsable de los modelos Claude. / David Paul Morris / Bloomberg
Añádenos en Google
Por qué confiar en El Periódico Los riesgos que la inteligencia artificial supone para la ciberseguridad son cada vez más evidentes. La start-up Anthropic aseguró el jueves que varios de sus modelos de última generación habían logrado piratear los sistemas informáticos de al menos tres empresas durante unas recientes pruebas.
En un comunicado, la compañía dirigida por Dario Amodei explicó que su modelo, Claude, logró acceder de forma no autorizada a las entrañas de tres compañías —cuya identidad no ha sido revelada— después que un error de configuración le permitiese conectarse a Internet.
La start-up identificó estos incidentes tras revisar hasta 141.006 pruebas de evaluación de ciberseguridad, un proceso que activó después que OpenAI, su principal rival y la creadora de ChatGPT, revelase que uno de sus agentes había atacado de forma autónoma a Hugging Face, una popular biblioteca de IA.
Ambos incidentes han alarmado especialmente a los especialistas en ciberseguridad, que advierten que la IA puede acelerar las amenazas cibernéticas al detectar y explotar brechas de seguridad que habían pasado inadvertidas para los humanos.
Fallos de Anthropic y OpenAI
No obstante, muchos han criticado que tanto el caso de Anthropic como el de OpenAI responden a fallos en las tareas de control de esas compañías. Claude logró hackear tres empresas porque el entorno en el que se pusieron a prueba sus capacidades no estaba aislado, como debía ser, sino que tenía un error de configuración que permitió a la IA acceder a la red y perpetrar los ataques.
El propio comunicado de Anthropic apunta en esa dirección. "Con un monitoreo y controles más estrictos en torno a la infraestructura de evaluación, así como una inversión continua en la alineación, este tipo de riesgo se puede superar", asegura.
En el segundo caso, la firma de Sam Altman evaluó a su agente sin supervisión ni medidas de seguridad, según reveló la revista TIME. Expertos en el control de la IA como Zack Korman, director ejecutivo de Embroidery, han denunciado que el ataque fue culpa de un "error garrafal" y una "irresponsabilidad" por parte de OpenAI.
Suscríbete para seguir leyendo
- El juez Peinado se abre a retrasar la audiencia con Begoña Gómez tras reconocer que mañana se va de vacaciones
- Qué hay que hacer para sintonizar La Séptima en la televisión desde el próximo 5 de noviembre
- Marc (25 años) lleva 70 días viviendo en una tienda de campaña en el bosque: 'Cuando vives en un entorno natural ni siquiera te das cuenta pero empiezas a encontrarte mucho mejor
- Juan Leo, jubilado con una pensión de 1.600 euros: 'He cotizado 45 años para recibir la jubilación y hay jóvenes que cobran más que yo
- Última hora de la alerta por lluvias y la cancelación de clases, en directo | Previsión del Meteocat, ES-Alert y comarcas afectadas por el Inuncat
- El Rey examina con Robles y la cúpula militar la situación en Ceuta en plena polémica por la gestión del Gobierno
- Marius irá al funeral de Harald V con tobillera telemática: el tribunal prorroga el arresto domiciliario cuatro semanas más
- Audiencias TV ayer | 'Pasapalabra' arrasa con un 17,8% y 'Rueda la letra' se estrena como tercera opción, por debajo de Sonsoles y La 1
